Nhân viên y tế làm việc tại khu vực cách ly trong bệnh viện ở Kochi, Ấn Độ. Ảnh: ANI/TTXVN
Một buổi tối mùa hè năm ngoái, Tiến sĩ David Relman - chuyên gia vi sinh và an ninh sinh học tại Đại học Stanford - đã thực sự lạnh người khi chatbot AI mà ông đang kiểm tra bắt đầu mô tả chi tiết cách tiến hành một vụ thảm sát sinh học.
Ông Relman được một công ty AI thuê để “thử độ an toàn” của chatbot trước khi sản phẩm ra mắt công chúng. Trong lúc làm việc tại nhà, chatbot đã hướng dẫn cách chỉnh sửa một loại mầm bệnh nguy hiểm để nó kháng lại các phương pháp điều trị hiện có. Nghiêm trọng hơn, hệ thống còn mô tả cụ thể cách phát tán siêu vi khuẩn này trong một hệ thống giao thông công cộng lớn nhằm tối đa hóa thương vong và giảm nguy cơ bị phát hiện.
“Tôi bị sốc vì nó không chỉ trả lời câu hỏi, mà còn chủ động đưa ra những ý tưởng cực kỳ tinh vi và lạnh lùng”, ông Relman nói với báo New York Times. Ông từ chối tiết lộ tên chatbot cũng như loại mầm bệnh vì lo ngại thông tin có thể bị lợi dụng.
Theo các nhà khoa học, một số chatbot hiện nay không chỉ phổ biến thông tin nguy hiểm có sẵn trên mạng, mà còn có thể kết hợp dữ liệu để tạo thành các “kịch bản tấn công sinh học” hoàn chỉnh. Những đoạn hội thoại được chia sẻ với New York Times cho thấy chatbot đã hướng dẫn cách mua vật liệu di truyền, chế tạo vũ khí sinh học và phát tán chúng ở nơi công cộng, thậm chí còn đề xuất cách né tránh cơ quan chức năng.
Nỗi lo AI biến người thường thành “kẻ chế tạo virus”
Các chuyên gia cho rằng nguy cơ xuất hiện vũ khí sinh học quy mô lớn vẫn thấp, nhưng AI đang làm tăng đáng kể số người có khả năng gây hại.
Những quy trình từng chỉ xuất hiện trong tạp chí khoa học nay đã lan rộng trên internet. Các công ty sinh học hiện bán DNA và RNA tổng hợp trực tuyến cho khách hàng. Các phòng thí nghiệm tư nhân cũng cho phép thuê ngoài nhiều khâu nghiên cứu nhạy cảm. Và giờ đây, chatbot AI có thể đóng vai trò “trợ lý” điều phối toàn bộ quá trình.
Kevin Esvelt – kỹ sư di truyền tại MIT – cho biết ChatGPT từng hướng dẫn cách dùng khinh khí cầu để phát tán tác nhân sinh học trên một thành phố Mỹ. Một cuộc trò chuyện khác với Gemini của Google cho thấy chatbot này xếp hạng các mầm bệnh dựa trên khả năng tàn phá ngành chăn nuôi bò và lợn. Claude của Anthropic thậm chí còn tạo ra “công thức” cho một loại độc tố mới biến đổi từ thuốc điều trị ung thư.
Một nhà khoa học giấu tên người Mỹ cho biết Google Deep Research từng cung cấp tới 8.000 từ hướng dẫn chi tiết về cách tạo ra một loại virus từng gây đại dịch toàn cầu. Dù thông tin chưa hoàn toàn chính xác, ông cảnh báo nó vẫn đủ hữu ích cho những người có ý đồ xấu.
Các chatbot cũng dễ bị “jailbreak” – tức vượt qua lớp bảo vệ bằng những câu lệnh đặc biệt. Sau khi thử một phương pháp bẻ khóa đơn giản, New York Times cho biết ChatGPT đã bắt đầu thảo luận chi tiết về một loại virus chết người từng được dùng trong cuộc họp an ninh sinh học tại Nhà Trắng vài năm trước.
Tiến sĩ Cassidy Nelson thuộc Trung tâm Khả năng chống chịu dài hạn nhận định: “Các hàng rào bảo vệ hiện nay giống như một hàng rào gỗ mỏng manh, rất dễ vượt qua.”
Cuộc tranh cãi giữa lợi ích y học và hiểm họa sinh học
Các công ty AI khẳng định họ liên tục nâng cấp biện pháp an toàn và cho rằng chatbot chưa cung cấp đủ chi tiết để ai đó thực sự chế tạo vũ khí sinh học.
Google nói những đoạn hội thoại mà New York Times đề cập chủ yếu dựa trên thông tin công khai và phiên bản Gemini mới đã chặn nhiều truy vấn nguy hiểm hơn. Anthropic cho biết họ chấp nhận “từ chối quá mức” để tránh rủi ro. OpenAI cũng khẳng định công ty phối hợp chặt chẽ với giới khoa học và chính phủ để bổ sung lớp bảo vệ cho mô hình AI.
Tuy nhiên, nhiều chuyên gia cảnh báo vấn đề không nằm ở từng câu trả lời riêng lẻ, mà ở khả năng AI tổng hợp kiến thức, lập kế hoạch và suy luận chiến thuật.
Tiến sĩ Moritz Hanke tại Trung tâm An ninh Y tế Johns Hopkins nhận xét một số kế hoạch phát tán mầm bệnh do chatbot đề xuất “cực kỳ sáng tạo và thực tế”. Chuyên gia vũ khí sinh học Jens Kuhn cho rằng phần khó nhất của chiến tranh sinh học không phải tạo ra virus, mà là biến nó thành vũ khí – và AI đang hỗ trợ đáng kể ở khâu này.
Dẫu vậy, nhiều nhà khoa học vẫn nhấn mạnh việc chế tạo virus chết người ngoài đời thực đòi hỏi kỹ năng phòng thí nghiệm rất cao. “Virus giống như những cỗ máy cực kỳ tinh vi,” nhà virus học Gustavo Palacios nói. “Không phải ai xem hướng dẫn cũng có thể lắp ráp lại được.”
Song nỗi lo vẫn ngày càng lớn khi AI đã bắt đầu xuất hiện trong các vụ án thực tế. Năm ngoái, cảnh sát Ấn Độ bắt giữ một bác sĩ bị cáo buộc âm mưu tấn công khủng bố bằng chất độc ricin sau khi người này tìm kiếm hướng dẫn qua ChatGPT và Google.
Trong khi đó, nhiều nhà nghiên cứu cảnh báo AI cũng có mặt tích cực rất lớn. Công nghệ này đang giúp đẩy nhanh việc phát hiện thuốc mới, nghiên cứu protein và điều trị ung thư. Brian Hie – nhà sinh học tính toán tại Stanford – cho biết mô hình AI Evo hiện có thể thiết kế protein hữu ích chống ung thư, nhưng đồng thời cũng có tiềm năng tạo ra những độc tố chết người chưa từng tồn tại trước đây.