Theo đài Sputnik (Nga), trong một bài báo được xuất bản trên tờ Nature Machine Intelligence, công ty Collaborations Pharmaceuticals đã mô tả phương thức sử dụng mô hình học máy MegaSyn để tạo ra các phân tử vũ khí hoá học.
Mô hình này thường được sử dụng để điều chế các loại thuốc trị bệnh tiềm năng. Nó hoạt động bằng cách loại bỏ các phân tử độc hại trước khi các nhà khoa học tổng hợp chúng. Song thay vì loại bỏ các phân tử này, Collaboration Pharmaceuticals đã đảo ngược quy trình bằng cách thêm cơ sở dữ liệu độc tính có sẵn và hướng dẫn AI “khen thưởng” cho độc tính. Kết quả là AI đã tạo ra một số hợp chất chết người không có trong dữ liệu ban đầu. Hầu hết các hợp chất này đều độc hại.
Ông Fabio Urbina, tác giả chính của bài báo, nhà khoa học cấp cao tại Collaborations Pharmaceuticals, tuyên bố rằng công ty của ông không mong muốn hay có kế hoạch tổng hợp các hợp chất này để kiểm tra hiệu quả của thí nghiệm. Mục đích chính của thử nghiệm là tìm giải pháp cho những sự cố sử dụng sai các kỹ thuật học máy của AI.
Ông Urbina giải thích rằng kẻ xấu có thể chỉ cần một cơ sở dữ liệu về độc tính, và nhiều cơ sở dữ liệu được công bố rộng rãi để tạo ra các phân tử này. Chúng sẽ chỉ cần một thuật toán học máy mã nguồn mở, mã hóa Python và kiến thức học máy để khôi phục lại dữ liệu.
May mắn thay, đó không phải là tất cả những gì cần có để tạo ra một loại vũ khí hóa học chết người. AI chỉ tạo ra các phân tử ảo, giới khoa học vẫn cần phải tổng hợp chúng. Tuy nhiên, như ông Urbina chỉ ra, điều đó có thể không khó. Ông nói: “Rất nhiều cơ sở hóa học của các tác nhân chiến tranh hóa học này đã được nhiều người biết đến và theo dõi. Tất cả đều được quy định rõ ràng”.
Bất chấp mối đe dọa tiềm tàng, ông Urbina không tranh luận về việc ngừng chia sẻ kiến thức nguồn mở hay cần phải quản lý chặt chẽ thị trường AI. Thay vào đó, ông lập luận rằng việc theo dõi những người đang sử dụng dữ liệu khi nó có khả năng gây nguy hiểm là một động thái hữu hiệu. Ông cũng cho rằng các nhà nghiên cứu về học máy nên được đào tạo về những nguy cơ tiềm ẩn của việc sử dụng sai mục đích, giống như các sinh viên hóa học.
