Trước khi nhà nghiên cứu an toàn AI Jacob Coxon từ chức tại Anthropic và cảnh báo nguy cơ tuyệt chủng của loài người hồi tuần trước, những cảnh báo về một hệ thống AI siêu thông minh vượt khỏi tầm kiểm soát đã xuất hiện nhiều lần.
Năm 2014, nhà vật lý thiên văn Stephen Hawking cảnh báo sự phát triển của AI “có thể dẫn tới cái kết cho loài người”. Khi đó, AI tạo sinh vẫn còn ở giai đoạn sơ khai và khả năng công nghệ thực hiện hàng loạt công việc như hiện nay vẫn được xem là điều xa vời.
Hơn một thập kỷ sau, những cảnh báo tương tự đã trở thành chủ đề quen thuộc trong ngành công nghệ, đặc biệt tại các phòng thí nghiệm AI hàng đầu Mỹ.
Từ cảnh báo an toàn đến những cuộc chia rẽ
Theo truyền thông Anh, mỗi vài năm, ngành AI lại chứng kiến một cuộc tranh luận về rủi ro công nghệ. Các nhà nghiên cứu và lãnh đạo doanh nghiệp cảnh báo việc phát triển AI thiếu kiểm soát có thể gây hậu quả nghiêm trọng. Nhưng thay vì dừng cuộc đua, một số người rời công ty để thành lập doanh nghiệp mới với cam kết xây dựng AI an toàn hơn.
Sự việc gần đây tại Anthropic gây chú ý đặc biệt. Ngày 9/9, ông Coxon viết rằng Anthropic và OpenAI đang “lao thẳng vào cuộc đua phát triển siêu trí tuệ có khả năng tự cải thiện, đánh cược với mạng sống của chúng ta”. Hàng chục nhân viên từ các công ty AI khác cũng bày tỏ những lo ngại tương tự.
CEO Anthropic Dario Amodei sau đó kêu gọi ngành công nghệ làm chậm cách tiếp cận mà ông cho là “liều lĩnh”. Theo ông, AI tiềm ẩn nguy cơ mất kiểm soát, bị lợi dụng cho tấn công mạng, khủng bố sinh học và gây xáo trộn nghiêm trọng nền kinh tế. Cuộc đua được thúc đẩy bởi lợi ích thương mại có thể khiến những rủi ro này gia tăng.
Tuy nhiên, các cảnh báo về một kịch bản “ngày tận thế” thường chưa đi kèm bằng chứng cụ thể. Giáo sư Hawking từng lo ngại AI có thể tự thiết kế và cải thiện chính nó, khiến con người với tốc độ tiến hóa sinh học chậm hơn không thể cạnh tranh và cuối cùng bị thay thế.
Hàng trăm tỷ USD thúc đẩy cuộc đua
Nỗi lo về AI nguy hiểm từng là một trong những động lực dẫn tới sự ra đời của OpenAI năm 2015. Elon Musk và Sam Altman khi đó muốn phát triển công nghệ theo hướng có lợi cho nhân loại.
Nhưng yếu tố cạnh tranh cũng xuất hiện ngay từ đầu. Trong một email năm 2015 được công khai trong vụ kiện giữa tỷ phú Musk và OpenAI, CEO Altman thừa nhận gần như không thể ngăn nhân loại phát triển AI. Nếu công nghệ chắc chắn sẽ xuất hiện, ông cho rằng tốt hơn là một công ty khác ngoài Google phát triển nó trước.
Những năm sau đó, một số nhân viên OpenAI cho rằng công ty này ngày càng ưu tiên tốc độ thương mại hóa hơn an toàn. Năm 2021, nhiều nhân sự phụ trách đạo đức và kiểm soát AI rời OpenAI để thành lập Anthropic.
Theo bà Sarah Myers West, đồng giám đốc điều hành Viện AI Now, các công ty AI lớn đều có chung một tâm lý: nếu họ không phát triển công nghệ, đối thủ sẽ làm điều đó. Tâm lý này đang thúc đẩy một cuộc đua ngày càng khốc liệt.
Áp lực tài chính càng khiến tình hình phức tạp. Anthropic đã huy động hơn 130 tỷ USD, còn nguồn vốn của OpenAI vượt 190 tỷ USD. Cả hai đều hướng tới khả năng phát hành cổ phiếu lần đầu tại Mỹ.
Chuyên gia cho rằng khi hàng tỷ USD được đổ vào việc xây dựng các hệ thống AI ngày càng lớn, những khoản đầu tư cho các giao thức an toàn cơ bản có thể trở thành phần đầu tiên bị cắt giảm.
AI vẫn tiến lên bỏ qua cảnh báo
Google cũng từng trải qua những tranh luận tương tự. Năm 2020, nhà nghiên cứu Timnit Gebru rời nhóm AI đạo đức của Google sau tranh cãi liên quan đến một nghiên cứu về thành kiến và tác hại của các hệ thống AI. Bà hiện cho rằng những kịch bản AI hủy diệt nhân loại có thể làm lu mờ các tác động tiêu cực đang xảy ra trong thực tế.
Năm 2023, Geoffrey Hinton, một trong những nhà tiên phong của AI và chủ nhân giải Nobel, cũng rời Google vì lo ngại công nghệ có thể bị các tác nhân xấu lợi dụng và gây tổn hại cho con người. Những mâu thuẫn về an toàn AI hiện đã quay trở lại ngay tại Anthropic, công ty vốn được thành lập bởi các cựu nhân viên OpenAI vì chính những lo ngại này.
Tháng 7, hơn 1.000 nhân viên và lãnh đạo từ Anthropic, Google, Meta và OpenAI ký kiến nghị kêu gọi Chính phủ Mỹ tạo động lực làm chậm tốc độ phát triển AI. Động thái diễn ra sau khi OpenAI và Anthropic lần lượt công bố các vụ việc liên quan đến tác nhân AI xâm nhập hệ thống của những công ty bên ngoài.
Năm 2023, một thư ngỏ tương tự từng kêu gọi tạm dừng sáu tháng phát triển các mô hình AI tiên tiến. Tuy nhiên, các công ty vẫn tiếp tục cải tiến và phát hành những hệ thống mới.
Việc nhà nghiên cứu AI Coxon từ chức một lần nữa cho thấy nghịch lý của ngành AI: những người lo ngại sâu sắc nhất về nguy cơ công nghệ vượt khỏi tầm kiểm soát đôi khi lại chính là những người đang làm việc bên trong các công ty dẫn đầu cuộc đua. Khi áp lực cạnh tranh và lợi ích thương mại ngày càng lớn, những cảnh báo về “ngày tận thế” dường như vẫn chưa đủ sức khiến AI chậm lại.
