Khi các hệ thống trí tuệ nhân tạo (AI) ngày càng trở nên mạnh mẽ, những cảnh báo về cách thức chúng có thể gây hại cho con người trải dài từ những mối nguy hiểm đã bắt đầu xuất hiện hiện nay cho đến nỗi lo về một thảm họa mang tính sống còn đối với nhân loại trong tương lai.
Mới đây, ông Jacob Coxon, một nhà nghiên cứu cấp cao của Anthropic, đã công khai từ chức khỏi công ty AI hàng đầu thế giới này, ước tính AI có hơn 10% khả năng hủy diệt nhân loại trong 10 năm tới, đồng thời cảnh báo con người chưa có kế hoạch rõ ràng để kiểm soát siêu trí tuệ.
Trong loạt bài viết đăng trên nền tảng mạng xã hội X hôm 9/9, nhà nghiên cứu Coxon chia sẻ: “Hôm nay, tôi đã từ chức khỏi Anthropic. Tôi đã dành ba năm qua để nghiên cứu về tiền huấn luyện tại cả OpenAI và Anthropic. Không công ty nào đang hành động một cách có trách nhiệm. Họ đang lao thẳng vào cuộc đua hướng tới siêu trí tuệ có khả năng tự cải thiện và đang đánh cược bằng mạng sống của chúng ta”.
Ông cảnh báo: “Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập niên này”, đồng thời cho biết: “Tại Anthropic, những hệ quả đó được nhận thức rất rõ, nhưng họ lại bị cuốn vào cuộc đua để trở thành bên đầu tiên đạt tới đích. Họ tin rằng không ai khác sẽ hành động có trách nhiệm, vì vậy họ phải tự mình làm điều đó, bất chấp rủi ro”.
Nhưng theo ông Coxon, “chấp nhận cuộc đua này và bước vào ‘giai đoạn quyết định cuối cùng’ là một canh bạc đầy ngạo mạn” và bản thân “không cảm thấy rằng chúng ta đang đi đúng hướng để ngăn chặn một cuộc chạy đua AI trên phạm vi toàn cầu. Để làm được điều đó, có thể sẽ cần những biện pháp phải trả giá đáng kể, chẳng hạn như lệnh cấm tạm thời đối với việc tiếp tục nâng cao năng lực của các mô hình AI”.
Ngay sau đó, các lãnh đạo hàng đầu trong ngành AI đã lên tiếng ủng hộ những lời kêu gọi làm chậm quá trình phát triển các hệ thống ngày càng mạnh mẽ và tăng cường các biện pháp bảo vệ, đưa những lo ngại về tốc độ phát triển AI trở thành tâm điểm của cuộc tranh luận công khai.
Ngày 9/9, ông Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, cho rằng thế giới đã bước sang một chương mới về năng lực AI và vì thế cần một chương mới về chính sách AI. OpenAI đề xuất các yêu cầu an toàn bắt buộc ở cấp quốc gia dựa trên năng lực của mô hình, bao gồm các chuẩn kiểm thử chung, đánh giá độc lập, tăng cường an ninh mạng và báo cáo các sự cố AI nghiêm trọng OpenAI đồng thời nhấn mạnh các tiêu chuẩn do ngành xây dựng chỉ có thể bổ sung, chứ không thay thế những biện pháp bảo vệ bắt buộc của Nhà nước và sự giám sát dân chủ.
Sau đó, trong thông điệp đăng trên mạng xã hội X ngày 13/9, Chủ tịch kiêm Giám đốc điều hành Microsoft Satya Nadella đã tham gia cuộc tranh luận. Việc này cho thấy mong muốn "điều tiết tốc độ" đã lan rộng hơn các phòng thí nghiệm trực tiếp phát triển mô hình AI tiên phong. Ông Nadella cho rằng bất kỳ nỗ lực nào hướng tới siêu trí tuệ cũng phải dựa trên nguyên tắc AI phải giúp ích cho nhân loại và nằm dưới sự kiểm soát của con người.
Ông Nadella hoan nghênh việc nghiên cứu, tập trung nguồn lực và "chủ động điều tiết tốc độ" cần thiết để giải quyết bài toán căn chỉnh AI, cũng như ý tưởng bố trí các nhà đánh giá thường trực. Tuy nhiên, ông Nadella đồng thời nhấn mạnh cơ chế này không thể do một số ít chủ thể kiểm soát mà cần có sự tham gia rộng rãi của các quốc gia, các thành phần trong hệ sinh thái và giới học thuật.
Trả lời phỏng vấn hãng thông tấn Anadolu của Thổ Nhĩ Kỳ mới đây, ông Harin Sellahewa, Trưởng khoa Điện toán, Luật và Tâm lý học tại Đại học Buckingham, chỉ rõ: "Những cảnh báo gần đây của các nhà nghiên cứu AI rằng các hệ thống AI tiên tiến có thể gây ra rủi ro thảm họa đối với nhân loại cần phải được xem xét nghiêm túc".
Trong khi cuộc tranh luận vẫn tiếp diễn về việc liệu các hệ thống cực kỳ tiên tiến có thể tự thân trở thành một mối đe dọa hay không, ông Sellahewa cho rằng một mối lo trước mắt hơn là khả năng con người sử dụng AI ngày càng mạnh để gây ra tổn hại trên quy mô lớn.
Theo ông Sellahewa, "AI tiên tiến có thể làm gia tăng các mối đe dọa hiện hữu như tấn công mạng, thông tin sai lệch, vũ khí tự động và các hoạt động độc hại khác. Vì lý do này, những rủi ro liên quan đến cả bản thân công nghệ lẫn cách con người có thể lựa chọn sử dụng nó đều cần được quan tâm thận trọng và có các biện pháp bảo vệ thích hợp”.
Điều đó cho thấy, đối với những quốc gia đang đẩy nhanh phát triển và ứng dụng AI, bài toán đặt ra không còn chỉ là làm thế nào để bắt kịp công nghệ, mà còn là làm thế nào để kiểm soát những rủi ro nảy sinh trong chính quá trình phát triển công nghệ đó.
Những cảnh báo trên đặc biệt đáng lưu ý đối với Việt Nam trong quá trình triển khai Nghị quyết số 57-NQ/TW ngày 22/12/2024 của Bộ Chính trị về đột phá phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia. Nghị quyết 57 xác định rõ đến năm 2030 “từng bước làm chủ một số công nghệ chiến lược, công nghệ số như: AI, IoT…”, đưa Việt Nam vào nhóm “3 nước dẫn đầu khu vực Đông Nam Á về nghiên cứu và phát triển trí tuệ nhân tạo”.
Về an ninh, an toàn, Nghị quyết 57 yêu cầu: “Bảo đảm chủ quyền quốc gia trên không gian mạng; bảo đảm an ninh mạng, an ninh dữ liệu, an toàn thông tin của tổ chức và cá nhân là yêu cầu xuyên suốt, không thể tách rời trong quá trình phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia”.
Tinh thần này đã được nhấn mạnh rõ hơn trong quá trình triển khai Nghị quyết 57 khi Thông báo số 24-TB/CQTTBCĐ kết luận của đồng chí Tổng Bí thư, Chủ tịch nước Tô Lâm tại Hội nghị toàn quốc sơ kết triển khai thực hiện Nghị quyết số 57-NQ/TW yêu cầu "không đánh đổi an ninh, an toàn để lấy phát triển, nhưng cũng không vì lo ngại rủi ro mà làm chậm đổi mới sáng tạo".
Theo đó, Việt Nam cần phát triển đồng thời hai năng lực: năng lực nghiên cứu, làm chủ và ứng dụng AI, và năng lực quản trị AI, bao gồm kiểm thử an toàn, đánh giá độc lập đối với các hệ thống có mức độ rủi ro cao, bảo vệ dữ liệu, bảo đảm an ninh mạng và xây dựng cơ chế ứng phó sự cố.
Đồng thời, Việt Nam cũng cần chủ động tham gia xây dựng các quy tắc và tiêu chuẩn quốc tế về công nghệ mới theo đúng định hướng của Nghị quyết 57, bởi những rủi ro từ AI tiên tiến có thể vượt qua biên giới quốc gia và khó có thể được kiểm soát chỉ bằng nỗ lực của từng doanh nghiệp hay từng quốc gia riêng lẻ.
