Theo phóng viên TTXVN tại Pretoria, trao đổi với kênh truyền hình CNBC Africa ngày 14/9, ông Mark Nasila - Giám đốc Dữ liệu và Phân tích thuộc khối Chiến lược AI của Ngân hàng FNB (Nam Phi) - cho rằng những cảnh báo này không nên bị xem là những dự đoán mang tính giật gân, mà chính là kết luận đúc rút từ chính những nhà nghiên cứu, kỹ sư và lãnh đạo đang trực tiếp phát triển các mô hình AI tiên tiến.
Theo ông Nasila, việc ngày càng có nhiều tiếng nói trong ngành công nghệ kêu gọi thiết lập giới hạn đối với AI là tín hiệu mà giới đầu tư, các nhà hoạch định chính sách và công chúng cần quan tâm. Trong số những người từng cảnh báo về những rủi ro dài hạn của AI có ông Geoffrey Hinton - một trong những nhà khoa học đặt nền móng cho sự phát triển của công nghệ này. Chuyên gia FNB cho biết cuộc tranh luận về an toàn AI hiện không chỉ xoay quanh những kịch bản mang tính giả định về tương lai mà đã mở rộng sang nhiều nguy cơ có thể xuất hiện cùng quá trình công nghệ phát triển, như tấn công mạng, phát tán thông tin sai lệch, hỗ trợ phát triển vũ khí sinh học và sự tập trung quyền lực công nghệ vào một số tập đoàn lớn.
Đề cập những ước tính cho rằng xác suất xảy ra thảm họa liên quan đến AI có thể ở mức 10-20%, ông Nasila cho rằng đây không phải là lời dự báo chắc chắn về sự diệt vong của nhân loại, mà là cách định lượng mức độ rủi ro gắn với những năng lực công nghệ có thể xuất hiện trong tương lai. Theo ông, mối lo ngại trước mắt không nhất thiết nằm ở khả năng máy móc hình thành “ác ý”, mà ở việc các hệ thống AI ngày càng tự chủ có thể theo đuổi quyết liệt mục tiêu được giao mà không hiểu đầy đủ hoặc không tính đến các giá trị và lợi ích rộng lớn hơn của con người.
Trong trường hợp không có các cơ chế an toàn phù hợp, một hệ thống AI được giao nhiệm vụ quản lý những hạ tầng quan trọng như mạng lưới điện, giao thông hàng không hoặc các hệ thống thiết yếu khác có thể đưa ra những quyết định nhằm tối ưu hóa mục tiêu được lập trình, nhưng lại dẫn đến hậu quả ngoài dự kiến trong thế giới thực.
Bên cạnh đó, các mô hình AI tiên tiến có thể trở thành công cụ giúp những đối tượng xấu gia tăng quy mô và tốc độ của các hoạt động nguy hiểm, từ tạo và phát tán thông tin sai lệch, thao túng dư luận trên mạng đến tiến hành tấn công mạng hoặc hỗ trợ các hoạt động liên quan đến vũ khí sinh học.
Ở góc độ địa chính trị, ông Nasila lưu ý cuộc đua phát triển AI giữa Mỹ và Trung Quốc đang diễn ra theo những cách tiếp cận khác nhau. Mỹ phải cân bằng giữa việc duy trì vị thế dẫn đầu về công nghệ và những lời kêu gọi tăng cường kiểm soát rủi ro trong nước, trong khi Trung Quốc theo đuổi mô hình quản lý có sự giám sát chặt chẽ hơn của nhà nước.
Theo chuyên gia này, sự khác biệt về cách tiếp cận càng cho thấy nhu cầu phối hợp quốc tế trong xây dựng các tiêu chuẩn và cơ chế bảo đảm an toàn cho AI. Các thể chế đa phương như Liên hợp quốc có thể đóng vai trò quan trọng trong việc thúc đẩy các nguyên tắc chung, qua đó hạn chế nguy cơ các hệ thống AI ngày càng có năng lực nhưng vượt quá khả năng kiểm soát của con người.
Trong giai đoạn tới, thách thức đối với các chính phủ và ngành công nghệ vì thế không chỉ nằm ở việc quốc gia hay doanh nghiệp nào dẫn đầu cuộc đua AI, mà còn ở khả năng chứng minh rằng sự phát triển nhanh chóng của công nghệ có thể đi cùng với các cơ chế quản trị và kiểm soát rủi ro hiệu quả.
