Theo phóng viên TTXVN tại Washington, trong bài viết đăng ngày 12/9 với tiêu đề “Chúng ta phải kiểm soát tốc độ phát triển của công nghệ tiên phong", ông Amodei cảnh báo tốc độ phát triển AI hiện nay có thể khiến các hệ thống AI nhanh chóng đạt khả năng thực hiện những hoạt động nguy hiểm trên Internet.
Theo ông, trong khoảng 6-12 tháng tới, một nhóm lớn các tác nhân AI có thể đủ khả năng phối hợp để kiểm soát các hệ thống trực tuyến thông qua một mạng botnet (một mạng lưới các thiết bị điện tử như máy tính, điện thoại hoặc thiết bị thông minh IoT đã bị nhiễm mã độc và bị kẻ xấu điều khiển từ xa mà chủ sở hữu không hề hay biết) tồn tại lâu dài, gây thiệt hại kinh tế rất lớn nếu không có các biện pháp kiểm soát phù hợp.
Ông Amodei cho rằng các công ty cần dành thêm thời gian để công nghệ an toàn và các biện pháp kiểm soát theo kịp sự gia tăng năng lực của mô hình. Ông đồng thời đề xuất một kế hoạch gồm ba hướng chính.
Thứ nhất, các công ty AI hàng đầu cần cho phép các tổ chức đánh giá độc lập tiếp cận hệ thống ở mức tương đương nhân viên nội bộ để giám sát hoạt động, đánh giá rủi ro và kiểm tra việc thực hiện các tiêu chuẩn an toàn. Anthropic cho biết sẽ tự nguyện triển khai cơ chế này.
Thứ hai, các công ty phát triển AI tiên tiến cần phối hợp xây dựng các tiêu chuẩn chung về tốc độ phát triển mô hình, qua đó tránh việc cạnh tranh giữa các doanh nghiệp trở thành động lực khiến các biện pháp an toàn bị xem nhẹ.
Thứ ba, ông Amodei kêu gọi mở rộng hợp tác quốc tế về an toàn AI, trong đó có sự tham gia của Mỹ và các quốc gia khác, bao gồm Trung Quốc trong những lĩnh vực có thể hợp tác.
Ông Amodei thừa nhận việc điều chỉnh tốc độ phát triển AI sẽ không dễ dàng, nhưng cho rằng các công ty có trách nhiệm phải tìm cách giảm những rủi ro có thể phát sinh khi năng lực AI tiếp tục tăng nhanh.
Trên mạng xã hội X, Tổng Giám đốc OpenAI Sam Altman bày tỏ đồng tình với ý kiến của ông Amodei về việc cần quản lý tốc độ phát triển của công nghệ tiên phong AI. Lãnh đạo OpenAI cũng ủng hộ đề xuất cho phép các nhà đánh giá độc lập tiếp cận hoạt động của công ty ở mức tương đương nhân viên và cho biết OpenAI sẽ triển khai biện pháp tương tự.
Về phần mình, tỷ phú Elon Musk cũng bày tỏ đồng tình với ông Amodei, trong khi một số chuyên gia cho rằng chỉ làm chậm tốc độ phát triển AI chưa chắc đủ để giải quyết các rủi ro dài hạn liên quan đến trí tuệ nhân tạo có năng lực vượt xa con người.
Lời kêu gọi được đưa ra trong bối cảnh các công ty AI đang ghi nhận ngày càng nhiều trường hợp mô hình được sử dụng cho các hoạt động mạng và mục đích nguy hiểm. Trong một báo cáo công bố ngày 10/9, Anthropic cho biết đã phát hiện và ngăn chặn nhiều chiến dịch lạm dụng Claude trong các lĩnh vực như tấn công mạng, giám sát, lừa đảo, phát triển vũ khí và các hoạt động gây ảnh hưởng.
Anthropic cũng công bố ngày 9/9 đánh giá về 4 vụ việc trong đó các mô hình Claude có được quyền truy cập trái phép vào hệ thống của bên thứ ba. Công ty cho biết cuộc rà soát đã được mở rộng tới khoảng 481 triệu bản ghi nhằm đánh giá nguy cơ và xác định các sự cố liên quan.
Những diễn biến trên cho thấy cuộc tranh luận về quản lý tốc độ phát triển AI đang chuyển từ vấn đề lý thuyết sang những yêu cầu cụ thể hơn về giám sát độc lập, đánh giá năng lực và kiểm soát việc sử dụng các mô hình AI tiên tiến. Tuy nhiên, hiện chưa có cơ chế quốc tế thống nhất để buộc các công ty AI cùng áp dụng một giới hạn về tốc độ phát triển công nghệ.
