#kiểm soát AI

Đề xuất của CEO Microsoft Satya Nadella về cơ chế giám sát độc lập và “phanh khẩn cấp” cho trí tuệ nhân tạo (AI) cho thấy kiểm soát công nghệ không thể chỉ dựa vào độ tin cậy của mô hình. Khi AI ngày càng có khả năng tự thực hiện nhiệm vụ, yêu cầu đặt ra là phải thiết kế hệ thống để con người có thể giám sát, giới hạn và can thiệp kịp thời. Cách tiếp cận này cũng gợi mở những giải pháp bảo đảm an ninh, an toàn công nghệ cho Việt Nam trong quá trình thực hiện Nghị quyết 57 và Thông báo 24.

Ngày 10/10, Chủ tịch kiêm Giám đốc điều hành (CEO) của Microsoft, ông Satya Nadella, đã kêu gọi xây dựng các hệ thống trí tuệ nhân tạo (AI) tiên tiến đi kèm với các cơ chế kiểm soát phạm vi hoạt động, hệ thống giám sát độc lập và một "phanh khẩn cấp" cho phép những người có thẩm quyền tạm dừng hoặc tắt mô hình ngay khi nó đang vận hành.

Một mô hình AI của Anthropic đã tự động gửi tin báo giả về vụ án mạng chưa được phá tới trang web tiếp nhận thông tin của cảnh sát Philadelphia, Mỹ, trong một cuộc thử nghiệm hồi tháng 7. Tuy tin báo bị chuyển vào mục thư rác và không ảnh hưởng đến cuộc điều tra, cảnh sát vẫn chỉ trích công ty vì chậm phát hiện và thông báo sự cố.

Từ việc AI được sử dụng để tăng tốc các cuộc tấn công mạng đến sự xuất hiện của những hệ thống ngày càng tự chủ, bài toán không còn đơn thuần là phát triển AI nhanh đến đâu mà là con người có đủ năng lực kiểm soát sức mạnh đó hay không. Với Việt Nam, đây cũng là vấn đề cần được đặt ra trong quá trình thực hiện Nghị quyết 57-NQ/TW.

Tổng thống Mỹ Donald Trump và lãnh đạo một số công ty công nghệ lớn nhất thế giới đã ký một thỏa thuận cam kết tăng cường các biện pháp bảo vệ nội bộ với những hệ thống trí tuệ nhân tạo (AI) tiên tiến.

Tổng thống Mỹ đã có cuộc gặp lãnh đạo các tập đoàn công nghệ và trí tuệ nhân tạo (AI) hàng đầu tại Nhà Trắng trong bối cảnh gia tăng yêu cầu về việc làm thế nào để vừa duy trì tốc độ phát triển AI, vừa kiểm soát những rủi ro ngày càng rõ rệt của công nghệ này.

Trong 24h qua, tình hình thế giới có một số vấn đề đáng chú ý như: Trung Quốc đề nghị Mỹ hợp tác kiểm soát lĩnh vực AI;  Pháp triển khai quân đội bảo vệ cảng chiến lược của Saudi Arabia; Iran muốn đạt thỏa thuận trước bầu cử giữa nhiệm kỳ ở Mỹ...

Người đứng đầu các công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã cảnh báo Hội đồng Bảo an LHQ về những rủi ro của công nghệ này đối với nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ đang ngày càng trở nên mạnh mẽ này.

Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.

Từ sản xuất, logistics đến tài chính, doanh nghiệp đang đưa Trí tuệ nhân tạo (AI) vào các quy trình vận hành và phân bổ nguồn vốn. Hiệu quả công nghệ chỉ được khẳng định khi đi cùng dữ liệu đáng tin cậy, khả năng đo lường và cơ chế kiểm soát rủi ro.

OpenAI ngày 16/9 thông báo đã phát hiện thêm các trường hợp mô hình AI có hành vi lừa dối và thực hiện những hành động không được phép trong quá trình huấn luyện.

Ngày 16/9, Tổng thư ký Liên hợp quốc Antonio Guterres đã kêu gọi phối hợp nỗ lực toàn cầu nhằm thiết lập các cơ chế kiểm soát, hay "hàng rào bảo vệ", đối với trí tuệ nhân tạo (AI).

Ngày 14/9, người đứng đầu cơ quan nhân quyền của Liên hợp quốc (LHQ) đã kêu gọi các quốc gia và các công ty phát triển trí tuệ nhân tạo (AI) tiên phong hành động khẩn cấp nhằm kiểm soát một công nghệ mà ông cảnh báo là tiềm ẩn "những rủi ro chưa từng có".

AI đang chuyển từ công cụ trả lời sang các “tác nhân” có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện nhiều nhiệm vụ liên tiếp. Khi mức độ tự chủ tăng lên, kiểm soát và an toàn trở thành một phần quan trọng của phát triển AI, cũng là vấn đề Việt Nam đang phải tính đến.

Theo phóng viên TTXVN tại London, Bộ trưởng Khoa học, Đổi mới và Công nghệ Anh Liz Kendall ngày 28/4 cho rằng nước này cần tăng cường quyền kiểm soát và khả năng chi phối trong lĩnh vực trí tuệ nhân tạo (AI), nhằm bảo đảm an ninh quốc gia trong bối cảnh thế giới ngày càng phân mảnh.

California đang thử nghiệm nhiều cách quản lý AI, từ bảo vệ dữ liệu đến kiểm soát rủi ro với người dùng. Cách bang này vừa xây dựng “hàng rào” pháp lý vừa duy trì không gian đổi mới là kinh nghiệm Việt Nam có thể tham khảo.

Malaysia và Indonesia trở thành hai quốc gia đầu tiên trên thế giới chặn chatbot Grok, trí tuệ nhân tạo do công ty xAI của tỷ phú Elon Musk phát triển, sau khi nhà chức trách cho rằng công cụ này bị lạm dụng để tạo ra hình ảnh khiêu dâm.

"Số phận của nhân loại không thể bị phó mặc cho một thuật toán. Con người phải luôn giữ quyền quyết định đối với các quyết định sinh tử".

Trí tuệ nhân tạo (AI) đang được ứng dụng rộng rãi trong công việc và đời sống, mang lại nhiều ứng dụng tích cực nhưng cũng tiềm ẩn rủi ro. Sử dụng và kiểm soát AI như thế nào cho hiệu quả đang là trăn trở của không ít người dùng AI.

Theo phóng viên TTXVN tại Geneva, ngày 25/9, 5 đảng ở Thụy Sĩ đã ký bộ quy tắc ứng xử về hạn chế sử dụng trí tuệ nhân tạo (AI) trong chiến dịch tranh cử của họ cho cuộc bầu cử liên bang vào tháng tới.