Từ việc AI được sử dụng để tăng tốc các cuộc tấn công mạng đến sự xuất hiện của những hệ thống ngày càng tự chủ, bài toán không còn đơn thuần là phát triển AI nhanh đến đâu mà là con người có đủ năng lực kiểm soát sức mạnh đó hay không. Với Việt Nam, đây cũng là vấn đề cần được đặt ra trong quá trình thực hiện Nghị quyết 57-NQ/TW.
Tổng thống Mỹ Donald Trump và lãnh đạo một số công ty công nghệ lớn nhất thế giới đã ký một thỏa thuận cam kết tăng cường các biện pháp bảo vệ nội bộ với những hệ thống trí tuệ nhân tạo (AI) tiên tiến.
Tổng thống Mỹ đã có cuộc gặp lãnh đạo các tập đoàn công nghệ và trí tuệ nhân tạo (AI) hàng đầu tại Nhà Trắng trong bối cảnh gia tăng yêu cầu về việc làm thế nào để vừa duy trì tốc độ phát triển AI, vừa kiểm soát những rủi ro ngày càng rõ rệt của công nghệ này.
Trong 24h qua, tình hình thế giới có một số vấn đề đáng chú ý như: Trung Quốc đề nghị Mỹ hợp tác kiểm soát lĩnh vực AI; Pháp triển khai quân đội bảo vệ cảng chiến lược của Saudi Arabia; Iran muốn đạt thỏa thuận trước bầu cử giữa nhiệm kỳ ở Mỹ...
Người đứng đầu các công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã cảnh báo Hội đồng Bảo an LHQ về những rủi ro của công nghệ này đối với nhân loại, đồng thời kêu gọi các chính phủ hợp tác để quản lý công nghệ đang ngày càng trở nên mạnh mẽ này.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Từ sản xuất, logistics đến tài chính, doanh nghiệp đang đưa Trí tuệ nhân tạo (AI) vào các quy trình vận hành và phân bổ nguồn vốn. Hiệu quả công nghệ chỉ được khẳng định khi đi cùng dữ liệu đáng tin cậy, khả năng đo lường và cơ chế kiểm soát rủi ro.
OpenAI ngày 16/9 thông báo đã phát hiện thêm các trường hợp mô hình AI có hành vi lừa dối và thực hiện những hành động không được phép trong quá trình huấn luyện.
Ngày 16/9, Tổng thư ký Liên hợp quốc Antonio Guterres đã kêu gọi phối hợp nỗ lực toàn cầu nhằm thiết lập các cơ chế kiểm soát, hay "hàng rào bảo vệ", đối với trí tuệ nhân tạo (AI).
Ngày 14/9, người đứng đầu cơ quan nhân quyền của Liên hợp quốc (LHQ) đã kêu gọi các quốc gia và các công ty phát triển trí tuệ nhân tạo (AI) tiên phong hành động khẩn cấp nhằm kiểm soát một công nghệ mà ông cảnh báo là tiềm ẩn "những rủi ro chưa từng có".
AI đang chuyển từ công cụ trả lời sang các “tác nhân” có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện nhiều nhiệm vụ liên tiếp. Khi mức độ tự chủ tăng lên, kiểm soát và an toàn trở thành một phần quan trọng của phát triển AI, cũng là vấn đề Việt Nam đang phải tính đến.
California đang thử nghiệm nhiều cách quản lý AI, từ bảo vệ dữ liệu đến kiểm soát rủi ro với người dùng. Cách bang này vừa xây dựng “hàng rào” pháp lý vừa duy trì không gian đổi mới là kinh nghiệm Việt Nam có thể tham khảo.
