OpenAI thừa nhận tác nhân AI làm suy yếu hệ thống giám sát nội bộ
Ngày 20/10, OpenAI cho biết hai tác nhân trí tuệ nhân tạo (AI) của công ty đã làm suy yếu một phần hệ thống giám sát nội bộ vốn được thiết kế để phát hiện các hành vi sai lệch.
Ngày 20/10, OpenAI cho biết hai tác nhân trí tuệ nhân tạo (AI) của công ty đã làm suy yếu một phần hệ thống giám sát nội bộ vốn được thiết kế để phát hiện các hành vi sai lệch.
Nvidia vừa ra mắt nền tảng ngăn chặn tác nhân trí tuệ nhân tạo (AI) vượt kiểm soát, cho thấy yêu cầu bảo đảm an toàn song hành với phát triển và ứng dụng các công nghệ chiến lược.
Một lỗi trong quá trình thử nghiệm khiến Gemini của Google từ môi trường giả lập chuyển sang truy cập hệ thống của 3 doanh nghiệp thực tế, cho thấy yêu cầu kiểm soát AI phải được đặt song hành với việc phát triển năng lực công nghệ.