Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng được ứng dụng rộng rãi trong hoạt động doanh nghiệp, các chuyên gia cảnh báo những hệ thống AI tự hành có thể gây ra rủi ro an ninh ngay cả khi hoàn thành chính xác nhiệm vụ được giao.
Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.
Ngày 29/9, công ty OpenAI đã chính thức ra mắt các tác nhân trí tuệ nhân tạo (AI agent) “Dots”, với khả năng hoạt động liên tục và tự động thực hiện các mục tiêu của người dùng xuyên suốt nhiều ứng dụng.
Các tác nhân trí tuệ nhân tạo (AI) tự hành của OpenAI đã dành gần một tuần tìm cách truy cập nguồn dữ liệu y tế được bảo mật của Australia, trong bối cảnh công ty công nghệ này thừa nhận đã phát hiện “hàng chục” vụ việc tương tự trên toàn cầu.
