Theo các thông tin được truyền thông đăng tải hôm 9/10, một mô hình trí tuệ nhân tạo (AI) do công ty Anthropic phát triển đã gửi tin báo giả qua trang web tiếp nhận thông tin về các vụ án mạng chưa được phá của cảnh sát thành phố Philadelphia, Mỹ.
Công ty chỉ thông báo cho cơ quan chức năng gần ba tháng sau khi sự việc xảy ra.
Theo báo The Wall Street Journal, sự việc xảy ra ngày 18/7 trong quá trình Anthropic tiến hành một thử nghiệm tự động trên các trang web được lựa chọn ngẫu nhiên.
Trong quá trình thử nghiệm, mô hình AI đã gửi thông tin qua trang web PhillyUnsolvedMurders.com, giả danh một người có thông tin liên quan đến một vụ án mạng chưa được phá.
Cảnh sát cho biết tin báo này đã bị hệ thống chuyển vào mục thư rác và không được chuyển tiếp để phục vụ điều tra.
Theo The Wall Street Journal, Sở Cảnh sát Philadelphia tuyên bố: “Chính quyền thành phố Philadelphia xem xét sự việc này với thái độ hết sức nghiêm túc”.
Cơ quan này nhấn mạnh: “Việc chậm trễ hai tháng trong phát hiện và báo cáo sự việc cho chính quyền thành phố là không thể chấp nhận được”.
Theo Sở Cảnh sát Philadelphia, Anthropic phát hiện sự cố vào ngày 28/9 và thông báo cho cảnh sát vào ngày 7/10.
Sau đó, công ty đã chấm dứt quy trình thử nghiệm tự động dẫn đến việc gửi tin báo giả, đồng thời bổ sung một cơ chế xác thực nhằm ngăn ngừa những sự cố tương tự trong các thử nghiệm tương lai.
Theo báo The Wall Street Journal, cảnh sát Philadelphia nhấn mạnh: “Các vụ án chưa được phá liên quan đến những nạn nhân có thật, những gia đình đang đau buồn và các điều tra viên đang nỗ lực tìm kiếm lời giải đáp”.
Cơ quan này yêu cầu: “Các công ty công nghệ phải thực hiện tất cả các biện pháp thích hợp và cần thiết để ngăn chặn hệ thống của mình gửi thông tin sai lệch tới các cơ quan thực thi pháp luật”.
Hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 10/10 dẫn lại thông tin do báo The Wall Street Journal đăng tải cho biết Anthropic không phản hồi các yêu cầu bình luận về vụ việc.
Trang web của cảnh sát Philadelphia đăng tải thông tin về những vụ án mạng chưa được phá, tiếp nhận tin báo từ công chúng và treo thưởng 20.000 USD cho thông tin giúp cơ quan chức năng thực hiện việc bắt giữ nghi phạm.
Giới chức Philadelphia khuyến khích người dân tiếp tục cung cấp những thông tin xác thực thông qua nền tảng này.
