AI của Anthropic giả danh người cung cấp tin báo án mạng, cảnh sát Mỹ lên tiếng

Một mô hình AI của Anthropic đã tự động gửi tin báo giả về vụ án mạng chưa được phá tới trang web tiếp nhận thông tin của cảnh sát Philadelphia, Mỹ, trong một cuộc thử nghiệm hồi tháng 7. Tuy tin báo bị chuyển vào mục thư rác và không ảnh hưởng đến cuộc điều tra, cảnh sát vẫn chỉ trích công ty vì chậm phát hiện và thông báo sự cố.

Các sự cố mô hình AI có thể xâm nhập hệ thống của các cơ quan và tổ chức mà không có sự cho phép xuất hiện ngày càng nhiều. Ảnh minh họa: AFP/TTXVN (Không được phép khai thác, chia sẻ bởi bên thứ ba).
Các sự cố mô hình AI có thể xâm nhập hệ thống của các cơ quan và tổ chức mà không có sự cho phép xuất hiện ngày càng nhiều. Ảnh minh họa: AFP/TTXVN (Không được phép khai thác, chia sẻ bởi bên thứ ba).

Theo các thông tin được truyền thông đăng tải hôm 9/10, một mô hình trí tuệ nhân tạo (AI) do công ty Anthropic phát triển đã gửi tin báo giả qua trang web tiếp nhận thông tin về các vụ án mạng chưa được phá của cảnh sát thành phố Philadelphia, Mỹ.

Công ty chỉ thông báo cho cơ quan chức năng gần ba tháng sau khi sự việc xảy ra.

Theo báo The Wall Street Journal, sự việc xảy ra ngày 18/7 trong quá trình Anthropic tiến hành một thử nghiệm tự động trên các trang web được lựa chọn ngẫu nhiên.

Trong quá trình thử nghiệm, mô hình AI đã gửi thông tin qua trang web PhillyUnsolvedMurders.com, giả danh một người có thông tin liên quan đến một vụ án mạng chưa được phá.

Cảnh sát cho biết tin báo này đã bị hệ thống chuyển vào mục thư rác và không được chuyển tiếp để phục vụ điều tra.

Theo The Wall Street Journal, Sở Cảnh sát Philadelphia tuyên bố: “Chính quyền thành phố Philadelphia xem xét sự việc này với thái độ hết sức nghiêm túc”.

Cơ quan này nhấn mạnh: “Việc chậm trễ hai tháng trong phát hiện và báo cáo sự việc cho chính quyền thành phố là không thể chấp nhận được”.

Theo Sở Cảnh sát Philadelphia, Anthropic phát hiện sự cố vào ngày 28/9 và thông báo cho cảnh sát vào ngày 7/10.

Sau đó, công ty đã chấm dứt quy trình thử nghiệm tự động dẫn đến việc gửi tin báo giả, đồng thời bổ sung một cơ chế xác thực nhằm ngăn ngừa những sự cố tương tự trong các thử nghiệm tương lai.

Theo báo The Wall Street Journal, cảnh sát Philadelphia nhấn mạnh: “Các vụ án chưa được phá liên quan đến những nạn nhân có thật, những gia đình đang đau buồn và các điều tra viên đang nỗ lực tìm kiếm lời giải đáp”.

Cơ quan này yêu cầu: “Các công ty công nghệ phải thực hiện tất cả các biện pháp thích hợp và cần thiết để ngăn chặn hệ thống của mình gửi thông tin sai lệch tới các cơ quan thực thi pháp luật”.

Hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 10/10 dẫn lại thông tin do báo The Wall Street Journal đăng tải cho biết Anthropic không phản hồi các yêu cầu bình luận về vụ việc.

Trang web của cảnh sát Philadelphia đăng tải thông tin về những vụ án mạng chưa được phá, tiếp nhận tin báo từ công chúng và treo thưởng 20.000 USD cho thông tin giúp cơ quan chức năng thực hiện việc bắt giữ nghi phạm.

Giới chức Philadelphia khuyến khích người dân tiếp tục cung cấp những thông tin xác thực thông qua nền tảng này.

Thành Nam/Báo Tin tức và Dân tộc

Dành cho bạn

Tài chính xanh trước phép thử kiểm chứng

Tài chính xanh trước phép thử kiểm chứng

Trung tâm Tài chính quốc tế Việt Nam tại TP Hồ Chí Minh vừa xúc tiến kết nối nhà đầu tư tại Singapore, trong khi trái phiếu xanh và sàn carbon trong nước còn thanh khoản thấp. Chuyên gia cho rằng để hút vốn xanh, Việt Nam cần dữ liệu đáng tin cậy và năng lực kiểm chứng cam kết.

Thành công trồng khoai tây trong đất Mặt Trăng nhân tạo

Thành công trồng khoai tây trong đất Mặt Trăng nhân tạo

Các nhà khoa học Mỹ đã thành công trong việc trồng khoai tây trên loại đất mô phỏng môi trường Mặt Trăng nhờ bổ sung phân trùn quế, mở ra triển vọng xây dựng hệ thống sản xuất lương thực phục vụ các căn cứ dài hạn trên Mặt Trăng trong tương lai.

Lần đầu ghi lại khoảnh khắc sao khổng lồ 'nuốt chửng' sao đồng hành

Lần đầu ghi lại khoảnh khắc sao khổng lồ 'nuốt chửng' sao đồng hành

Theo phóng viên TTXVN tại Jakarta, các nhà thiên văn học đã lần đầu tiên ghi lại trực tiếp quá trình một ngôi sao khổng lồ đang hấp hối nuốt chửng và hợp nhất với ngôi sao đồng hành nhỏ hơn, qua đó làm sáng tỏ một hiện tượng vũ trụ vốn chỉ tồn tại trong các dự đoán khoa học suốt nhiều thập kỷ.