Anthropic tạm khoá hai mô hình AI mới, theo yêu cầu của chính phủ

Anthropic ngày 12/6 cho biết đã tạm khoá hai mô hình trí tuệ nhân tạo (AI) mới ra mắt là Fable 5 và Mythos 5 đối với tất cả công dân nước ngoài theo yêu cầu của chính phủ Mỹ vì lý do an ninh quốc gia.

Chú thích ảnh
Công ty trí tuệ nhân tạo (AI) Anthropic. Ảnh tư liệu: AFP

Chỉ ba ngày sau khi công bố các mô hình trên, Anthropic đã nhận được chỉ thị của chính phủ Mỹ cấm tất cả công dân nước ngoài, kể cả những người làm việc tại Anthropic, truy cập vào Fable 5 và Mythos 5, vì lý do an ninh quốc gia. Do đó, công ty buộc phải đột ngột vô hiệu hóa hai mô hình này đối với tất cả khách hàng.

Anthropic cho rằng chính phủ có thể đang lo ngại về một phương thức "bẻ khoá" Fable 5, khiến mô hình này bị tin tặc lợi dụng. Công ty đã xem xét phương thức "bẻ khóa" đang là tâm điểm của những suy đoán và các nguy cơ tấn công mà mô hình này đưa đến.

Tuy nhiên, Anthropic không tin rằng Fable 5 cung cấp cho tin tặc những khả năng mà các mô hình công khai khác chưa có. Không có chuyên gia kiểm thử bảo mật nào của công ty tìm thấy một "phương pháp bẻ khóa phổ quát" để vượt qua các biện pháp bảo mật của mô hình này.

Fable 5 là phiên bản giới hạn của Mythos 5, một mô hình AI tiên tiến mà Anthropic đã hạn chế tiếp cận do lo ngại rằng mô hình này có khả năng chưa từng có trong việc xác định các lỗ hổng phần mềm mà tin tặc có thể khai thác.

Lê Minh
OpenAI và Anthropic đối mặt chỉ trích vì cảnh báo rủi ro AI trước thềm IPO
OpenAI và Anthropic đối mặt chỉ trích vì cảnh báo rủi ro AI trước thềm IPO

Hai "ông lớn" trí tuệ nhân tạo (AI) là OpenAI và Anthropic đang đồng loạt lên tiếng cảnh báo về những mối nguy hiểm của AI, ngay cả khi họ đang chạy đua khốc liệt để phát triển các mô hình mạnh mẽ hơn. Động thái này diễn ra cùng thời điểm hai công ty rục rịch phát hành cổ phiếu lần đầu ra công chúng (IPO), làm dấy lên những hoài nghi mạnh mẽ từ dư luận.

Chia sẻ:

doanh nghiệp - Sản phẩm - Dịch vụ

Các đơn vị thông tin của TTXVN