Quyết định sửa đổi nhằm mục đích bảo đảm công nghệ này không bị sử dụng cho hoạt động “giám sát trong nước”, sau khi xuất hiện lo ngại rằng thỏa thuận trao quá nhiều quyền cho giới chức quân sự mà thiếu cơ chế giám sát.
Trên mạng xã hội X, Giám đốc điều hành OpenAI Sam Altman cho biết hệ thống AI của công ty "sẽ không được sử dụng có chủ ý để tiến hành giám sát trong nước đối với công dân và người mang quốc tịch Mỹ, phù hợp với các quy định pháp luật hiện hành, trong đó có Tu chính án thứ tư của Hiến pháp Mỹ".
Trước đó, hôm 27/2, công ty mẹ của ChatGPT thông báo đã đạt thỏa thuận về việc triển khai các mô hình AI trên mạng lưới mật của Bộ Quốc phòng Mỹ, đi kèm với các “hàng rào an toàn” kỹ thuật. Thỏa thuận được công bố chỉ vài giờ sau khi đối thủ Anthropic từ chối cho phép sử dụng vô điều kiện các mô hình AI Claude của hãng cho mục đích quân sự, đồng thời muốn được đảm bảo rằng AI sẽ không bị sử dụng cho hoạt động giám sát cũng như cho vũ khí tự hành.
Theo lời ông Altman, Bộ Quốc phòng Mỹ đã đồng ý áp dụng các “biện pháp bảo vệ kỹ thuật” đối với những lĩnh vực trên. Tuy nhiên, trước những hoài nghi ngày càng gia tăng về hiệu quả của các biện pháp bảo vệ, OpenAI sẽ sửa đổi thỏa thuận giữa hai bên. Hiện Lầu Năm Góc cũng đã đồng ý về việc các mô hình của OpenAI sẽ không được các cơ quan tình báo, trong đó có Cơ quan An ninh Quốc gia (NSA), sử dụng.
Bên cạnh đó, ông Altman cũng thừa nhận việc công bố thỏa thuận này vào tuần trước "có phần hơi vội vàng", do còn nhiều "vấn đề phức tạp", đòi hỏi phải được truyền đạt rõ ràng.
Liên quan đến việc Lầu Năm Góc liệt Anthropic vào diện rủi ro chuỗi cung ứng, ông Altman không đồng tình với quyết định trẻn vì cho rằng nó sẽ ngăn các doanh nghiệp hợp tác với quân đội Mỹ không được có quan hệ với Anthropic.
Anthropic tuyên bố sẽ kiện quyết định của Lầu Năm Góc ra tòa với lý do quyết định này tạo “tiền lệ nguy hiểm cho bất kỳ công ty Mỹ nào đàm phán với chính phủ”.
