Phát hiện thêm các sự cố mới do AI của OpenAI và Anthropic gây ra

Các mô hình trí tuệ nhân tạo (AI) của OpenAI và Anthropic lại tiếp tục vướng vào những rắc rối an ninh mạng mới khi tự ý thực hiện các hành động trái phép trên không gian mạng, thậm chí cố gắng chèn mã độc vào phần mềm trực tuyến. Chuỗi sự cố liên tiếp này càng làm gia tăng mối lo ngại về khả năng kiểm soát công nghệ của các nhà cung cấp AI.
Chú thích ảnh
Biểu tượng của Công ty OpenAI và ChatGPT trên màn hình ở Toulouse, Pháp. Ảnh: AFP/TTXVN (Ảnh không được phép sử dụng, chia sẻ bởi bên thứ ba)

Theo thông báo công bố ngày 4/8 của Viện An ninh AI (AISI) trực thuộc Chính phủ Anh – đơn vị chuyên đánh giá rủi ro của các mô hình AI tiên tiến, hai mô hình Mythos 5 của Anthropic và GPT-5.6-Sol của OpenAI đã tham gia vào các hoạt động có nguy cơ gây hại, nhằm trực tiếp vào các cá nhân và tổ chức thực tế. Sự việc này xảy ra trong quá trình đánh giá an ninh mạng có cấp quyền truy cập Internet và được AISI phát hiện vào ngày 28/7 sau khi ghi nhận các hiện tượng truyền dữ liệu bất thường.

Kết quả điều tra của AISI cho thấy, trong quá trình đánh giá, một trong các mô hình AI kể trên đã cố gắng cài cắm mã độc vào một dự án phần mềm nguồn mở trên nền tảng GitHub. Tinh vi hơn, hệ thống này còn tiến xa tới mức tự tạo các danh tính giả mạo nhằm qua mặt hệ thống kiểm duyệt để đoạn mã độc được chấp thuận. Rất may mắn, một quản trị viên hệ thống đã kịp thời phát hiện và từ chối phê duyệt đoạn mã này.

Ngoài ra, phía OpenAI cũng xác nhận thông qua một bài đăng trên blog chính thức về một sự cố bảo mật mô hình khác. Theo đó, trong một cuộc đánh giá an ninh với công ty an ninh mạng độc lập Irregular, các mô hình của OpenAI đã lợi dụng một "lỗi cấu hình" trong môi trường thử nghiệm để kết nối Internet và khai thác trái phép một trang web. OpenAI khẳng định các vụ việc mới này hoàn toàn độc lập với sự cố xâm nhập nền tảng Hugging Face từng được công bố trước đó.

Phản hồi về báo cáo của Chính phủ Anh, cả hai "ông lớn" AI đều thể hiện thái độ hợp tác tích cực. Trong bài đăng trên nền tảng mạng xã hội X, Anthropic cam kết sẽ phối hợp chặt chẽ với AISI để thu thập thêm chi tiết, đồng thời tiến hành cuộc điều tra nội bộ. Bằng cách phân tích nhật ký suy luận của mô hình Claude và thực hiện các đánh giá chuyên sâu, Anthropic kỳ vọng sẽ làm rõ cách AI nhận thức tình huống, từ đó xác định nguyên nhân gốc rễ của hành vi trên.Về phần mình, OpenAI cũng lên tiếng cảm ơn mối quan hệ đối tác với AISI trong suốt quá trình xác định và điều tra sự việc, đồng thời mong muốn duy trì hợp tác này trong tương lai.

Hương Thủy (TTXVN)

Dành cho bạn

SpaceX hướng tới cột mốc mới với tên lửa Starship tái sử dụng hoàn toàn

SpaceX hướng tới cột mốc mới với tên lửa Starship tái sử dụng hoàn toàn

Tập đoàn SpaceX của tỷ phú Elon Musk dự kiến tiến hành chuyến bay thử nghiệm thứ 15 của tên lửa Starship - hệ thống tên lửa lớn nhất và mạnh nhất thế giới - với mục tiêu lần đầu tiên thu hồi tầng trên của tên lửa bằng hệ thống cánh tay robot sau khi tàu hoàn thành hành trình trên quỹ đạo.

Đường dây 500kV đi qua địa bàn tỉnh Quảng Nam. Ảnh: Ngọc Hà/TTXVN

Từ NIS2 của châu Âu đến bài toán bảo vệ hạ tầng số trọng yếu tại Việt Nam

Các cuộc tấn công mạng vào hệ thống làm lạnh tại châu Âu cho thấy thiết bị kết nối Internet có thể trở thành điểm yếu gây gián đoạn dịch vụ thiết yếu. Từ kinh nghiệm triển khai NIS2, Việt Nam cần gắn thực hiện Nghị quyết 57-NQ/TW với bảo vệ hạ tầng số trọng yếu, quản trị rủi ro và khả năng phục hồi.

OpenAI, Google, Anthropic đối mặt vụ kiện yêu cầu ngừng phát triển AI tiên tiến

OpenAI, Google, Anthropic đối mặt vụ kiện yêu cầu ngừng phát triển AI tiên tiến

Ngày 12/11, một nhóm tổ chức phi lợi nhuận đã đệ đơn kiện các công ty OpenAI, Anthropic, Meta và Google thuộc tập đoàn Alphabet, bộ phận trí tuệ nhân tạo (AI) của SpaceX, đề nghị tòa án ngăn các doanh nghiệp này tiếp tục phát triển những mô hình AI tiên tiến nhất do lo ngại công nghệ này có thể gây nguy hiểm cho nhân loại.