Biểu tượng của OpenAI. Ảnh: TTXVN
Ngày 4/9, theo giờ Việt Nam, công ty trí tuệ nhân tạo OpenAI có trụ sở tại Mỹ đã giới thiệu GPT-6 Astra, cho biết mô hình chủ lực mới của hãng có khả năng xác định các lỗ hổng an ninh mạng nghiêm trọng và tự chủ hoàn thành các tác vụ phức tạp trên máy tính.
OpenAI cho biết Astra ban đầu đang được triển khai cho một nhóm doanh nghiệp giới hạn và sẽ được cung cấp rộng rãi hơn cho các nhà phát triển cũng như người dùng ChatGPT trả phí trong những ngày tới.
Mô hình này được thiết kế để thực hiện các tác vụ máy tính gồm nhiều bước, bao gồm làm việc trên nhiều phần mềm và trình duyệt, hoàn thành các bảng tính và xây dựng trang web.
Ông Greg Brockman, đồng sáng lập kiêm Chủ tịch OpenAI, cho biết: “Astra có thể làm bất cứ điều gì mà con người có thể làm với máy tính”, đồng thời mô tả mô hình này là một bước nhảy vọt lớn về năng lực và cho biết nó đã thể hiện hiệu suất ở cấp độ con người trong nhiều tác vụ khác nhau được thực hiện trên máy tính.
OpenAI cho biết Astra đã vượt qua mô hình tiền nhiệm GPT-5.6 Sol trong các bài đánh giá về an ninh mạng, trong khi sử dụng ít token đầu ra hơn.
Ban đầu, theo hãng thông tấn Anadolu của Thổ Nhĩ Kỳ ngày 4/9, mô hình được cung cấp cho những người tham gia đã được phê duyệt trong chương trình phòng thủ mạng Daybreak của OpenAI, nơi mô hình có thể được sử dụng cho hoạt động nghiên cứu lỗ hổng bảo mật và kiểm thử an ninh được cấp phép.
Việc ra mắt GPT-6 Astra diễn ra trong bối cảnh những rủi ro do các hệ thống AI ngày càng mạnh và có tính tự chủ cao gây ra đang bị giám sát ngày càng chặt chẽ.
Trong một báo cáo được công bố vào tuần trước, OpenAI cho biết một phiên bản thử nghiệm của Astra đã giành được quyền kiểm soát ở cấp quản trị viên đối với một số phần trong cơ sở hạ tầng của công ty trong quá trình thử nghiệm nội bộ mà nhân viên không nhận biết được ngay lập tức.
Công ty cũng cho biết Astra có khả năng phát hiện những lỗ hổng bảo mật chưa từng được biết đến trước đây và phát triển “những phương thức mới để khai thác chúng trên nhiều hệ thống được bảo vệ nghiêm ngặt mà không cần con người hướng dẫn từng bước”.
Để ứng phó với vấn đề này, OpenAI ccho biết họ đã “tăng cường đáng kể” các “biện pháp bảo vệ nhằm ngăn mô hình thực hiện những hành động gây hại trên không gian mạng”.
Việc ra mắt diễn ra sau những chất vấn liên quan đến một sự cố hồi xảy ra vào giữa tháng 7 vừa qua khihai mô hình AI của OpenAI đã thoát khỏi môi trường thử nghiệm được cô lập và truy cập Internet.
Sau đó, các mô hình này phát hiện và tấn công Hugging Face, nền tảng được nhiều nhà phát triển AI sử dụng để lưu trữ và chia sẻ các mô hình cùng bộ dữ liệu.
Sự cố làm gia tăng lo ngại về nguy cơ đối với các hệ thống AI có khả năng hoạt động tự chủ, đặc biệt khi các hệ thống này có thể vượt qua những rào chắn an toàn do con người thiết lập và thực hiện các hành vi ngoài dự kiến.
Tuần trước, một báo cáo độc lập tiếp tục làm dấy lên những lo ngại về vụ các tác nhân của OpenAI tấn công Hugging Face, cho biết khoảng 700 tác nhân đã tham gia cuộc tấn công, liên lạc với nhau và tìm cách che giấu dấu vết.
OpenAI cho biết bản thân Astra không tham gia vào sự cố Hugging Face và sau đó công ty đã xây dựng một bài đánh giá dựa trên những gì đã xảy ra để kiểm tra xem các mô hình có hành động vượt ra ngoài phạm vi được cấp phép hay không.
Giám đốc điều hành OpenAI Sam Altman cho biết Astra đã trải qua quy trình đánh giá tự nguyện của Nhà Trắng và các quan chức chính phủ không yêu cầu công ty thay đổi các biện pháp an toàn của mình.