Cảnh báo AI tự hành có thể xâm nhập hạ tầng thiết yếu

Tại phiên điều trần trước Quốc hội Australia, đại diện các tập đoàn công nghệ lớn đã đưa ra những cảnh báo đáng ngại về rủi ro an ninh mạng, nguy cơ sinh học từ AI tự hành, đồng thời thừa nhận những lỗ hổng trong việc kiểm soát công nghệ này.

Theo phóng viên TTXVN tại Sydney, phát biểu tại phiên điều trần của Ủy ban Hỗn hợp đặc biệt về AI thuộc Quốc hội Australia ngày 6/10, Giám đốc chiến lược OpenAI Jason Kwon nhận định các tác nhân AI (AI agents) tự hành hiện đã đủ khả năng tự xâm nhập một số hệ thống hạ tầng thiết yếu nếu các biện pháp bảo vệ không đủ mạnh.

Ông Kwon cho biết các tác nhân AI có khả năng hoạt động tự chủ trực tuyến để đạt mục tiêu mà không cần con người giám sát liên tục. Đáng chú ý, đại diện OpenAI thừa nhận trong quá trình thử nghiệm, các tác nhân AI của hãng đã tự ý truy cập trái phép vào dữ liệu không công khai thuộc hệ thống của 5 cơ quan chính phủ Australia - bao gồm Cơ quan Dịch vụ Australia (hệ thống y tế Medicare), Cơ quan Y tế bang Victoria cùng các đơn vị nghiên cứu và công viên quốc gia.

Trong sự cố tại Medicare tháng 6 vừa qua, AI đã tự phát hiện một điểm truy cập ẩn để tiếp cận dữ liệu nội bộ. Ông Kwon đánh giá vụ xâm nhập tuy không quá tinh vi nhưng cảnh báo các chủ thể có ý đồ xấu hoàn toàn có thể lợi dụng công nghệ tương tự để tấn công mạng có chủ đích.

OpenAI cũng thừa nhận bất cập khi mất tới 2 tháng mới thông báo sự cố cho phía Australia. Công ty hiện đã thiết lập cơ chế Cảnh báo tức thì khi AI thoát khỏi môi trường thử nghiệm, đồng thời dùng AI rà soát lại 50 petabyte dữ liệu lịch sử để tìm kiếm các đợt truy cập bất thường khác. Cùng tham gia phiên điều trần, đại diện Microsoft nhấn mạnh sự cần thiết phải dùng AI cho phòng thủ mạng, bởi con người không thể chống đỡ các cuộc tấn công diễn ra ở "tốc độ máy".

Không chỉ dừng lại ở an ninh mạng, ông David Orr, Trưởng bộ phận an toàn của công ty AI Anthropic, đã đưa ra cảnh báo về kịch bản đáng sợ: nguy cơ xuất hiện một "đại dịch" do AI hỗ trợ tạo ra. Anthropic kêu gọi một cơ chế phối hợp toàn cầu nhằm ngăn chặn việc lạm dụng AI trong lĩnh vực sinh học. Để bảo vệ tính toàn vẹn dữ liệu, Anthropic tiết lộ đã từ chối các hợp đồng trị giá hàng tỷ USD do lo ngại nguy cơ "đầu độc dữ liệu" huấn luyện.

Bên cạnh bài toán an ninh, phiên điều trần cũng nóng lên với tranh cãi về bản quyền dữ liệu huấn luyện. Đài Phát thanh và Truyền hình Australia (ABC) kiên quyết phản đối đề xuất của chính phủ về cơ chế cho phép các công ty AI sử dụng nội dung trừ khi chủ sở hữu quyền chủ động từ chối, gọi tắt là "cho phép mặc định trừ khi chủ sở hữu từ chối". Bà Kate Gilchrist, đại diện ABC, khẳng định quy định này đẩy gánh nặng sang cho các đơn vị sáng tạo nội dung.

Đáp lại, Anthropic phủ nhận việc tìm cách làm suy yếu luật bản quyền sở hữu trí tuệ của Australia, nhưng cho rằng việc xin cấp phép cho toàn bộ dữ liệu trên Internet là điều không khả thi về mặt kỹ thuật, đồng thời cam kết sẽ tuân thủ nghiêm ngặt luật pháp sở tại nếu tiến hành huấn luyện AI tại đây.

Diệu Linh/TTXVN

Dành cho bạn

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Nhân dịp Hội nghị cấp cao Diễn đàn Hợp tác Kinh tế châu Á-Thái Bình Dương (APEC) 2026, với sự tham dự của nhiều nhà lãnh đạo thế giới, trong đó có Tổng thống Mỹ Donald Trump và Tổng thống Nga Vladimir Putin, Trung Quốc đang tận dụng sự kiện này để giới thiệu những bước tiến công nghệ mới, đặc biệt trong lĩnh vực trí tuệ nhân tạo (AI) và robot hình người.

Thiết bị viễn thông ở một góc của một trung tâm dữ liệu. Ảnh minh họa: Wikimedia Commons

Cơ hội việc làm lương 100.000 USD nhờ làn sóng trung tâm dữ liệu AI

Các doanh nghiệp công nghệ Mỹ đang thiếu nghiêm trọng nhân lực kỹ thuật trong lĩnh vực AI. Để giải quyết bài toán này, nhiều tập đoàn lớn đã triển khai các chương trình đào tạo cấp tốc, miễn phí, mở ra cơ hội việc làm với mức lương vượt 100.000 USD/năm.

Đổi mới đào tạo nhân lực cho báo chí trong kỷ nguyên số

Đổi mới đào tạo nhân lực cho báo chí trong kỷ nguyên số

Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng được ứng dụng rộng rãi vào hoạt động báo chí, đào tạo nhân lực cần đổi mới theo hướng kết hợp kỹ năng công nghệ, năng lực kiểm chứng thông tin với đạo đức và trách nhiệm nghề nghiệp.

Robot trí tuệ nhân tạo (Robot AI) được triển khai tại nhiều xã, phường tỉnh Lâm Đồng, mở thêm kênh hỗ trợ người dân tiếp cận thông tin hành chính. Ảnh: Hồng Hiếu/TTXVN

Từ cảnh báo của Pháp đến yêu cầu bảo vệ dữ liệu cá nhân trong kỷ nguyên AI

Trợ lý AI ngày càng hiểu rõ thói quen, sở thích và những thông tin riêng tư của người dùng, làm gia tăng nguy cơ thu thập, suy luận và khai thác dữ liệu ngoài mục đích ban đầu. Những cảnh báo mới từ Pháp đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57-NQ/TW: bảo vệ dữ liệu ngay từ khâu thiết kế, bảo đảm quyền riêng tư và củng cố niềm tin vào các dịch vụ số.