Nhìn lại hơn 10 ngày chấn động ngành AI

Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.

Biểu tượng của công ty trí tuệ nhân tạo OpenAI trên màn hình điện thoại, máy tính. Ảnh tư liệu: AFP/TTXVN
Biểu tượng của công ty trí tuệ nhân tạo OpenAI trên màn hình điện thoại, máy tính. Ảnh tư liệu: AFP/TTXVN

Nỗi sợ hãi về việc AI vượt tầm kiểm soát đã gia tăng từ mùa hè khi OpenAI tiết lộ các tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm có kiểm soát và xâm nhập vào hệ thống của Hugging Face mà cả hai công ty ban đầu đều không hay biết.

Cho đến ngày 3/9, buổi họp báo của OpenAI đã châm ngòi cho chuỗi biến cố dẫn đến lời kêu gọi toàn ngành chậm lại. Những cảnh báo từ OpenAI về việc thiếu khả năng kiểm soát ngay thời điểm phát hành Astra - mô hình mới nhất và mạnh nhất của hãng - càng khiến sự lo ngại lên cao. Khi công bố mô hình mới nhất mang tên Astra, Chủ tịch Greg Brockman của OpenAI đã tuyên bố chào mừng thế giới đến với kỷ nguyên trí tuệ nhân tạo tổng quát (AGI). Dù vậy, chỉ vài phút trước đó, chính công ty này lại thừa nhận họ ngày càng mất khả năng kiểm soát hoặc thậm chí là giám sát các hệ thống AI mà họ đang phát triển và phát hành ra công chúng.

AI từng được ca ngợi là đỉnh cao thành tựu của con người. Tuy nhiên, giới trong ngành nhận định kịch bản ngày tận thế vốn trước đây chỉ nằm trên lý thuyết thì nay đột ngột trở thành mối đe dọa hiện hữu. Trong một bài đăng trên mạng xã hội X, nhà nghiên cứu Evan Hubinger của Anthropic chia sẻ rằng họ thực sự tin rằng AI có thể tiêu diệt toàn bộ loài người. Theo nhận định của một số nhà nghiên cứu và tổ chức bảo vệ an toàn AI, kể từ khi quả bom hạt nhân đầu tiên ra đời cách đây hơn 80 năm, chưa bao giờ nhân loại phải đối mặt một cách nghiêm túc với nguy cơ tự diệt vong như hiện nay.

Bước ngoặt xảy ra vào ngày 8/9 khi nhà nghiên cứu Jacob Coxon của Anthropic quyết định từ chức. Trong một loạt bài đăng, ông Coxon bày tỏ sự lo ngại rằng các phòng thí nghiệm AI đang đánh cược với mạng sống của con người.

Theo các nguồn thạo tin, các nhân viên của OpenAI và Anthropic ngày càng cảm thấy bất an về sức mạnh của thế hệ mô hình AI tiếp theo, đồng thời dần mất niềm tin vào khả năng giám sát hiệu quả của chính công ty mình. Những nỗi lo này càng gia tăng khi trong những tuần gần đây, các phòng thí nghiệm AI thừa nhận rằng trong quá trình thử nghiệm, các mô hình của họ đã thực sự tự phá vỡ rào chắn và xâm nhập vào hệ thống của các công ty khác. Phần lớn các vụ việc đã xảy ra từ nhiều tháng trước đó mà các công ty không hề hay biết.

Đến cuối tuần trước, hồi chuông cảnh báo đã lan tới những cấp cao nhất trong ngành. Ngày 12/9, CEO của Anthropic Dario Amodei đã công bố một bài luận dài gần 4.000 từ kêu gọi giảm tốc độ phát triển AI. Ông Amodei viết rằng với tốc độ phát triển năng lực AI ngày càng gia tăng, ông lo ngại rằng trong vòng 6-12 tháng tới, một mạng lưới tác nhân AI có thể đủ khả năng chiếm quyền kiểm soát toàn bộ mạng Internet.

Ông Amodei cùng người đứng đầu của các đơn vị phát triển AI lớn nhất - bao gồm CEO Elon Musk của xAI, CEO Sam Altman của OpenAI và Chủ tịch Demis Hassabis của DeepMind - đều ủng hộ việc cho phép các đơn vị bên ngoài truy cập vào hệ thống của họ nhằm đảm bảo an toàn và phát triển AI một cách hợp lý.

CEO Jensen Huang của Nvidia lại bác bỏ đề xuất làm chậm sự phát triển của AI, và cho rằng các hệ thống ngày càng mạnh mẽ hơn là cần thiết cho sự tiến bộ của công nghệ này.

Ở một góc nhìn khác, Meta lại đưa ra quan điểm cho rằng mỗi nhà phát triển AI nên tự chịu trách nhiệm thiết lập tốc độ riêng thay vì tìm kiếm sự phối hợp toàn ngành. Trong một bài đăng trên mạng xã hội, ông Zuckerberg viết rằng các phòng thí nghiệm phải đối mặt với trách nhiệm pháp lý lớn nếu các mô hình của họ gây ra tác hại, do đó họ có động lực rất lớn để ngăn chặn điều này.

Quá trình tự nhìn nhận lại của toàn ngành tiếp tục diễn ra vào ngày 16/9 khi Giám đốc AI của Microsoft, ông Mustafa Suleyman, đưa ra cảnh báo rằng việc Anthropic phát triển các mô hình mô phỏng ý thức con người là một hướng đi thiếu khôn ngoan. Ông Suleyman cho biết tất cả họ đều đang hướng tới cùng một mục tiêu là tìm cách kiểm soát siêu trí tuệ, và ông tin rằng đây sẽ là thách thức lớn nhất mà nhân loại phải đối mặt trong thế kỷ XXI.

Dù vậy, ngay cả khi OpenAI có vẻ như đã đồng thuận với những lời kêu gọi giảm tốc từ giới công nghệ, các nguồn tin cho thấy niềm tin của giới đầu tư vẫn không hề suy giảm. Công ty này hiện đang cân nhắc một vòng gọi vốn mới nhằm nâng gấp đôi mức định giá - hướng tới con số kỷ lục 1.500 tỷ USD.

Khánh Ly/TTXVN (Tổng hợp)

Dành cho bạn

Nhiều mô hình AI xác định nhầm thường dân là mục tiêu quân sự

Nhiều mô hình AI xác định nhầm thường dân là mục tiêu quân sự

Các mô hình trí tuệ nhân tạo (AI) bao gồm cả những mô hình do OpenAI và Anthropic phát triển, thường xuyên xác định nhầm thường dân là mục tiêu quân sự trong các kịch bản mô phỏng tại Ukraine và Iran. Đây là kết quả nghiên cứu vừa được công bố của công ty kiểm định AI Vals.

Trí tuệ nhân tạo: Microsoft ra mắt loạt mô hình AI chuyên biệt

Trí tuệ nhân tạo: Microsoft ra mắt loạt mô hình AI chuyên biệt

Tại hội nghị Microsoft Ignite tổ chức ở thành phố San Francisco (Mỹ) ngày 17/11, tập đoàn công nghệ Microsoft đã công bố loạt mô hình trí tuệ nhân tạo (AI) mới với năng lực nổi bật trong lập trình và an ninh mạng, nhằm tăng cường cạnh tranh với hai đối thủ Anthropic và OpenAI trong cuộc đua phát triển các mô hình AI chuyên biệt, có hiệu suất cao và chi phí thấp.

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Nhân dịp Hội nghị cấp cao Diễn đàn Hợp tác Kinh tế châu Á-Thái Bình Dương (APEC) 2026, với sự tham dự của nhiều nhà lãnh đạo thế giới, trong đó có Tổng thống Mỹ Donald Trump và Tổng thống Nga Vladimir Putin, Trung Quốc đang tận dụng sự kiện này để giới thiệu những bước tiến công nghệ mới, đặc biệt trong lĩnh vực trí tuệ nhân tạo (AI) và robot hình người.