Giới chuyên gia cảnh báo rủi ro tiềm ẩn từ AI

Những cảnh báo về tính an toàn của trí tuệ nhân tạo (AI) đang thu hút sự quan tâm trở lại khi lãnh đạo nhiều công ty công nghệ hàng đầu, trong đó có OpenAI, Anthropic và xAI, cảnh báo việc phát triển AI thiếu kiểm soát có thể tạo ra những rủi ro nghiêm trọng đối với con người.

Theo phóng viên TTXVN tại Pretoria, trao đổi với kênh truyền hình CNBC Africa ngày 14/9, ông Mark Nasila - Giám đốc Dữ liệu và Phân tích thuộc khối Chiến lược AI của Ngân hàng FNB (Nam Phi) - cho rằng những cảnh báo này không nên bị xem là những dự đoán mang tính giật gân, mà chính là kết luận đúc rút từ chính những nhà nghiên cứu, kỹ sư và lãnh đạo đang trực tiếp phát triển các mô hình AI tiên tiến.

Theo ông Nasila, việc ngày càng có nhiều tiếng nói trong ngành công nghệ kêu gọi thiết lập giới hạn đối với AI là tín hiệu mà giới đầu tư, các nhà hoạch định chính sách và công chúng cần quan tâm. Trong số những người từng cảnh báo về những rủi ro dài hạn của AI có ông Geoffrey Hinton - một trong những nhà khoa học đặt nền móng cho sự phát triển của công nghệ này. Chuyên gia FNB cho biết cuộc tranh luận về an toàn AI hiện không chỉ xoay quanh những kịch bản mang tính giả định về tương lai mà đã mở rộng sang nhiều nguy cơ có thể xuất hiện cùng quá trình công nghệ phát triển, như tấn công mạng, phát tán thông tin sai lệch, hỗ trợ phát triển vũ khí sinh học và sự tập trung quyền lực công nghệ vào một số tập đoàn lớn.

Đề cập những ước tính cho rằng xác suất xảy ra thảm họa liên quan đến AI có thể ở mức 10-20%, ông Nasila cho rằng đây không phải là lời dự báo chắc chắn về sự diệt vong của nhân loại, mà là cách định lượng mức độ rủi ro gắn với những năng lực công nghệ có thể xuất hiện trong tương lai. Theo ông, mối lo ngại trước mắt không nhất thiết nằm ở khả năng máy móc hình thành “ác ý”, mà ở việc các hệ thống AI ngày càng tự chủ có thể theo đuổi quyết liệt mục tiêu được giao mà không hiểu đầy đủ hoặc không tính đến các giá trị và lợi ích rộng lớn hơn của con người.

Trong trường hợp không có các cơ chế an toàn phù hợp, một hệ thống AI được giao nhiệm vụ quản lý những hạ tầng quan trọng như mạng lưới điện, giao thông hàng không hoặc các hệ thống thiết yếu khác có thể đưa ra những quyết định nhằm tối ưu hóa mục tiêu được lập trình, nhưng lại dẫn đến hậu quả ngoài dự kiến trong thế giới thực.

Bên cạnh đó, các mô hình AI tiên tiến có thể trở thành công cụ giúp những đối tượng xấu gia tăng quy mô và tốc độ của các hoạt động nguy hiểm, từ tạo và phát tán thông tin sai lệch, thao túng dư luận trên mạng đến tiến hành tấn công mạng hoặc hỗ trợ các hoạt động liên quan đến vũ khí sinh học.

Ở góc độ địa chính trị, ông Nasila lưu ý cuộc đua phát triển AI giữa Mỹ và Trung Quốc đang diễn ra theo những cách tiếp cận khác nhau. Mỹ phải cân bằng giữa việc duy trì vị thế dẫn đầu về công nghệ và những lời kêu gọi tăng cường kiểm soát rủi ro trong nước, trong khi Trung Quốc theo đuổi mô hình quản lý có sự giám sát chặt chẽ hơn của nhà nước.

Theo chuyên gia này, sự khác biệt về cách tiếp cận càng cho thấy nhu cầu phối hợp quốc tế trong xây dựng các tiêu chuẩn và cơ chế bảo đảm an toàn cho AI. Các thể chế đa phương như Liên hợp quốc có thể đóng vai trò quan trọng trong việc thúc đẩy các nguyên tắc chung, qua đó hạn chế nguy cơ các hệ thống AI ngày càng có năng lực nhưng vượt quá khả năng kiểm soát của con người.

Trong giai đoạn tới, thách thức đối với các chính phủ và ngành công nghệ vì thế không chỉ nằm ở việc quốc gia hay doanh nghiệp nào dẫn đầu cuộc đua AI, mà còn ở khả năng chứng minh rằng sự phát triển nhanh chóng của công nghệ có thể đi cùng với các cơ chế quản trị và kiểm soát rủi ro hiệu quả.

Đặng Huyền/TTXVN

Dành cho bạn

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Nhân dịp Hội nghị cấp cao Diễn đàn Hợp tác Kinh tế châu Á-Thái Bình Dương (APEC) 2026, với sự tham dự của nhiều nhà lãnh đạo thế giới, trong đó có Tổng thống Mỹ Donald Trump và Tổng thống Nga Vladimir Putin, Trung Quốc đang tận dụng sự kiện này để giới thiệu những bước tiến công nghệ mới, đặc biệt trong lĩnh vực trí tuệ nhân tạo (AI) và robot hình người.

Thiết bị viễn thông ở một góc của một trung tâm dữ liệu. Ảnh minh họa: Wikimedia Commons

Cơ hội việc làm lương 100.000 USD nhờ làn sóng trung tâm dữ liệu AI

Các doanh nghiệp công nghệ Mỹ đang thiếu nghiêm trọng nhân lực kỹ thuật trong lĩnh vực AI. Để giải quyết bài toán này, nhiều tập đoàn lớn đã triển khai các chương trình đào tạo cấp tốc, miễn phí, mở ra cơ hội việc làm với mức lương vượt 100.000 USD/năm.

Đổi mới đào tạo nhân lực cho báo chí trong kỷ nguyên số

Đổi mới đào tạo nhân lực cho báo chí trong kỷ nguyên số

Trong bối cảnh trí tuệ nhân tạo (AI) ngày càng được ứng dụng rộng rãi vào hoạt động báo chí, đào tạo nhân lực cần đổi mới theo hướng kết hợp kỹ năng công nghệ, năng lực kiểm chứng thông tin với đạo đức và trách nhiệm nghề nghiệp.

Robot trí tuệ nhân tạo (Robot AI) được triển khai tại nhiều xã, phường tỉnh Lâm Đồng, mở thêm kênh hỗ trợ người dân tiếp cận thông tin hành chính. Ảnh: Hồng Hiếu/TTXVN

Từ cảnh báo của Pháp đến yêu cầu bảo vệ dữ liệu cá nhân trong kỷ nguyên AI

Trợ lý AI ngày càng hiểu rõ thói quen, sở thích và những thông tin riêng tư của người dùng, làm gia tăng nguy cơ thu thập, suy luận và khai thác dữ liệu ngoài mục đích ban đầu. Những cảnh báo mới từ Pháp đặt ra yêu cầu đối với Việt Nam trong thực hiện Nghị quyết 57-NQ/TW: bảo vệ dữ liệu ngay từ khâu thiết kế, bảo đảm quyền riêng tư và củng cố niềm tin vào các dịch vụ số.