Thêm nhiều cảnh báo về hậu quả của việc mất kiểm soát AI

Ngày 21/9, Thủ tướng Tây Ban Nha Pedro Sanchez lên tiếng cảnh báo về những hậu quả tiềm tàng "tàn khốc" nếu con người mất kiểm soát với trí tuệ nhân tạo (AI).

Thủ tướng Tây Ban Nha Pedro Sanchez phát biểu tại cuộc họp báo ở Madrid. Ảnh: THX/TTXVN phát
Thủ tướng Tây Ban Nha Pedro Sanchez phát biểu tại cuộc họp báo ở Madrid. Ảnh: THX/TTXVN phát

Cảnh báo của ông Sanchez cũng giống như nhiều người khác khi nỗi lo ngại về an toàn của công nghệ này ngày càng gia tăng. Nhiều nhân vật hàng đầu trong ngành lên tiếng ủng hộ việc tăng cường hợp tác, điều chỉnh và làm chậm quá trình phát triển của công nghệ này.

Phát biểu tại một sự kiện tập trung vào AI ở thủ đô Madrid, Thủ tướng Sanchez khẳng định: "Nếu AI tập trung vào một vài công ty và một số ít quốc gia, tác động của nó đến sự thịnh vượng chung sẽ rất tiêu cực, nếu không muốn nói là tàn khốc". Ông nhấn mạnh cần hành động khẩn cấp, và kêu gọi sự phối hợp quốc tế vì việc AI không được kiểm soát lại nằm trong tay rất ít người là “công thức hoàn hảo cho thảm họa".

Thủ tướng Tây Ban Nha cũng kêu gọi một AI "tập trung vào hạnh phúc và sự thịnh vượng chung, cho phép xây dựng các xã hội công bằng hơn". Ông đã trình bày một kế hoạch 12 tháng nhằm hướng tới "một hợp đồng xã hội mới cho AI" ở Tây Ban Nha với sự hợp tác của xã hội dân sự. Thỏa thuận này phải mang lại "sự an toàn cho người dân trước những thay đổi trong công việc và cuộc sống mà công nghệ này sẽ tạo ra”.

Trước đó, hồi tháng Hai, ông Sanchez đã công bố kế hoạch cấm mạng xã hội đối với trẻ em dưới 16 tuổi. Chính phủ Tây Ban Nha cũng đã yêu cầu các công tố viên điều tra các tập đoàn X, Meta và TikTok về các hành vi phạm tội có thể liên quan đến nội dung khiêu dâm trẻ em do AI tạo ra.

Cuộc tranh luận đang nóng lên trước thềm các diễn đàn công nghệ quốc tế, trong đó có sự kiện GovTech 2026 diễn ra tại Nam Phi từ ngày 21-23/9. Theo phóng viên TTXVN tại Pretoria, giới khoa học và các nhà quản lý công nghệ đang lên tiếng cảnh báo về những rủi ro khi AI phát triển với tốc độ chóng mặt, làm dấy lên những lo ngại sâu sắc về khả năng nhân loại có thể đánh mất quyền kiểm soát công nghệ này.

Ông Yoshua Bengio, nhà khoa học máy tính người Canada và là người từng đoạt giải thưởng Turing năm 2018, cùng nhà tiên phong AI khác là Geoffrey Hinton – nhận định nhân loại đang dần "mất kiểm soát" đối với AI, đồng thời nhấn mạnh sự cần thiết phải thiết lập các biện pháp bảo vệ với quy mô và tham vọng tương đương như những cơ chế kiểm soát vũ khí hạt nhân.

Chia sẻ quan điểm này, ông Bilal Chughtai - cựu kỹ sư nghiên cứu của Google DeepMind - nhận định năng lực của AI đang tiến bộ nhanh hơn khả năng thấu hiểu của các nhà nghiên cứu trong việc đảm bảo các hệ thống tiên tiến này luôn vận hành đồng điệu với lợi ích của nhân loại (AI alignment).

Tuy nhiên, không phải mọi chuyên gia đều đồng tình với các dự báo bi quan này. Giám đốc điều hành (CEO) Nvidia Jensen Huang đã bác bỏ quan điểm cho rằng AI có thể hủy diệt nhân loại, khẳng định những kịch bản như vậy thiếu cơ sở khoa học. Trong khi đó, CEO của Meta, ông Mark Zuckerberg cho rằng các công ty công nghệ có động lực thương mại mạnh mẽ để đảm bảo độ tin cậy của AI, bởi người tiêu dùng sẽ quay lưng với các sản phẩm hoạt động khó đoán hoặc đi ngược lại lợi ích của họ. Trách nhiệm pháp lý cũng là một yếu tố buộc các tập đoàn phải nghiêm túc giải quyết bài toán an toàn.

Cuộc tranh luận về AI giờ đây không chỉ giới hạn trong Thung lũng Silicon mà đã lan rộng ra phạm vi toàn cầu. Tổng thư ký Liên hợp quốc (LHQ) Antonio Guterres kêu gọi sự phối hợp quốc tế, cảnh báo rủi ro từ AI vượt qua mọi biên giới và không một quốc gia nào có thể tự mình giải quyết. Cao ủy Nhân quyền LHQ Volker Turk cũng hối thúc các chính phủ và công ty phát triển AI tiên tiến hành động khẩn cấp, nhấn mạnh việc chỉ dựa vào các biện pháp tự nguyện của ngành là chưa đủ. Ông Turk đặc biệt quan ngại về việc ứng dụng các hệ thống AI tự trị trong chiến tranh và khả năng công nghệ này có thể làm gián đoạn việc tiếp cận các dịch vụ thiết yếu như hệ thống nước, sưởi ấm và tài chính.

Bích Liên - Đặng Huyền/TTXVN

Dành cho bạn

Nhiều mô hình AI xác định nhầm thường dân là mục tiêu quân sự

Nhiều mô hình AI xác định nhầm thường dân là mục tiêu quân sự

Các mô hình trí tuệ nhân tạo (AI) bao gồm cả những mô hình do OpenAI và Anthropic phát triển, thường xuyên xác định nhầm thường dân là mục tiêu quân sự trong các kịch bản mô phỏng tại Ukraine và Iran. Đây là kết quả nghiên cứu vừa được công bố của công ty kiểm định AI Vals.

Trí tuệ nhân tạo: Microsoft ra mắt loạt mô hình AI chuyên biệt

Trí tuệ nhân tạo: Microsoft ra mắt loạt mô hình AI chuyên biệt

Tại hội nghị Microsoft Ignite tổ chức ở thành phố San Francisco (Mỹ) ngày 17/11, tập đoàn công nghệ Microsoft đã công bố loạt mô hình trí tuệ nhân tạo (AI) mới với năng lực nổi bật trong lập trình và an ninh mạng, nhằm tăng cường cạnh tranh với hai đối thủ Anthropic và OpenAI trong cuộc đua phát triển các mô hình AI chuyên biệt, có hiệu suất cao và chi phí thấp.

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Thâm Quyến (Trung Quốc) phô diễn sức mạnh công nghệ robot hình người dịp APEC

Nhân dịp Hội nghị cấp cao Diễn đàn Hợp tác Kinh tế châu Á-Thái Bình Dương (APEC) 2026, với sự tham dự của nhiều nhà lãnh đạo thế giới, trong đó có Tổng thống Mỹ Donald Trump và Tổng thống Nga Vladimir Putin, Trung Quốc đang tận dụng sự kiện này để giới thiệu những bước tiến công nghệ mới, đặc biệt trong lĩnh vực trí tuệ nhân tạo (AI) và robot hình người.