Nghiên cứu của hai nhà khoa học về mạng nơron trong những năm 1980 đã đặt nền móng cho các hệ thống học sâu (deep learning) ngày nay, hứa hẹn sẽ cách mạng hóa xã hội nhưng cũng làm dấy lên những nỗi lo sợ tận thế.
Hai nhà khoa học cảnh báo rằng nếu không được kiểm soát chặt chẽ, AI có thể dẫn đến những hậu quả thảm khốc.
Phát biểu tại buổi họp mặt của Đại học Princeton qua liên kết video từ Anh ngày 8/10, Giáo sư Hopfield chia sẻ rằng ông đã chứng kiến sự phát triển của hai công nghệ cực kỳ mạnh mẽ nhưng tiềm ẩn nguy hiểm lớn: kỹ thuật sinh học và vật lý hạt nhân. Ông cho rằng những công nghệ này không chỉ có một mặt tốt hay xấu duy nhất, mà chúng có thể chứa đựng cả hai mặt cùng tồn tại.
Vị giáo sư 91 tuổi cho biết: “Tôi rất lo ngại về một thứ mà tôi không thể hiểu rõ và cũng không thể kiểm soát. Đó chính là câu hỏi mà AI đang đặt ra cho chúng ta”. Tuy ông đánh giá cao những thành tựu của các hệ thống AI hiện đại, gọi đây là “những kỳ quan tuyệt đối”, nhưng ông lo sợ rằng việc thiếu hiểu biết về cách thức AI thực sự hoạt động là điều rất đáng lo ngại.
Ông Hopfield kêu gọi các nhà khoa học cần nghiên cứu sâu hơn về cơ chế hoạt động của các hệ thống học sâu để ngăn chặn công nghệ này trở nên mất kiểm soát. Ông Hopfield đã được vinh danh nhờ việc phát minh ra mạng Hopfield - một mô hình lý thuyết cho thấy cách mạng nơron nhân tạo có thể bắt chước cách mà bộ não sinh học lưu trữ và tái hiện ký ức. Nhờ khám phá này, máy móc có thể “ghi nhớ” và truy xuất các thông tin, thậm chí khi dữ liệu đầu vào bị thiếu hoặc sai lệch.
Về phần mình, ông Geoffrey Hinton (76 tuổi), từng chia sẻ với báo giới rằng, việc AI vượt qua trí tuệ của con người và giành quyền kiểm soát là điều có thể xảy ra “khi AI thông minh hơn chúng ta".
Với sự phát triển như vũ bão của AI và cuộc đua quyết liệt giữa các công ty để giành lợi thế trong lĩnh vực này, công nghệ đã đối mặt với nhiều chỉ trích. Các nhà khoa học lo lắng rằng AI đang tiến nhanh hơn tốc độ mà con người có thể hiểu và kiểm soát.
Ông John Hopfield đã đưa ra một ví dụ từ cuốn tiểu thuyết "Cat’s Cradle" của nhà văn Kurt Vonnegut, trong đó một loại tinh thể nhân tạo có tên "ice-nine" đã vô tình đóng băng toàn bộ đại dương, dẫn đến sự sụp đổ của nền văn minh. Ông bày tỏ sự lo ngại rằng bất kỳ công nghệ nào có thể phát triển nhanh và mạnh hơn con người cũng tiềm ẩn nguy cơ khổng lồ.
Nhà khoa học Hinton cũng đồng tình rằng hiện tại chưa có cách nào rõ ràng để tránh khỏi những viễn cảnh thảm họa mà AI có thể mang lại. Ông kêu gọi các nhà nghiên cứu tập trung đầu tư phát triển an toàn AI, đồng thời hối thúc chính phủ các nước buộc các công ty lớn cung cấp tài nguyên tính toán để phục vụ các nghiên cứu này.
Bà Ellen Moons - Chủ tịch Ủy ban Nobel Vật lý - nhấn mạnh rằng các công cụ dựa trên AI đã trở thành một phần không thể thiếu trong cuộc sống hàng ngày của nhân loại, từ nhận diện khuôn mặt đến dịch thuật ngôn ngữ. Tuy nhiên, bà cũng cảnh báo về sự phát triển quá nhanh của công nghệ này và những mối nguy hiểm mà nó có thể mang lại cho tương lai của nhân loại. Bà nhấn mạnh: “Con người phải chịu trách nhiệm trong việc sử dụng công nghệ mới này một cách an toàn và đạo đức”.
Trong khi đó, cả hai nhà khoa học Hopfield và Hinton đều nhất trí cho rằng điều quan trọng là phải hiểu rõ cách hoạt động của AI để đảm bảo công nghệ này không trở thành một mối đe dọa không lường trước được.
