Đáng lo ngại hơn, trong khi con người ngày càng mù mờ về cách AI hoạt động, thì AI lại đang thấu hiểu hành vi của con người sâu sắc hơn bao giờ hết.
Đây là lời cảnh báo đanh thép vừa được Giám đốc Khoa học của Microsoft, Eric Horvitz, và nhà nghiên cứu Robert West từ Viện Công nghệ Liên bang Thụy Sĩ (EPFL) đưa ra trong một bài xã luận trên tạp chí khoa học danh tiếng Science.
Ba xu hướng đẩy AI ra khỏi tầm kiểm soát
Các tác giả chỉ ra ba lĩnh vực chính mà AI đang ngày càng trở nên khó nắm bắt đối với nhận thức của nhân loại:
Thứ nhất là sự trỗi dậy của việc AI tự thiết kế AI. Các hệ thống AI đang ngày càng đảm nhận việc thiết kế và cải tiến các AI khác. Quá trình này diễn ra với tốc độ vượt xa khả năng nắm bắt của con người và hoạt động trong "những không gian đa chiều chống lại trực giác". Dù hiệu suất của hệ thống tăng lên, con người lại phải chật vật để hiểu được tại sao hoặc bằng cách nào chúng làm được như vậy.
Thứ hai là sự giao tiếp nội bộ giữa các AI. Các tác nhân AI hiện đang hình thành những hệ sinh thái đa tác nhân ở quy mô lớn. Giao tiếp nội bộ giữa chúng có thể dần chệch hướng khỏi ngôn ngữ và tư duy của con người, khiến chúng ta ngày càng bất lực trong việc giải mã.
Thứ ba là việc AI "đọc vị" con người. Bằng cách phân tích lượng dữ liệu khổng lồ từ các tương tác, AI đang hiểu chúng ta hơn cả chính chúng ta, tạo ra một tình thế hoàn toàn bất đối xứng. Các tác giả viết: "Thông qua tương tác liên tục, chúng có thể xây dựng các mô hình ngày càng chi tiết về hành vi và tâm lý con người, nắm bắt không chỉ các sở thích mà còn cả những động lực tiềm ẩn như nỗi sợ hãi, sự không chắc chắn và nhu cầu thuộc về xã hội."
Mối đe dọa từ sự “mờ mịt”
Điều gì sẽ xảy ra khi AI vượt quá ngưỡng hiểu biết của con người? Các chuyên gia cảnh báo rằng nếu không có các biện pháp đối phó mạnh mẽ, sự mờ mịt này có thể tạo ra những hệ thống AI đầy quyền năng nhưng con người không thể quản trị. Khi sự mất cân bằng này xảy ra, quyền tự chủ cá nhân, quá trình ra quyết định dân chủ và niềm tin vào các thể chế đều có thể bị đe dọa.
Nguy hiểm hơn, khi AI quá hiểu con người, chúng có thể chỉ đưa ra những kết quả phản ánh kỳ vọng của chúng ta thay vì thực tế – nói cách khác là chỉ nói những gì con người muốn nghe. Nếu không hiểu rõ AI, chúng ta thậm chí sẽ không nhận ra điều này đang xảy ra.
Các tác giả cảnh báo: "Tinh vi hơn là khả năng chúng ta sẽ dần mất đi hứng thú trong việc thấu hiểu và dẫn dắt AI. Khi các hệ thống AI gắn chặt vào môi trường của con người, chúng có thể đáp ứng các sở thích nhưng đồng thời cũng định hình chúng. Các hệ thống được tối ưu hóa để thu hút sự tương tác hoặc sự tán thành có thể làm giảm ma sát và làm nản lòng sự giám sát. Theo thời gian, sự tò mò và hoài nghi có thể xói mòn, dẫn đến sự bỏ mặc và chấp nhận".
Giải pháp giữ vững quyền tự chủ
Dù bức tranh tương lai có vẻ u ám do sự lan rộng không kiểm soát của AI hiện nay, các tác giả khẳng định vẫn còn hy vọng để giữ cho AI nằm trong vòng kiểm soát.
Giới nghiên cứu cần tập trung buộc các hệ thống AI phải giải thích được các lựa chọn thiết kế và hoạt động nội bộ của chúng theo cách mà con người có thể hiểu được. Điều này bao gồm việc phát hiện sự sai lệch trong ngôn ngữ do AI tạo ra và khen thưởng cho những giao tiếp mà con người có thể diễn giải. Đồng thời, cần có các khung đánh giá động, mô phỏng môi trường thực tế để liên tục kiểm tra các mô hình AI thay vì chỉ dùng các bài kiểm tra tĩnh.
Nhấn mạnh tầm quan trọng sống còn của việc duy trì quyền tự chủ và khả năng chất vấn AI, các tác giả kết luận: “Chỉ theo dõi cách các hệ thống AI hành xử là không đủ. Chúng ta cũng phải hiểu cách chúng định hình các mục tiêu và phán đoán của con người, đồng thời đảm bảo rằng mọi người giữ được năng lực và động lực để đặt câu hỏi, kiểm toán và dẫn dắt chúng”.
