#AI mất kiểm soát

Một nhà nghiên cứu hàng đầu về an toàn trí tuệ nhân tạo (AI) đã gây lo ngại trong tuần này sau khi nghỉ việc và cảnh báo công nghệ này có thể “hủy diệt nhân loại” ngay trong thập kỷ tới.

AI đang chuyển từ công cụ trả lời sang các “tác nhân” có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện nhiều nhiệm vụ liên tiếp. Khi mức độ tự chủ tăng lên, kiểm soát và an toàn trở thành một phần quan trọng của phát triển AI, cũng là vấn đề Việt Nam đang phải tính đến.

Việc chatbot AI tự ý hành động, vượt qua kiểm soát và thậm chí đánh lừa người dùng đang tăng vọt, gióng lên hồi chuông cảnh báo về rủi ro của công nghệ trí tuệ nhân tạo.