#AI mất kiểm soát

Một nhà nghiên cứu hàng đầu về an toàn trí tuệ nhân tạo (AI) đã gây lo ngại trong tuần này sau khi nghỉ việc và cảnh báo công nghệ này có thể “hủy diệt nhân loại” ngay trong thập kỷ tới.

AI đang chuyển từ công cụ trả lời sang các “tác nhân” có khả năng tự lập kế hoạch, sử dụng công cụ và thực hiện nhiều nhiệm vụ liên tiếp. Khi mức độ tự chủ tăng lên, kiểm soát và an toàn trở thành một phần quan trọng của phát triển AI, cũng là vấn đề Việt Nam đang phải tính đến.

Những trường hợp chatbot tự ý hành động hoặc tìm cách vượt qua chỉ dẫn cho thấy AI càng có khả năng tự chủ thì yêu cầu về giám sát càng trở nên quan trọng. Đây là kinh nghiệm đáng lưu ý với Việt Nam khi mở rộng ứng dụng AI.