Hơn 400 nhà khoa học và chuyên gia công nghệ quốc tế cảnh báo các hệ thống trí tuệ nhân tạo (AI) tiên tiến có thể vượt qua cơ chế bảo vệ, xâm nhập các hệ thống bên ngoài và đe dọa cơ sở hạ tầng thiết yếu.
Ngày 21/9, Thủ tướng Tây Ban Nha Pedro Sanchez lên tiếng cảnh báo về những hậu quả tiềm tàng "tàn khốc" nếu con người mất kiểm soát với trí tuệ nhân tạo (AI).
AI đang bước vào giai đoạn phát triển mới khi không chỉ thực hiện nhiệm vụ do con người giao mà còn có thể tham gia cải tiến chính những hệ thống AI đang vận hành. Khả năng này đang làm dấy lên cuộc tranh luận về “tự cải thiện đệ quy” và giới hạn kiểm soát của con người.
Trong nhiều năm qua, cuộc đua xây dựng các hệ thống trí tuệ nhân tạo (AI) tuân theo một nguyên tắc quen thuộc của Thung lũng Silicon: hành động nhanh và chấp nhận phá vỡ các giới hạn. Tuy nhiên, chuỗi sự kiện dồn dập kéo dài suốt 10 ngày qua đã khiến các nhà phát triển AI lớn nhất thế giới phải bàng hoàng khi chính những sản phẩm do họ tạo ra được cho là đang đe dọa sự tồn vong của toàn nhân loại.
Đi cùng với những lợi ích đáng kinh ngạc của trí tuệ nhân tạo là những mặt trái, mà nhân loại, trong khi còn đang háo hức với những tiến bộ mà nó mang lại, dường như đã không có sự chuẩn bị cần thiết để đối phó.
