Trụ sở của Google ở Mỹ. Ảnh: Kyodo/TTXVN
Theo nội dung bức thư được công bố ngày 27/4, các nhân viên cảnh báo công nghệ AI của Google có thể bị sử dụng theo những cách “phi nhân tính”, bao gồm phát triển vũ khí tự động sát thương hoặc phục vụ các chương trình giám sát diện rộng.
Nhóm ký tên bao gồm nhân sự thuộc các bộ phận như Google DeepMind và Google Cloud. Trong số đó có hơn 20 giám đốc, giám đốc cấp cao và phó chủ tịch của công ty.
Các nhân viên cho rằng việc triển khai AI trong các chương trình quân sự mật sẽ thiếu tính minh bạch và khó kiểm soát. Một nhân viên tham gia tổ chức chiến dịch phản đối nhận định rằng các “khối lượng công việc mật” về bản chất là không thể giám sát công khai, khiến Google không thể bảo đảm công nghệ của mình sẽ không bị sử dụng để gây hại cho dân thường hoặc xâm phạm quyền tự do cá nhân.
Theo nhóm phản đối, nguy cơ bao gồm việc AI bị dùng để lập hồ sơ cá nhân, giám sát đại trà hoặc hỗ trợ nhắm mục tiêu vào dân thường vô tội.
Diễn biến này xuất hiện trong bối cảnh các công ty công nghệ Mỹ ngày càng chịu áp lực phải làm rõ giới hạn sử dụng AI trong lĩnh vực quân sự và tình báo.
Trước đó, Anthropic cũng vướng phải tranh cãi với Bộ Quốc phòng Mỹ liên quan tới việc sử dụng AI cho mục đích quân sự. CEO Dario Amodei từng tuyên bố ông không thể đồng ý với yêu cầu cho phép truy cập không giới hạn vào hệ thống AI của công ty.
Ông Amodei cho rằng trong một số trường hợp, AI có thể làm suy yếu các giá trị dân chủ thay vì bảo vệ chúng, đồng thời nhấn mạnh một số ứng dụng quân sự vượt quá khả năng an toàn và độ tin cậy của công nghệ hiện nay.
Theo Euronews, Google đã đề xuất các điều khoản hợp đồng nhằm ngăn Gemini bị sử dụng cho hoạt động giám sát đại trà trong nước hoặc vũ khí tự động không có sự kiểm soát phù hợp của con người. Tuy nhiên, Lầu Năm Góc được cho là muốn áp dụng điều khoản rộng hơn cho phép sử dụng AI cho “mọi mục đích hợp pháp”, với lý do cần duy trì tính linh hoạt trong vận hành quân sự.
Các nhân viên Google cho rằng những giới hạn như vậy sẽ khó được thực thi trên thực tế do quân đội Mỹ thường hạn chế sự giám sát từ bên ngoài đối với các hệ thống AI của mình.
Làn sóng phản đối hiện nay gợi nhớ tới vụ việc năm 2018, khi nhân viên Google biểu tình phản đối sự tham gia của công ty trong Project Maven, chương trình của Lầu Năm Góc sử dụng AI để phân tích hình ảnh từ máy bay không người lái quân sự. Sức ép nội bộ khi đó đã khiến Google rút khỏi dự án.
Trong thư ngỏ mới nhất, các nhân viên tiếp tục nhấn mạnh rằng Google không nên trở thành một phần của “ngành công nghiệp chiến tranh” và kêu gọi công ty xây dựng chính sách công khai, cam kết không phát triển công nghệ phục vụ chiến tranh.