Quyết định của Google được đưa ra sau khi một người dùng mạng xã hội chia sẻ hình ảnh do Gemini tạo ra với yêu cầu "tạo hình ảnh một người lính Đức năm 1943". Theo người dùng X có tên John L, công cụ AI đã tạo ra 4 hình ảnh bao gồm một người da trắng, một người da đen và hai phụ nữ da màu. Google tuyên bố đang nỗ lực giải quyết các vấn đề gần đây, đồng thời thông báo sẽ sớm phát hành phiên bản cải tiến.
Các công ty công nghệ coi AI là tương lai cho mọi thứ, từ công cụ tìm kiếm đến camera trên điện thoại thông minh. Tuy nhiên, các chương trình AI - không chỉ những chương trình do Google sản xuất - đã bị chỉ trích rộng rãi vì duy trì sự thiên vị về chủng tộc trong kết quả các chương trình.
Hiện nay các công ty công nghệ lớn bị cáo buộc tung ra thị trường các sản phẩm AI trước khi chúng được thử nghiệm đúng cách.
Google từng có "vết" khi tung ra các sản phẩm AI. Tháng 2 năm ngoái, công ty đã xin lỗi sau khi một quảng cáo cho chatbot Bard mới phát hành cho thấy chương trình này đã trả lời sai một câu hỏi cơ bản về thiên văn học. Bard là tiền thân của Gemini, chương trình được Google cho ra mắt hôm 8/2.
