Thông báo của Google cho biết các bản tóm tắt này đã cung cấp thông tin không chính xác cho người dùng khi họ cố gắng tìm hiểu các vấn đề sức khỏe bằng công cụ tìm kiếm này, khiến những người đang gặp vấn đề nghiêm trọng tin rằng tình trạng của họ là bình thường hoặc có cách điều trị sai dẫn đến hậu quả nặng nề. Google cam kết sẽ liên tục xem xét chất lượng của bản tóm tắt do AI tạo ra (AI Overview) nhằm đảm bảo chỉ các câu trả lời đáng tin cậy được xuất hiện trên các công cụ tìm kiếm. Tuy nhiên, Google cũng khuyến cáo người dùng nên tìm kiếm lời khuyên sức khỏe từ các chuyên gia y tế.
Theo phát hiện của các kênh truyền thông, các bản tóm tắt do AI tạo ra đã đưa ra các chẩn đoán về chức năng gan của người dùng mà không dựa trên đánh giá bối cảnh đầy đủ về tuổi tác, giới tính hoặc dân tộc. Điều này có nguy cơ khiến những người bị bệnh nặng tin rằng họ có kết quả bình thường và không đi kiểm tra sức khỏe. Ngoài ra, bản tóm tắt của AI cũng gợi ý chế độ ăn uống cho bệnh nhân ung thư tuyến tụy ngược lại với hướng dẫn điều trị tiêu chuẩn.
AI Overview là dịch vụ tóm tắt câu trả lời bằng AI do Google phát triển nhằm cạnh tranh với công cụ AI khác như ChatGPT. Là phần tổng hợp ngắn do hệ thống Gemini tạo ra, tính năng này hiển thị ngay trên đầu trang kết quả tìm kiếm, bên dưới có đường dẫn đến nguồn, kèm tùy chọn “Xem thêm”. Tính năng giúp người dùng có thể dễ dàng tìm được câu trả lời mà không cần nhấp vào bất kỳ liên kết nào bên dưới.
