Theo tờ The Guardian ngày 5/12, tổ chức kiểm chứng Full Fact cho biết, có hàng trăm video sử dụng hình ảnh giả mạo các bác sĩ và người có ảnh hưởng nhằm hướng người xem đến Wellness Nest, một công ty thực phẩm bổ sung tại Mỹ.

Tất cả các video deepfake đều dùng hình ảnh thật của một chuyên gia sức khỏe lấy từ internet, nhưng đã được chỉnh sửa lại hình và âm thanh để khiến người nói khuyến khích phụ nữ mãn kinh mua các sản phẩm như probiotic và Himalayan shilajit (khoáng chất ở Himalaya) trên trang web của công ty.

Deepfake là công nghệ sử dụng AI để tạo ra hoặc chỉnh sửa hình ảnh, video, âm thanh sao cho giống thật đến mức khó nhận ra là giả.

Phát hiện của Full Fact đã dẫn tới lời kêu gọi các nền tảng mạng xã hội thận trọng hơn khi đăng nội dung do AI tạo ra và nhanh chóng gỡ những nội dung bóp méo quan điểm của người nổi tiếng.

Ông Leo Benedictus, người thực hiện cuộc điều tra được Full Fact công bố vào ngày 5/12, nói: “Đây chắc chắn là một chiến thuật đầy đáng sợ và đáng lo ngại”.

Ông nói thêm rằng những người tạo video deepfake về sức khỏe đã dùng AI để làm video giả mạo về một người có uy tín đang ủng hộ các sản phẩm bổ sung nhằm điều trị nhiều bệnh lý.

Giáo sư David Taylor-Robinson, một chuyên gia về bất bình đẳng y tế tại Đại học Liverpool, là một trong những người bị chỉnh sửa hình ảnh. Vào tháng 8, ông phát hiện TikTok đăng 14 video đã bị chỉnh sửa, trong đó mô tả ông khuyến nghị các sản phẩm mà lợi ích chưa được chứng minh.

Dù ông Taylor-Robinson là chuyên gia sức khỏe trẻ em, nhưng trong một video, bản sao của ông lại nói về một tác dụng phụ thời kỳ mãn kinh được gọi là “thermometer leg”.

Ông Taylor-Robinson giả khuyến nghị phụ nữ mãn kinh truy cập một trang web có tên Wellness Nest và mua một loại probiotic tự nhiên gồm 10 chiết xuất thực vật được khoa học chứng minh, được chọn riêng để cải thiện các triệu chứng mãn kinh. Bác sĩ trong video deepfake nói: “Các đồng nghiệp nữ thường cho biết họ ngủ sâu hơn, giảm bốc hỏa và buổi sáng tỉnh táo hơn chỉ sau vài tuần”.

Ông Taylor-Robinson chỉ phát hiện hình ảnh của mình bị sử dụng khi một đồng nghiệp báo cho ông. Ông nói: “Ban đầu thật sự rất khó hiểu, khó tin. Các con tôi thì thấy buồn cười”.

Ông nói thêm: “Tôi không cảm thấy bị xâm phạm quá mức, nhưng tôi ngày càng khó chịu khi nghĩ đến việc người ta bán sản phẩm dựa trên tên tuổi của tôi và thông tin sai lệch về sức khỏe”.

Hình ảnh của ông Taylor-Robinson được dùng trong video deepfake được lấy từ hai bài phát biểu. Một bài nói về tiêm chủng mà ông trình bày tại một hội nghị của Public Health England (PHE) vào năm 2017 và một bài tại phiên điều trần trước Quốc hội về tình trạng nghèo đói ở trẻ em mà ông tham dự vào tháng 5 năm nay.

Trong một video, hình ảnh deepfake của ông còn đang chửi thề và đưa ra bình luận kỳ thị phụ nữ khi nói về mãn kinh.

Sau sáu tuần, TikTok mới gỡ các video sau khi ông Taylor-Robinson khiếu nại. Ông nói: “Ban đầu họ nói một số video vi phạm quy định của họ nhưng một số thì không. Điều đó thật vô lý vì tôi xuất hiện trong tất cả video và tất cả đều là deepfake. Rất phiền phức trong quá trình gỡ các video”.

Full Fact còn phát hiện TikTok đăng 8 video deepfake sử dụng phát biểu bị chỉnh sửa của ông Duncan Selbie, cựu Giám đốc điều hành PHE. Giống ông Taylor-Robinson, ông Selbie bị lấy hình ảnh từ sự kiện mà ông tham dự năm 2017 để dựng thành video ông nói về mãn kinh.

Full Fact cũng phát hiện các video deepfake tương tự trên X, Facebook và YouTube, tất cả đều liên kết với Wellness Nest hoặc một đơn vị tại Anh có tên Wellness Nest UK. Đơn vị này đã đăng các video deepfake mượn hình ảnh các bác sĩ nổi tiếng như Giáo sư Tim Spector và chuyên gia dinh dưỡng, cố bác sĩ Michael Mosley.

Wellness Nest khẳng định với Full Fact rằng các video deepfake kêu gọi người xem truy cập trang web của công ty là “100% không liên quan” đến hoạt động kinh doanh của họ. Đơn vị này nói họ chưa bao giờ dùng nội dung do AI tạo nhưng không thể kiểm soát hoặc giám sát các cộng tác viên trên toàn thế giới.

Bà Helen Morgan, phát ngôn viên y tế của đảng Dân chủ Tự do tại Anh, nói: “Từ bác sĩ giả đến các bot khuyến khích tự sát, AI đang được dùng để săn lùng người vô tội và khai thác những kẽ hở ngày càng lớn của hệ thống y tế”.

Bà nói: “Đảng Dân chủ Tự do kêu gọi loại bỏ triệt để các video deepfake mạo danh chuyên gia y tế và đẩy mạnh sử dụng các công cụ đã được thẩm định lâm sàng để lấp đầy khoảng trống thông tin. Nếu đây là các cá nhân giả mạo bác sĩ, họ sẽ bị truy tố hình sự. Tại điều tương tự trong thế giới số lại được dung thứ?”

Người phát ngôn TikTok nói: “Chúng tôi đã gỡ nội dung liên quan đến ông Taylor-Robinson và Selbie vì vi phạm quy định chống thông tin sai lệch gây hại và hành vi cố tình gây hiểu lầm cho cộng đồng như mạo danh”.