Theo hồ sơ do Tổng chưởng lý bang New York Letitia James đưa ra ngày 7/10, TikTok đã tiến hành một thử nghiệm ngầm với tính năng "Algo Refresh" (Làm mới thuật toán). Đây vốn là công cụ cho phép người dùng khởi động lại hệ thống gợi ý video để chủ động thoát khỏi các nội dung độc hại. Tuy nhiên, hàng nghìn người dùng đã bị TikTok chọn ngẫu nhiên đưa vào nhóm "thử nghiệm giả". Nghĩa là, khi họ bấm kích hoạt tính năng và tin rằng mình đang được bảo vệ, nhưng thực chất luồng video hiển thị của họ không hề có bất kỳ sự thay đổi nào.
Đáng chú ý, hành động này đã vấp phải sự phản đối từ chính nội bộ công ty. Một quản lý thuộc bộ phận "Sức khỏe kỹ thuật số" (Digital Wellbeing) của TikTok từng cảnh báo rằng việc đưa ra một cài đặt vô dụng như vậy là sự lừa dối, đi ngược lại mục tiêu trao quyền kiểm soát cho người dùng. Bất chấp cảnh báo, TikTok vẫn lặp đi lặp lại thử nghiệm này trong năm 2023. Theo đơn kiện, mục đích thực sự của nền tảng là đo lường xem việc không có tính năng an toàn sẽ giúp giữ chân người dùng lâu hơn bao nhiêu và làm tăng doanh thu quảng cáo như thế nào.
Nghiêm trọng hơn, tài liệu giải mật còn phơi bày một chuỗi thử nghiệm khác, nơi TikTok tự ý vô hiệu hóa các bộ lọc giới hạn nội dung độc hại trên một số tài khoản ngẫu nhiên. Vụ kiện dẫn lại điều tra từ hãng tin Bloomberg cho biết hậu quả đau lòng của thử nghiệm này là việc một thiếu niên tại New York đã tự tử sau khi nền tảng liên tục "dội bom" các video về hành vi tự hại và tự sát vào tài khoản của em.
Phản hồi trước những thông tin trên, người phát ngôn của TikTok khẳng định bảo vệ người dùng trẻ tuổi luôn là ưu tiên hàng đầu của công ty này. Đại diện của Tiktok biện minh rằng việc thử nghiệm là quy trình bình thường để đánh giá trải nghiệm thực tế, đồng thời cho rằng các cáo buộc của bang New York đã hiểu sai cách hoạt động của tính năng "Algo Refresh".
Đơn kiện của bang New York chỉ là một phần trong làn sóng pháp lý nhắm vào TikTok. Hiện có hơn 20 bang tại Mỹ đang khởi kiện nền tảng này với chung một cáo buộc: cố tình thiết kế thuật toán gây nghiện cho trẻ em và lừa dối công chúng về độ an toàn. Tháng 9 vừa qua, TikTok đã phải chấp nhận chi tới 300 triệu USD để dàn xếp vụ kiện đầu tiên với bang Alabama và cam kết thay đổi cách thức hoạt động đối với người dùng tuổi teen tại đây.
