Theo thông tin ngày 2/9 từ Cục Quản lý Không gian mạng Trung Quốc (CAC), hơn 2.400 trang mạng và ứng dụng vi phạm đã bị xử lý trong chiến dịch nhằm chấn chỉnh tình trạng lạm dụng AI để tạo, phát tán thông tin giả, nội dung bạo lực, thô tục, giả mạo người thật và xâm phạm quyền, lợi ích của trẻ vị thành niên. Hiện cơ quan chức năng Trung Quốc tiếp tục hoàn thiện khung pháp lý đối với AI tạo sinh, là sự phát triển, nối tiếp các quy định yêu cầu nhà cung cấp dịch vụ AI tạo sinh phải thực hiện các nghĩa vụ bảo vệ thông tin cá nhân (có hiệu lực từ tháng 8/2023) và các quy định về gắn nhãn nội dung AI, trong đó yêu cầu văn bản, hình ảnh, âm thanh và video do AI tạo ra phải có dấu hiệu nhận diện hiển thị hoặc được tích hợp vào nội dung (có hiệu lực từ tháng 9/2025).
CAC cho biết các địa phương của Trung Quốc đã triển khai những biện pháp khác nhau. Tại Bắc Kinh, cơ quan chức năng yêu cầu các nền tảng nâng cấp hệ thống kiểm duyệt nội dung nhằm nâng cao khả năng phát hiện các biến thể mới của nội dung bị cấm. Tại Thượng Hải, cơ quan quản lý yêu cầu các nền tảng kiểm tra nội bộ, đồng thời công bố các tài liệu hướng dẫn nhằm nâng cao nhận thức của công chúng về những rủi ro liên quan đến AI.
Theo CAC, các nền tảng trực tuyến lớn của Trung Quốc, trong đó có Douyin, Kuaishou, Weibo, Tencent, Baidu, Bilibili, Xiaohongshu, Zhihu, Douban và Taobao, đã tăng cường các hệ thống phát hiện nội dung đa phương tiện, đồng thời mở rộng cơ sở dữ liệu phục vụ việc nhận diện hình ảnh khuôn mặt bị chỉnh sửa, giọng nói bị sao chép và các mẫu nội dung vi phạm đã được xác định. Các dịch vụ chatbot và tạo nội dung bằng AI, trong đó có Doubao của ByteDance, Yuanbao của Tencent, Qwen của Alibaba và Ernie Bot của Baidu, đã siết chặt kiểm duyệt dữ liệu đào tạo cũng như nội dung đầu ra, đồng thời tăng cường thực hiện yêu cầu về gắn nhãn nội dung do AI tạo ra. Các kho ứng dụng dành cho điện thoại thông minh do Huawei, Xiaomi, OPPO và Vivo vận hành cũng đã áp dụng các tiêu chuẩn thẩm định nghiêm ngặt hơn đối với các nhà phát triển ứng dụng, trong đó có việc kiểm tra lại những ứng dụng đã được đưa lên các nền tảng này.
CAC cũng công bố một số trường hợp tài khoản và ứng dụng bị xử phạt, trong đó có các tài khoản mạng xã hội sử dụng công cụ AI hoán đổi khuôn mặt và giọng nói để giả mạo nhân vật công chúng. Trong khi đó, một số website và nền tảng bị xử lý do lưu trữ các tác nhân AI có hình ảnh đại diện, phần hồ sơ giới thiệu hoặc nội dung hội thoại được tạo ra chứa nội dung khiêu dâm hoặc các nội dung khác gây ảnh hưởng đến trẻ vị thành niên.
Cơ quan quản lý Trung Quốc cho biết sẽ tiếp tục theo dõi những rủi ro mới phát sinh liên quan đến nội dung do AI tạo ra và triển khai các biện pháp tiếp theo nhằm ngăn chặn việc lạm dụng công nghệ này, đồng thời thúc đẩy sự phát triển lành mạnh, có trật tự của các ứng dụng AI tại Trung Quốc.
