Theo phóng viên TTXVN tại Trung Quốc, ông Khương Quốc Lợi (Jiang Guoli), Cục trưởng Cục Điều tra Hình sự thuộc Bộ Công an Trung Quốc, ngày 24/7 cho biết, các đối tượng ngày càng sử dụng AI và các công nghệ mới nổi khác để thực hiện lừa đảo viễn thông và trực tuyến, xâm phạm quyền riêng tư cá nhân, làm suy yếu lòng tin của công chúng và trong một số trường hợp, đe dọa an ninh quốc gia.

Theo ông Khương Quốc Lợi, các đối tượng chủ yếu sử dụng công nghệ này để giả mạo danh tính, đột nhập vào hệ thống thông tin của chính phủ hoặc doanh nghiệp và đánh cắp thông tin cá nhân hoặc tài sản. Một số tội phạm sử dụng hình ảnh, giọng nói hoặc video do AI tạo ra để mạo danh người quen hoặc nhân vật có thẩm quyền và chiếm được lòng tin của nạn nhân trước khi thực hiện hành vi lừa đảo. Một số khác sử dụng các công cụ AI để bịa đặt và lan truyền tin đồn trên mạng, gây rối trật tự công cộng.

Quan chức trên cho biết, trong nửa đầu năm nay, công an Trung Quốc đã điều tra hơn 170 vụ liên quan đến tin đồn trực tuyến do công cụ AI tạo ra và đã xử lý hơn 190 người. Cơ quan chức năng Trung Quốc cũng đã phát triển các mô hình đánh giá rủi ro bằng cách sử dụng dữ liệu lớn để xác định các hoạt động đáng ngờ, bao gồm các cuộc gọi video thường xuyên từ các tài khoản không xác định, các cuộc gọi có ghi âm, các nỗ lực lặp đi lặp lại nhằm thu thập hình ảnh khuôn mặt và các yêu cầu thực hiện cuộc gọi video từ nước ngoài.

Theo ông Khương Quốc Lợi, ứng dụng của Trung tâm Chống lừa đảo quốc gia Trung Quốc cũng đã tích hợp chức năng nhận diện nội dung do AI tạo ra, cho phép người dùng tải lên các video, bản ghi âm hoặc hình ảnh đáng ngờ để kiểm tra xem những dữ liệu này có dấu hiệu sử dụng AI hay không.

Bộ Công an Trung Quốc đã phối hợp với các cơ quan chức năng khác để ban hành các quy định yêu cầu dán nhãn cho nội dung được tạo ra và tổng hợp bằng AI. Các cơ quan quản lý cũng đã tăng cường kiểm tra các dịch vụ AI và giám sát các rủi ro an ninh tiềm tàng liên quan đến các mô hình ngôn ngữ quy mô lớn.

Trong 6 tháng đầu năm nay, nhà chức trách đã tiến hành hơn 600 cuộc kiểm tra các dịch vụ ứng dụng AI và thực hiện hơn 30 biện pháp cưỡng chế hành chính, bao gồm đưa ra cảnh báo, yêu cầu chỉnh sửa và đóng cửa dịch vụ.

Ông Khương Quốc Lợi cho biết các cơ quan chức năng Trung Quốc cũng đang thúc đẩy việc ban hành các luật liên quan đến phòng chống tội phạm mạng và phát triển các cơ chế đánh giá an ninh, các tiêu chuẩn kỹ thuật cho mã do AI tạo ra, hình ảnh giả mạo (deepfake) và các ứng dụng khác.