Hình minh hoạ các nền tảng trung gian AI. Ảnh: Bộ An ninh Quốc gia Trung Quốc
Theo Global Times, Bộ An ninh Quốc gia Trung Quốc ngày 8/6 đã lên tiếng cảnh báo về những nguy cơ tiềm ẩn từ sự phát triển nhanh chóng của các nền tảng trung gian AI, cho rằng lĩnh vực này đang tồn tại nhiều lỗ hổng liên quan đến bảo vệ dữ liệu, quyền riêng tư và tuân thủ pháp luật.
Các nền tảng trung gian AI đóng vai trò cầu nối giữa người dùng và các dịch vụ chính thức do các nhà phát triển mô hình AI cung cấp. Trong bối cảnh nhu cầu sử dụng trí tuệ nhân tạo tăng mạnh trong thời gian gần đây, những nền tảng cho phép truy cập đồng thời nhiều mô hình ngôn ngữ lớn trong và ngoài Trung Quốc đã nhanh chóng thu hút lượng lớn người dùng.
Các nền tảng này tích hợp giao diện lập trình ứng dụng (API) từ nhiều nhà cung cấp AI vào một hệ thống thống nhất, giúp người dùng truy cập nhiều mô hình khác nhau thông qua một cổng dịch vụ duy nhất. Nhờ đó, người dùng không cần chuyển đổi liên tục giữa các ứng dụng AI, đồng thời có thể tiết kiệm chi phí và sử dụng các phương thức thanh toán phổ biến trong nước.
Nguy cơ rò rỉ dữ liệu và quyền riêng tư
Tuy nhiên, Bộ An ninh Quốc gia Trung Quốc cho rằng sự phát triển quá nhanh trong khi thiếu cơ chế quản lý chặt chẽ đã làm gia tăng nhiều nguy cơ về an ninh thông tin.
Một trong những mối lo ngại lớn nhất là vấn đề bảo vệ dữ liệu cá nhân. Với vai trò là bên trung gian, các nền tảng này thường lưu trữ dữ liệu mà người dùng nhập vào trên hệ thống máy chủ riêng. Một số đơn vị vận hành bị cho là chưa áp dụng đầy đủ các biện pháp mã hóa và quản trị dữ liệu cần thiết, khiến thông tin người dùng dễ bị lộ lọt hoặc bị khai thác trái phép.
Cơ quan an ninh Trung Quốc cảnh báo rằng một số nền tảng có thể lưu giữ dữ liệu người dùng mà không được cho phép, thậm chí bán lại nguồn dữ liệu này cho các nhà phát triển mô hình AI khác để phục vụ hoạt động huấn luyện thuật toán. Điều này làm gia tăng nguy cơ xâm phạm quyền riêng tư cũng như rò rỉ thông tin nhạy cảm.
Rủi ro từ gian lận dịch vụ và tấn công mạng
Ngoài nguy cơ về dữ liệu, giới chức Trung Quốc cũng cảnh báo về tình trạng một số đơn vị vận hành cắt giảm chi phí bằng cách thay thế các mô hình AI cao cấp bằng phiên bản chất lượng thấp hơn trong khi vẫn thu phí tương đương.
Theo Bộ An ninh Quốc gia Trung Quốc, việc giảm tài nguyên tính toán hoặc vô hiệu hóa các cơ chế kiểm tra, xác thực có thể khiến chất lượng đầu ra của AI suy giảm, làm giảm độ chính xác và tính nhất quán trong các phản hồi. Điều này có thể tác động tiêu cực đến quá trình ra quyết định của người dùng nếu họ quá phụ thuộc vào kết quả do AI cung cấp.
Bên cạnh đó, các nền tảng trung gian AI cũng có nguy cơ trở thành mục tiêu hoặc công cụ cho các cuộc tấn công mạng. Những đối tượng xấu có thể cài đặt cửa sau vào hệ thống nhằm phát tán mã độc lên thiết bị của người dùng, đánh cắp thông tin đăng nhập, khóa truy cập dịch vụ đám mây hoặc triển khai các chương trình điều khiển từ xa để theo dõi và thu thập dữ liệu trong thời gian dài.
Siết chặt quản lý AI
Một vấn đề khác được nhấn mạnh là hoạt động chuyển dữ liệu ra nước ngoài. Theo cơ quan an ninh Trung Quốc, một số nền tảng chưa đáp ứng đầy đủ các yêu cầu pháp lý liên quan đến chuyển dữ liệu xuyên biên giới và chưa hoàn tất các cuộc đánh giá an ninh bắt buộc trước khi gửi dữ liệu người dùng đến các máy chủ ở nước ngoài.
Những vi phạm này không chỉ làm gia tăng nguy cơ lộ lọt thông tin cá nhân mà còn có thể ảnh hưởng đến bí mật kinh doanh và thậm chí là các thông tin liên quan đến an ninh quốc gia.
Trong những năm gần đây, Trung Quốc liên tục phát tín hiệu cho thấy quyết tâm xây dựng khuôn khổ quản trị AI chặt chẽ nhằm bảo đảm công nghệ này được phát triển theo hướng an toàn và có trách nhiệm.
Ngày 30/4, Cục Quản lý Không gian mạng Trung Quốc đã phát động chiến dịch kéo dài bốn tháng trên phạm vi toàn quốc nhằm xử lý các hành vi vi phạm và sai phạm trong lĩnh vực ứng dụng AI. Chiến dịch tập trung vào việc tăng cường quản lý các dịch vụ AI, thúc đẩy sự phát triển lành mạnh của ngành và bảo vệ quyền lợi hợp pháp của người dân.
Bộ An ninh Quốc gia Trung Quốc nhấn mạnh rằng việc bảo đảm an toàn cho hệ sinh thái AI không chỉ phụ thuộc vào các biện pháp quản lý và thực thi pháp luật của cơ quan chức năng mà còn đòi hỏi người dùng nâng cao nhận thức về rủi ro, sử dụng công nghệ một cách thận trọng và có trách nhiệm.