Việc tích luỹ và sử dụng dữ liệu lớn (Big Data), cùng những cải tiến đáng kể về sức mạnh số, các đổi mới trong các phương pháp học máy (machine learning), công nghệ AI đã có những phát triển vượt bậc như nhận dạng hình ảnh, nhận dạng giọng nói, xử lý ngôn ngữ tự nhiên… Cùng với điều này, AI cũng có tác động đáng kể đến tính bảo mật. Một mặt, AI được sử dụng để xây dựng những hệ thống phòng thủ, phát hiện phần mềm độc hại, cảnh báo các đợt tấn công mạng… nhưng mặt khác, AI cũng có thể bị khai thác để tạo ra các cuộc tấn công, bị tin tặc thao túng với ý đồ xấu… Chính vì thế, trong một số tình huống, bảo đảm an ninh của hệ thống AI là vấn đề sống còn không chỉ của cá nhân, doanh nghiệp mà cả với an ninh quốc gia.
Trong “Sách trắng về bảo mật AI” của Huawei, Tập đoàn cũng đã đưa ra đề xuất ba lớp bảo vệ hệ thống AI bao gồm: Giảm thiểu tấn công - dựa trên dữ liệu đã có thiết kế cơ chế phòng thủ; Mô hình bảo mật - xác minh và nâng cao tính mạnh mẽ của cơ chế bảo mật; Kiến trúc bảo mật - xây dựng một kiến trúc hệ thống an toàn để phòng vệ và bảo đảm an ninh. Theo đó, mỗi hệ thống AI của Huawei đều phải vượt qua được 5 thách thức bảo mật: an ninh phần mềm và phần cứng, sự toàn vẹn dữ liệu, bảo mật dữ liệu, tính trọn vẹn và tính chắc chắn của mô hình. Huawei liên tục có những nghiên cứu, thay đổi và phát triển công nghệ AI bao gồm AI Architecture, AI application, AI framework, Basic platform, Hardware, Chipsets, Peripherals… nhằm nâng cao cơ chế bảo mật, cung cấp môi trường ứng dụng AI an toàn và đáng tin cậy, góp phần vào việc xây dựng một thế giới AI thông minh trong tương lai.
