Khi công nghệ AI phát triển mạnh mẽ, những lo ngại về an toàn và mối đe doạ về bảo mật mới cũng ngày càng gia tăng với tốc độ chưa từng có, điều mà các giải pháp hiện tại chưa thể giải quyết.
Cisco AI Defense được đặc biệt xây dựng để giúp các doanh nghiệp có thể tự tin phát triển, triển khai và bảo vệ các ứng dụng AI một cách an toàn và hiệu quả.
Rủi ro của việc AI gặp trục trặc là cực kỳ cao. Theo Chỉ số Sẵn sàng AI (AI Readiness Index) năm 2024 của Cisco, chỉ có 49% người tham gia khảo sát tại Việt Nam cảm thấy được trang bị đầy đủ để phát hiện và ngăn chặn hành vi can thiệp trái phép vào AI. Những thách thức bảo mật hiện nay cũng đang ngày càng phức tạp với các ứng dụng AI đa mô hình và đa đám mây. Các lỗ hổng có thể xuất hiện ở cấp độ mô hình hoặc ứng dụng, trong khi trách nhiệm lại thuộc về các chủ thể khác nhau như nhà phát triển, người dùng cuối hay các nhà cung cấp. Khi các doanh nghiệp không chỉ sử dụng dữ liệu công khai mà còn bắt đầu đào tạo các mô hình dựa trên dữ liệu riêng, các rủi ro sẽ chỉ ngày càng gia tăng.
Để thúc đẩy sự đổi mới và ứng dụng AI, các doanh nghiệp cần một lớp bảo mật chung để bảo vệ mọi người dùng và mọi ứng dụng. AI Defense giúp các doanh nghiệp bảo vệ quá trình chuyển đổi AI của mình bằng cách giải quyết hai rủi ro cấp bách:
Phát triển và triển khai các ứng dụng AI an toàn:
Khi AI ngày càng phổ biến, các doanh nghiệp sẽ sử dụng và phát triển hàng trăm, thậm chí là hàng nghìn ứng dụng AI. Các nhà phát triển cần một bộ bảo mật AI và các chính sách an toàn có thể áp dụng cho mọi ứng dụng. AI Defense giúp các nhà phát triển hành động nhanh chóng và khai thác tối đa giá trị bằng cách bảo vệ các hệ thống AI khỏi các cuộc tấn công và bảo vệ hành vi của mô hình trên các nền tảng.
Các tính năng của AI Defense bao gồm:
Khám phá AI (Discovering AI): Các nhóm bảo mật cần hiểu rõ ai đang phát triển ứng dụng và các nguồn dữ liệu được sử dụng. AI Defense phát hiện các ứng dụng AI chưa được cấp phép và các ứng dụng được cấp phép trên cả đám mây công cộng và đám mây riêng.
Xác thực Mô hình (Model Validation): Việc điều chỉnh mô hình có thể dẫn đến những kết quả không mong muốn. AI Defense tự động kiểm tra mô hình AI để phát hiện hàng trăm vấn đề về an toàn và bảo mật có nguy cơ tiềm ẩn. Nhóm Red Team dựa trên thuật toán AI này sẽ phát hiện các lỗ hổng và đề xuất các biện pháp bảo vệ cho các nhóm bảo mật.
Bảo mật Thời gian thực (Runtime Security): Xác thực liên tục giúp chống lại các mối đe doạ an toàn và bảo mật tiềm ẩn như tiêm lệnh (prompt injection), từ chối dịch vụ và rò rỉ dữ liệu nhạy cảm.
Bảo mật Quyền truy cập vào các Ứng dụng AI:
Khi người dùng cuối vội vã áp dụng các ứng dụng AI để nâng cao hiệu suất như công cụ tóm tắt để cải thiện năng suất, các nhóm bảo mật cần ngăn chặn rò rỉ dữ liệu và làm hỏng dữ liệu độc quyền. AI Defense cung cấp cho các nhóm bảo mật:
Khả năng Hiển thị (Visibility): Cung cấp báo cáo tổng quan về tất cả các ứng dụng AI đang được sử dụng trong doanh nghiệp, bao gồm cả các ứng dụng AI được cấp phép và chưa được cấp phép mà nhân viên sử dụng.
Kiểm soát Quyền truy cập (Access Control): Áp dụng các chính sách bảo mật nhằm hạn chế quyền truy cập của nhân viên vào các công cụ AI chưa được cấp phép.
Bảo vệ Dữ liệu và Mối đe doạ (Data and Threat Protection): Liên tục bảo vệ dữ liệu quan trọng và chống mất mát dữ liệu, đồng thời đảm bảo tuân thủ các quy định.
