Nguyên nhân là các công cụ AI có thể sử dụng những quyền truy cập dữ liệu đã được cấp cho nhân viên để tìm kiếm và tổng hợp lượng lớn thông tin nhạy cảm với tốc độ, quy mô vượt xa trước đây.
Theo ông Itai Schwartz, đồng sáng lập kiêm Giám đốc công nghệ Công ty MIND Security của Israel, tại một cơ sở y tế ở Mỹ mà công ty hợp tác, công cụ Microsoft Copilot đã truy cập một tệp chứa hơn 100 thông tin cá nhân theo yêu cầu của nhân viên. Công cụ này hoạt động trong phạm vi quyền được cấp, nhưng nhân viên đó có quyền tiếp cận dữ liệu rộng hơn nhu cầu công việc thực tế. Tại một cơ sở khác, nhóm nghiên cứu phát hiện tài liệu chứa mã hồ sơ bệnh án có thể được truy cập thông qua các đường dẫn chia sẻ công khai.
Theo chuyên gia Schwartz, việc cấp quyền truy cập quá rộng và chia sẻ tài liệu thiếu kiểm soát vốn đã tồn tại từ lâu. Tuy nhiên, AI khiến nguy cơ trở nên lớn hơn khi có thể tìm kiếm, tổng hợp thông tin từ hàng trăm tệp chỉ bằng một câu hỏi đơn giản, thay vì phải mất nhiều thời gian tìm kiếm thủ công. Do đó, việc nhân viên có quyền truy cập dữ liệu không đồng nghĩa với việc mọi hình thức sử dụng dữ liệu đó đều an toàn.
Đáng chú ý, rủi ro không chỉ xuất hiện ở những công cụ AI chưa được kiểm soát mà còn có thể xảy ra với các công cụ đã được tổ chức cho phép sử dụng. Ông Schwartz dẫn số liệu rà soát tại một cơ sở cho thấy 94 trong tổng số 104 lượt chuyển thông tin nhạy cảm sang công cụ AI có liên quan đến những công cụ đã được đơn vị phê duyệt. Tuy nhiên, ông lưu ý số liệu này phản ánh hoạt động chuyển dữ liệu, chưa đủ cơ sở để kết luận tất cả các trường hợp đều dẫn đến lộ thông tin bệnh nhân.
Nguy cơ càng đáng chú ý khi các tác nhân AI có thể tự thực hiện nhiều nhiệm vụ liên tiếp, như thu thập kết quả xét nghiệm, rà soát hồ sơ bệnh án, lập bản tóm tắt và chuyển thông tin giữa các hệ thống. Vì vậy, theo ông Schwartz, các cơ sở y tế cần phân biệt rõ quyền xem tài liệu với quyền trích xuất, sao chép hoặc chia sẻ dữ liệu; mỗi hoạt động cần có cơ chế kiểm soát phù hợp.
Chuyên gia khuyến nghị các cơ sở y tế theo dõi chặt chẽ quá trình sử dụng và luân chuyển dữ liệu, xác định rõ ai truy cập, thông tin được chuyển đến đâu và phục vụ mục đích gì. Việc bảo vệ dữ liệu cần được duy trì trong toàn bộ quá trình truy cập, sử dụng và chia sẻ, nhằm bảo đảm ứng dụng AI không làm mất quyền kiểm soát đối với thông tin nhạy cảm của bệnh nhân.