Một nghiên cứu mới đây - do các chuyên gia đến từ Đại học Công nghệ Queensland (QUT) và Trung tâm Đổi mới Dịch vụ Y tế Australia (AusHSI) dẫn đầu - vừa cảnh báo một số mô hình trí tuệ nhân tạo (AI) được thiết kế để dự báo nguy cơ đột quỵ và tiểu đường đang được xây dựng trên các tập dữ liệu không thể xác minh nguồn gốc.
Theo phóng viên TTXVN tại Sydney, nhóm tác giả đã tiến hành rà soát 2 tập dữ liệu y tế được tải xuống rộng rãi trên Kaggle – một nền tảng trực tuyến chia sẻ tài nguyên học máy được mệnh danh là "sân thử nghiệm AI của thế giới".
Đáng chú ý, dù gần như không có thông tin về nguồn gốc, cách thức thu thập hay tính thực tế của dữ liệu bệnh nhân, 2 tập dữ liệu này vẫn xuất hiện trong 125 nghiên cứu bình duyệt. Điểm đáng lo ngại là các mô hình dự báo lỗi này đã bắt đầu thâm nhập thực tế khi được áp dụng trong lâm sàng, xuất hiện trong một bằng sáng chế thiết bị y tế và 86 bài báo tổng quan.
Khi tiến hành đánh giá dựa trên khung báo cáo tiêu chuẩn quốc tế TRIPOD+AI, các chuyên gia ghi nhận cả 2 tập dữ liệu trên đều nhận điểm 0 trên thang điểm 9 về các tiêu chí cốt lõi xác thực nguồn gốc dữ liệu.
Trưởng nhóm nghiên cứu Alexander Gibson, thuộc Khoa Y tế Công cộng & Công tác Xã hội của QUT và AusHSI, nhấn mạnh đây là một hồi chuông cảnh báo khẩn cấp cho các tạp chí khoa học, các nhà phát triển công nghệ và các bác sĩ lâm sàng.
Ông khẳng định các mô hình dự báo dựa trên nguồn dữ liệu vô danh hoàn toàn không có giá trị trong việc đưa ra quyết định y khoa. Nếu thiếu dữ liệu đáng tin cậy, kết quả đầu ra của AI sẽ không chính xác, có nguy cơ định hướng sai cho các bác sĩ và gây tổn hại trực tiếp cho người bệnh.
Nhóm tác giả khuyến nghị các tạp chí, quỹ tài trợ và kho lưu trữ dữ liệu cần siết chặt quy định về việc công khai nguồn gốc dữ liệu, đồng thời yêu cầu gỡ bỏ 2 tập dữ liệu không đáng tin cậy trên nền tảng Kaggle để ngăn chặn việc lạm dụng. Tính đến nay, đã có 7 bài báo khoa học sử dụng các tập dữ liệu này bị các tạp chí gỡ bỏ do sai lệch thông tin.
Theo các tác giả, thực trạng trên cảnh báo thách thức lớn từ làn sóng AI y tế, khi xu hướng nghiên cứu chạy theo số lượng dựa trên dữ liệu thiếu minh bạch ngày càng gia tăng. Nếu không có các cơ chế bảo vệ và kiểm định nghiêm ngặt, các mô hình AI kém chất lượng sẽ tiếp tục xâm nhập vào các tài liệu học thuật và tiềm ẩn nguy cơ gây hệ lụy xấu khi ứng dụng vào thực tế điều trị. Nghiên cứu được công bố trên tạp chí BMC Medicine.