Báo “Le Point” (Pháp) ngày 16/9 dẫn kết quả một nghiên cứu được trình bày tại Hội nghị quốc tế lần thứ 10 về đánh giá ngang hàng và xuất bản khoa học cho biết ứng dụng AI trong nghiên cứu đã có bước nhảy vọt. Nếu năm 2024, khoảng 23% bản tóm tắt chứa nội dung do mô hình ngôn ngữ lớn (LLM) tạo ra, thì chỉ trong 6 tháng đầu năm nay, con số này đã tăng vọt lên mức 36% trên tổng số 7.177 bản thảo được phân tích.
Đáng chú ý, khi được hỏi, chỉ 9% số tác giả thừa nhận đã dùng AI. Khoảng cách này cho thấy tình trạng “giấu diếm” công cụ công nghệ trong hoạt động khoa học đang diễn ra khá phổ biến. Không chỉ là phần tóm tắt, mục phương pháp nghiên cứu và thậm chí các ý kiến phản biện cũng bị ảnh hưởng khi có tới 5% bình luận của các nhà khoa học độc lập nhiều khả năng do AI viết.
Để thực hiện nghiên cứu trên, Hiệp hội Nghiên cứu Ung thư Mỹ (AACR) đã sử dụng công cụ AI Detection Dashboard. Công cụ này dựa trên công nghệ học sâu, được huấn luyện cả bằng các dữ liệu văn bản do con người lẫn AI tạo ra để dễ dàng nhận diện. Ông Daniel Evanko, Giám đốc hệ thống biên tập của AACR, cho biết hiệp hội đã tiến hành nghiên cứu sau khi nhiều nhà khoa học phản ánh rằng một số ý kiến phản biện đối với các bài mà họ nộp dường như được AI tạo ra
Tuy nhiên, giới chuyên môn cũng tỏ ra thận trọng. Ông Roy Perlis, Tổng biên tập tạp chí JAMA + AI, cảnh báo “có nguy cơ thật sự khi chúng ta tích hợp các công cụ này vào quy trình biên tập và coi kết quả của chúng là tuyệt đối chính xác”. Ông lưu ý về khả năng “dương tính giả”, theo đó phần mềm khẳng định một văn bản được AI viết trong khi thực tế không phải vậy. Rủi ro này tăng lên khi số lượng bản thảo được kiểm tra quá lớn.
Hiện nay, việc sử dụng AI không bị cấm trong các ấn phẩm khoa học, song hầu hết hội đồng biên tập đều yêu cầu tác giả nêu rõ nếu có sử dụng, cũng như chỉ rõ công cụ và mô hình áp dụng. Ngoài việc viết hay chỉnh sửa văn bản, một số nhà nghiên cứu còn có thể dùng LLM để phân tích dữ liệu hoặc tạo hình ảnh khoa học, điều này càng đòi hỏi minh bạch.
Ông Daniel Evanko cũng thừa nhận rằng công cụ giám sát nói trên chưa phải chính xác tuyệt đối. Trước khi ChatGPT xuất hiện, hồi năm 2020-2021, AI Detection Dashboard phát hiện chưa đến 1% bản thảo có yếu tố AI. Dù vậy, ông đánh giá kết quả mới nhất vẫn là “tín hiệu hữu ích” để các biên tập viên có cơ sở yêu cầu tác giả giải trình, tương tự như khi bản thảo có sai sót hay những điểm còn mơ hồ.
Với việc AI ngày càng thâm nhập sâu vào quy trình nghiên cứu và xuất bản, thách thức đặt ra là vừa tận dụng công cụ mới, vừa đảm bảo tính trung thực và minh bạch khoa học. Nếu không, sẽ dẫn đến nguy cơ mất niềm tin vào toàn bộ hệ thống công bố khoa học - điều mà cộng đồng nghiên cứu quốc tế khó có thể chấp nhận.
