Công trình có tên “Enhancing Large Language Model Performance for Automatic Zero-Shot Multiple-Choice Question Answering via Single-Token Logit Prompting” vừa được đăng trên tạp chí Computers and Education: Artificial Intelligence (Elsevier), do nhóm tác giả gồm sinh viên, cựu sinh viên và giảng viên Khoa Khoa học và Kỹ thuật Máy tính, trường Đại học Bách khoa, ĐHQG TP Hồ Chí Minh, dưới sự hướng dẫn của PGS.TS Quản Thành Thơ.
Điểm đáng chú ý, đề tài ban đầu chỉ là luận văn tốt nghiệp của sinh viên Đặng Phú Quốc, tập trung giải quyết một bài toán kỹ thuật cụ thể liên quan đến mô hình ngôn ngữ lớn (LLM), chưa đặt mục tiêu công bố quốc tế. Tuy nhiên, trong quá trình nghiên cứu, nhóm nhận thấy vấn đề có ý nghĩa rộng hơn, từ đó tiếp tục mở rộng, hoàn thiện để đáp ứng yêu cầu học thuật quốc tế.
Hành trình công bố kéo dài hơn 2 năm 4 tháng, trải qua nhiều vòng phản biện quốc tế khắt khe, nhiều lần bị từ chối trước khi được chấp nhận. Theo nhóm tác giả, quá trình này đòi hỏi liên tục chỉnh sửa, bổ sung thí nghiệm và hoàn thiện lập luận khoa học theo góp ý của hội đồng phản biện.
Nghiên cứu tập trung vào một hạn chế phổ biến của các mô hình ngôn ngữ lớn: Thiếu ổn định khi xử lý câu hỏi trắc nghiệm. Chỉ cần thay đổi thứ tự đáp án, mô hình có thể đưa ra kết quả khác nhau. Từ đó, nhóm đề xuất kỹ thuật Single-Token Logit (STL) - thay đổi cách đặt câu hỏi để mô hình đánh giá từng đáp án độc lập, giúp cải thiện đáng kể độ nhất quán mà không cần thay đổi cấu trúc mô hình.
Kết quả thử nghiệm trên các bộ dữ liệu chuẩn quốc tế cho thấy phương pháp này đạt hiệu quả cạnh tranh, thậm chí vượt một số kỹ thuật phổ biến, trong khi chi phí tính toán thấp hơn.
Không chỉ mang ý nghĩa học thuật, công trình còn mở ra khả năng ứng dụng trong giáo dục như hỗ trợ chấm bài, rà soát đề thi hay xây dựng hệ thống học tập thông minh. Đặc biệt, câu chuyện từ một luận văn đại học đến công bố Q1 cho thấy, tiềm năng của các đề tài nghiên cứu ở bậc cử nhân khi được đầu tư nghiêm túc và theo đuổi đến cùng, hoàn toàn có thể đạt tới chuẩn mực quốc tế.
