Bộ Thông tin và Truyền thông (Bộ TT&TT) đã phối hợp với các doanh nghiệp như: Misa, CMC, Viettel, VNG để triển khai thử nghiệm trợ lý ảo từ tháng 10/2023 đến nay.
Cụ thể, trợ lý ảo hỗ trợ cán bộ, công chức, viên chức được xây dựng và thử nghiệm nội bộ. Theo đó, doanh nghiệp thử nghiệm tinh chỉnh, lựa chọn mô hình triển khai và xây dựng các ứng dụng.
Giai đoạn 1 (từ tháng 10/2023 đến 30/11/2023), Bộ TT&TT xây dựng và thử nghiệm nội bộ phối hợp với Viettel thử nghiệm tinh chỉnh, lựa chọn mô hình triển khai và xây dựng các ứng dụng. Bộ và Viettel đã tiến hành thử nghiệm tại các đơn vị thuộc Bộ TT&TT, các Sở TT&TT.
Giai đoạn 2 (từ 1/4/2024 đến nay), các đơn vị triển khai thử nghiệm trợ lý ảo hỏi đáp văn bản quy phạm pháp luật, bổ sung thêm các văn bản điều hành, báo cáo kinh tế - xã hội của địa phương. Cục Chuyển đổi số quốc gia đã xác định mô hình triển khai thống nhất từ giai đoạn này là RAG (ở mô hình này, trợ lý ảo trả lời dựa trên cơ sở dữ liệu (CSDL) tri thức riêng của người sử dụng, kết hợp với mô hình ngôn ngữ lớn (LLM)).
Giai đoạn 3 (từ 4/5/2024 đến nay) triển khai thử nghiệm trợ lý ảo hỏi đáp theo các lĩnh vực chuyên ngành của Bộ TT&TT. Bộ đã phối hợp cùng với Misa và Viettel triển khai tại 32 đơn vị thuộc, trực thuộc Bộ TT&TT.
Bên cạnh đó, ứng dụng trợ lý ảo hỗ trợ rà soát văn bản quy phạm pháp luật triển khai thử nghiệm tại Văn phòng Quốc hội. Theo đó, chức năng chính của trợ lý ảo là rà soát sự chồng chéo, mâu thuẫn, không thống nhất giữa các văn bản quy phạm pháp luật. Chức năng phụ của Trợ lý ảo là hỏi và đáp về văn bản quy phạm pháp luật. Trợ lý ảo do CMC phối hợp cùng Bộ TT&TT. Việc triển khai trợ lý ảo này từ tháng 2/2024 đến nay.
Thời điểm hiện tại, toàn bộ nhân sự của Vụ Pháp luật đã sử dụng thử trợ lý ảo và đã có đánh giá ban đầu là tốt. Tuy nhiên, việc sử dụng trợ lý ảo tại đây vẫn cần hoàn thiện hơn để đưa vào sử dụng thực tế.
Cùng với sử dụng hỗ trợ cán bộ, công chức, viên chức, trợ lý ảo cũng đã được triển khai hỗ trợ người dân hỏi đáp về các quy định của pháp luật. Chức năng chính của trợ lý ảo hỏi và đáp về Luật Giao thông đường bộ. Trợ lý ảo này do VNG phối hợp cùng Bộ TT&TT.
Mô hình triển khai RAG (xử lý ngôn ngữ tự nhiên - NLP, kết hợp ưu điểm của các mô hình ngôn ngữ được đào tạo trước với hệ thống truy xuất thông tin) sử dụng mô hình ngôn ngữ lớn là KiLM 13B tham số, huấn luyện với 1.000B tokens (ước lượng khoảng 3TB dữ liệu).
Kiki Giao thông (ứng dụng chatbot văn bản) có 2.360 người dùng sử dụng thường xuyên. Trợ lý ảo Kiki Giao thông trả lời tốt trên miền RAG là Luật Giao thông đường bộ, hỗ trợ rất nhiều cho người dân hiểu và làm rõ hơn về luật giao thông.
