Bản báo cáo dài 237 trang được Deloitte soạn thảo cho Bộ Việc làm và Quan hệ Lao động Australia, nhằm đánh giá việc sử dụng hệ thống tự động trong các chương trình phúc lợi xã hội của nước này. Tài liệu này được công bố trên trang web của bộ vào tháng 7, nhưng sau đó bị phát hiện chứa nhiều sai sót.

Ông Chris Rudge, nhà nghiên cứu luật y tế và phúc lợi tại Đại học Sydney, là người đầu tiên phát hiện và công bố vấn đề. Ông cho biết bản báo cáo “đầy những trích dẫn bịa đặt”, trong đó có khoảng 20 lỗi rõ ràng.

Theo ông Rudge, lỗi đầu tiên khiến ông nghi ngờ là một tài liệu trong bản báo cáo trích dẫn được cho là do Giáo sư Lisa Burton Crawford, chuyên gia luật hiến pháp tại Đại học Sydney biên soạn. Cuốn sách có chủ đề vượt lĩnh vực chuyên môn của bà Crawford và hoàn toàn không tồn tại. Ông cho biết ngay khi đọc đến đó, ông đã nhận ra đây là thông tin do AI tạo ra, hoặc nếu không thì là một bí mật chưa từng được tiết lộ trong giới học thuật. Ông Rudge cho biết một số công trình của các đồng nghiệp khác của ông được trích dẫn trong bản báo cáo chỉ nhằm tạo vẻ uy tín và dường như nhóm tác giả bản báo cáo chưa từng đọc qua các tài liệu gốc.

Đáng chú ý hơn, Deloitte bị phát hiện đã trích dẫn sai và bịa đặt phát biểu của một thẩm phán tòa án liên bang, điều mà ông Rudge cho là nghiêm trọng hơn nhiều so với việc trích dẫn sai các nhà nghiên cứu, bởi hành vi này đồng nghĩa với việc trình bày sai nội dung pháp lý trong báo cáo gửi cho chính phủ Australia, một tài liệu mà cơ quan này sử dụng trong quá trình hoạch định chính sách.

Bộ Việc làm và Quan hệ Lao động cho biết sau khi rà soát, Deloitte đã thừa nhận một số chú thích và tài liệu tham khảo là không chính xác. Bộ này cho biết Deloitte đã đồng ý hoàn trả một phần khoản thanh toán theo hợp đồng, tuy nhiên số tiền cụ thể chưa được công bố. Trả lời AP liên quan vụ việc này, Deloitte cho biết “vấn đề đã được dàn xếp trực tiếp với khách hàng” nhưng không bình luận liệu các lỗi trên có phải do AI tạo ra hay không.

Các trích dẫn sai và tài liệu học thuật không có thật đã bị loại bỏ trong bản mới, trong khi Bộ Việc làm và Quan hệ Lao động Australia khẳng định nội dung chính cùng các khuyến nghị của báo cáo vẫn được giữ nguyên. Phiên bản chỉnh sửa, được công bố lại vào tuần trước, cũng nêu rõ rằng mô hình ngôn ngữ Azure OpenAI đã được sử dụng trong quá trình soạn thảo báo cáo.

Thượng nghị sĩ Barbara Pocock, phát ngôn viên của đảng Xanh, kêu gọi Deloitte hoàn trả toàn bộ số tiền 440.000 AUD, cho rằng công ty đã lạm dụng AI một cách nghiêm trọng. Bà so sánh việc trích dẫn sai lời thẩm phán và sử dụng các tài liệu không tồn tại của Deloitte là những sai sót mà theo bà, nếu một sinh viên năm nhất đại học mắc phải thì sẽ phải chịu hình thức kỷ luật nghiêm khắc.

Deloitte là một trong bốn tập đoàn kiểm toán và tư vấn tài chính lớn nhất thế giới, cùng với PwC, EY và KPMG. Công ty có trụ sở chính tại London, cung cấp dịch vụ trong các lĩnh vực kế toán, kiểm toán, quản lý rủi ro, tư vấn công nghệ và thuế. Tại Australia, Deloitte đóng vai trò quan trọng trong các dự án tư vấn cho chính phủ và khu vực công, bao gồm nhiều hợp đồng đánh giá hệ thống quản lý và công nghệ thông tin.