Nghiên cứu mới tiết lộ bí quyết thành công của DeepSeek

Mô hình trí tuệ nhân tạo R1 của công ty khởi nghiệp Trung Quốc DeepSeek, từng gây chấn động thị trường chứng khoán Mỹ khi ra mắt hồi tháng 1, đã được công bố trong một nghiên cứu được bình duyệt đầu tiên, cho thấy cách hãng này phát triển một LLM mạnh mẽ chỉ với chi phí khoảng 300.000 USD.
Chú thích ảnh
Biểu tượng của Deepseek. Ảnh: REUTERS/TTXVN

R1 được thiết kế để vượt trội trong các tác vụ lập luận như toán học và lập trình, trở thành đối thủ chi phí thấp của các công cụ do các tập đoàn công nghệ Mỹ phát triển. Đây là mô hình “open weight” (mở trọng số), có thể tải về miễn phí và hiện là mô hình phổ biến nhất trên nền tảng Hugging Face, với hơn 10,9 triệu lượt tải.

Nghiên cứu trên Nature cập nhật từ bản thảo công bố tháng 1, lần đầu tiết lộ chi phí huấn luyện R1 chỉ là 294.000 USD, bên cạnh khoảng 6 triệu USD để xây dựng mô hình nền. Con số này thấp hơn nhiều so với hàng chục triệu USD mà các đối thủ được cho là đã chi. DeepSeek cho biết R1 được huấn luyện chủ yếu bằng chip Nvidia H800 – loại đã bị Mỹ cấm xuất khẩu sang Trung Quốc từ năm 2023.

Điểm đột phá của R1 là áp dụng phương pháp “học tăng cường thuần túy”, tức cho mô hình thử–sai và tự được thưởng khi đưa ra đáp án đúng, thay vì học từ ví dụ do con người lựa chọn. Mô hình còn tự chấm điểm nỗ lực của mình bằng ước lượng nội bộ, một kỹ thuật gọi là “tối ưu hóa chính sách nhóm tương đối”, giúp tăng hiệu quả.

Theo nhà nghiên cứu Huan Sun (Đại học Bang Ohio), “quá trình bình duyệt nghiêm ngặt giúp xác thực giá trị và độ tin cậy của mô hình. Các hãng khác cũng nên làm điều tương tự”. Lewis Tunstall, kỹ sư học máy tại Hugging Face, nhận định đây là tiền lệ quan trọng bởi minh bạch trong phát triển AI giúp đánh giá rủi ro chính xác hơn.

DeepSeek khẳng định R1 không được huấn luyện bằng dữ liệu từ các mô hình của OpenAI, dù thừa nhận mô hình nền được huấn luyện trên dữ liệu web – vốn có thể bao gồm nội dung do AI tạo ra. Các chuyên gia đánh giá tuy khó xác minh tuyệt đối, nhưng bằng chứng hiện nay cho thấy phương pháp tăng cường thuần túy là đủ để đạt hiệu suất cao.

Trên bảng thử nghiệm ScienceAgentBench, R1 không đứng đầu về độ chính xác nhưng đạt cân bằng tốt giữa hiệu quả và chi phí. Các nhà nghiên cứu hiện tìm cách áp dụng phương pháp của DeepSeek để tăng cường khả năng lập luận cho các LLM hiện có, cũng như mở rộng sang nhiều lĩnh vực ngoài toán và lập trình.

Theo ông Tunstall, R1 đã “khởi động một cuộc cách mạng” trong phát triển trí tuệ nhân tạo.

Thanh Tùng (TTXVN)

Dành cho bạn

Chuyên gia Ngô Minh Hiếu chia sẻ chủ đề “Báo động tin giả và giải pháp chống deepfake mạo danh”. Ảnh: BTC

Khi AI khiến mắt thấy, tai nghe chưa chắc là thật: Việt Nam cần làm gì?

Khi AI có thể giả mạo khuôn mặt, giọng nói và cả cuộc gọi video, những gì mắt thấy, tai nghe không còn đủ để xác nhận sự thật. Trước nguy cơ lừa đảo ngày càng tinh vi, Việt Nam cần kết hợp phát hiện deepfake, truy vết nguồn gốc và xây dựng cơ chế xác thực nội dung số, góp phần bảo vệ niềm tin số theo tinh thần Nghị quyết 57-NQ/TW.

Giả danh cảnh sát, lừa khách Việt chuyển tiền ở Singapore

Giả danh cảnh sát, lừa khách Việt chuyển tiền ở Singapore

Cuộc gọi giả danh cảnh sát, đường dẫn đặt phòng giả và mã QR thanh toán bị can thiệp có thể khiến du khách mất tiền, lộ thông tin tài khoản. Với khách Việt Nam đến Singapore, việc xác minh yêu cầu thanh toán và bảo vệ dữ liệu cá nhân cần được chú ý ngay khi đặt dịch vụ.