Đây được xem là bước ngoặt trong quá trình triển khai bộ khung pháp lý toàn diện đầu tiên trên thế giới về quản lý AI, được EU thông qua năm 2024 và thực hiện theo lộ trình nhiều giai đoạn.
Theo quy định mới, các mô hình AI có mục đích sử dụng chung như chatbot sẽ chịu sự giám sát trực tiếp của Văn phòng AI thuộc Ủy ban châu Âu (EC). Cơ quan này có quyền yêu cầu doanh nghiệp cung cấp quyền truy cập vào mô hình AI để đánh giá mức độ tuân thủ, thậm chí trong một số trường hợp có thể yêu cầu tiếp cận trước khi sản phẩm được đưa ra thị trường. Nếu phát hiện rủi ro đối với an toàn hoặc quyền lợi của người dùng mà doanh nghiệp không khắc phục, EU có thể yêu cầu hạn chế hoặc đình chỉ việc triển khai mô hình AI trên toàn khối.
Đạo luật AI áp dụng cách tiếp cận dựa trên mức độ rủi ro, trong đó các hệ thống có nguy cơ cao phải đáp ứng những yêu cầu nghiêm ngặt hơn về minh bạch, an toàn và bảo vệ các quyền cơ bản của con người. Từ ngày 2/8, mọi nội dung do AI tạo ra, bao gồm cả deepfake, phải được gắn nhãn nhận diện rõ ràng. Các chatbot và hệ thống AI cũng phải thông báo cho người dùng rằng họ đang tương tác với trí tuệ nhân tạo. Những hệ thống đã được triển khai trước đó có thời hạn đến ngày 2/12 để hoàn tất việc điều chỉnh theo quy định mới, ngoại trừ các sản phẩm phục vụ mục đích nghệ thuật, sáng tạo, châm biếm hoặc hư cấu.
Đạo luật đồng thời cấm một số hình thức ứng dụng AI được đánh giá có nguy cơ cao, như dự báo hành vi phạm tội (predictive policing), nhận diện cảm xúc tại nơi làm việc hoặc trường học và các hệ thống có khả năng thao túng hành vi con người. Đối với các hành vi vi phạm nghiêm trọng nhất, doanh nghiệp có thể bị phạt tới 35 triệu euro (khoảng 40 triệu USD) hoặc 7% doanh thu toàn cầu, tùy theo mức nào cao hơn. Các vi phạm khác có thể bị xử phạt tới 15 triệu euro hoặc 3% doanh thu toàn cầu, đồng thời doanh nghiệp cũng có thể bị xử lý nếu cản trở hoặc không hợp tác với quá trình điều tra của cơ quan chức năng.
Theo các quan chức EU, việc trao thêm quyền cho cơ quan quản lý sẽ giúp khắc phục những khó khăn từng gặp phải trong quá trình tiếp cận và đánh giá các mô hình AI tiên tiến do doanh nghiệp nước ngoài phát triển, đồng thời tăng cường năng lực giám sát đối với những công nghệ có ảnh hưởng ngày càng lớn đến xã hội.
Trong giai đoạn tiếp theo, EU sẽ tiếp tục mở rộng phạm vi thực thi Đạo luật AI.
Từ tháng 12 năm nay, khối sẽ cấm các hệ thống AI tạo deepfake khiêu dâm, sau làn sóng tranh cãi liên quan đến chatbot Grok của tỷ phú Elon Musk. Các quy định đối với nhóm AI có rủi ro cao sẽ lần lượt có hiệu lực từ cuối năm 2027 và năm 2028, nhằm tạo thêm thời gian để doanh nghiệp chuẩn bị và đáp ứng các tiêu chuẩn mới.