Theo tuyên bố của Chính phủ Anh, các công ty tham gia bao gồm OpenAI (nhà phát triển ChatGPT), Google DeepMind, Anthropic, Microsoft, Amazon, IBM, Meta, Mistral AI (Pháp) và Zhipu.ai (Trung Quốc). Đây là bước tiếp theo sau sự đồng thuận đạt được tại hội nghị thượng đỉnh an toàn AI toàn cầu đầu tiên tại Bletchley Park (Anh) vào năm ngoái.
Theo thỏa thuận, các công ty AI sẽ công khai cách thức họ đánh giá rủi ro của công nghệ AI, trong đó có việc xác định những rủi ro nào được coi là "không thể chấp nhận được" và các biện pháp để đảm bảo các rủi ro này không vượt ngưỡng cho phép. Trong trường hợp xấu nhất, các công ty cam kết sẽ không phát triển hoặc triển khai mô hình hoặc hệ thống nếu không thể giảm thiểu rủi ro xuống dưới mức cho phép. Định nghĩa về ngưỡng này sẽ được quyết định trước hội nghị thượng đỉnh AI tiếp theo, dự kiến diễn ra tại Pháp vào năm 2025.
Thành công vượt bậc của ChatGPT ngay sau khi ra mắt vào năm 2022 đã châm ngòi cho một cuộc chạy đua trong lĩnh vực AI. Các công ty công nghệ trên toàn thế giới đổ hàng tỷ USD để phát triển các mô hình của riêng họ. Mô hình AI tạo sinh có thể tạo văn bản, ảnh, âm thanh và thậm chí cả video từ các yêu cầu đơn giản. Những người ủng hộ cho rằng đây là một bước đột phá sẽ cải thiện cuộc sống và kinh doanh trên toàn thế giới.Tuy nhiên, những người chỉ trích cảnh báo rằng chúng có thể bị lạm dụng trong nhiều tình huống khác nhau dẫn đến việc tạo ra những tin tức giả mạo.
Nhiều người kêu gọi các tiêu chuẩn quốc tế để chi phối việc phát triển và sử dụng AI, đồng thời kêu gọi hành động tại các hội nghị thượng đỉnh như cuộc họp tại Seoul trong tuần này.
Ngoài vấn đề an toàn, trong 2 ngày diễn ra hội nghị cả trực tuyến và trực tiếp, các đại biểu cũng sẽ thảo luận về cách các chính phủ có thể giúp thúc đẩy đổi mới, bao gồm cả nghiên cứu AI tại các trường đại học. Các đại biểu cũng sẽ xem xét các cách để đảm bảo công nghệ này được mở ra cho tất cả mọi người và có thể hỗ trợ giải quyết các vấn đề như biến đổi khí hậu và nghèo đói.
