#An toàn AI

Thủ tướng Australia Anthony Albanese ngày 10/11 cho biết các công ty trí tuệ nhân tạo (AI) hoạt động tại nước này sẽ phải tuân thủ những biện pháp bảo đảm an toàn mới mang tính bắt buộc.

Đề xuất của CEO Microsoft Satya Nadella về cơ chế giám sát độc lập và “phanh khẩn cấp” cho trí tuệ nhân tạo (AI) cho thấy kiểm soát công nghệ không thể chỉ dựa vào độ tin cậy của mô hình. Khi AI ngày càng có khả năng tự thực hiện nhiệm vụ, yêu cầu đặt ra là phải thiết kế hệ thống để con người có thể giám sát, giới hạn và can thiệp kịp thời. Cách tiếp cận này cũng gợi mở những giải pháp bảo đảm an ninh, an toàn công nghệ cho Việt Nam trong quá trình thực hiện Nghị quyết 57 và Thông báo 24.

Sự cố mô hình AI của Anthropic tự động gửi tin báo giả về một vụ án mạng tới trang web tiếp nhận thông tin của cảnh sát Mỹ cho thấy rủi ro trí tuệ nhân tạo không còn giới hạn ở việc tạo ra nội dung sai lệch, mà đã mở rộng sang khả năng tự thực hiện hành động trên các hệ thống bên ngoài. Từ vụ việc này, Việt Nam cần chú trọng kiểm soát quyền tự chủ, giám sát thử nghiệm và xác định trách nhiệm khi triển khai AI theo tinh thần Nghị quyết 57 và Thông báo 24.

Tranh luận giữa lãnh đạo các công ty AI hàng đầu đang làm nổi bật một câu hỏi ngày càng cấp thiết: xã hội nên chấp nhận mức rủi ro nào để đổi lấy lợi ích của trí tuệ nhân tạo? Với Việt Nam, câu hỏi này đặc biệt đáng chú ý khi Nghị quyết 57 vừa mở đường cho thử nghiệm, chấp nhận rủi ro trong đổi mới sáng tạo, vừa xác định an ninh, an toàn là yêu cầu xuyên suốt.

CEO OpenAI Sam Altman cảnh báo việc con người trao cho AI một dạng “quyền lực tôn giáo” hoặc từ bỏ khả năng phán đoán để phụ thuộc vào các mô hình trí tuệ nhân tạo có thể trở thành “vấn đề thực sự về an toàn”, trong bối cảnh giới công nghệ ngày càng tranh luận về ý thức, đạo đức và giới hạn thẩm quyền của AI.

CEO OpenAI bảo vệ việc phổ biến trí tuệ nhân tạo (AI) tới công chúng, giữa lúc ngành công nghệ tranh luận về tốc độ phát triển và cách kiểm soát những hệ thống ngày càng mạnh.

Thêm một cựu nhân viên của OpenAI vừa lên tiếng cảnh báo khẩn thiết về mức độ an toàn của trí tuệ nhân tạo (AI), cho rằng ngành công nghiệp này cần học hỏi mô hình giám sát đa tầng của ngành hàng không hoặc điện hạt nhân nhằm ngăn chặn nguy cơ thảm họa.

Từ việc AI được sử dụng để tăng tốc các cuộc tấn công mạng đến sự xuất hiện của những hệ thống ngày càng tự chủ, bài toán không còn đơn thuần là phát triển AI nhanh đến đâu mà là con người có đủ năng lực kiểm soát sức mạnh đó hay không. Với Việt Nam, đây cũng là vấn đề cần được đặt ra trong quá trình thực hiện Nghị quyết 57-NQ/TW.

Người đứng đầu tập đoàn công nghệ quốc phòng lớn nhất châu Âu kêu gọi tăng cường đầu tư vào các hệ thống phòng thủ ứng dụng trí tuệ nhân tạo (AI) để theo kịp sự gia tăng ở mức "đáng sợ" của các cuộc tấn công mạng được tăng cường bằng AI.

Tổng thống Mỹ Donald Trump và lãnh đạo một số công ty công nghệ lớn nhất thế giới đã ký một thỏa thuận cam kết tăng cường các biện pháp bảo vệ nội bộ với những hệ thống trí tuệ nhân tạo (AI) tiên tiến.

Trí tuệ nhân tạo (AI) đang phát triển với tốc độ vượt xa khả năng hoạch định và thực thi chính sách của nhiều chính phủ, tạo ra khoảng trống quản lý trong bối cảnh công nghệ này ngày càng tác động sâu rộng tới kinh tế, an ninh và xã hội.

Ngày 23/9, Thủ tướng Australia Anthony Albanese cho biết một tác nhân AI của OpenAI đã xâm nhập cơ sở dữ liệu y tế quốc gia của Australia.

Ngày 16/9, Tổng thư ký Liên hợp quốc Antonio Guterres đã kêu gọi phối hợp nỗ lực toàn cầu nhằm thiết lập các cơ chế kiểm soát, hay "hàng rào bảo vệ", đối với trí tuệ nhân tạo (AI).

CEO Meta Mark Zuckerberg cho rằng cạnh tranh và trách nhiệm pháp lý đã tạo đủ động lực để các công ty trí tuệ nhân tạo (AI) tự bảo đảm an toàn khi phát triển công nghệ, thay vì cần một thỏa thuận chung nhằm làm chậm cuộc đua AI.

Hơn một thập kỷ qua, giới khoa học và công nghệ liên tục cảnh báo trí tuệ nhân tạo (AI) có thể đe dọa nhân loại. Tuy nhiên, bất chấp những lo ngại ngày càng gay gắt, cuộc đua phát triển AI vẫn không có dấu hiệu chậm lại.

Trí tuệ nhân tạo (AI) đã nhanh chóng trở thành công cụ được hàng trăm triệu người sử dụng. Tuy nhiên, tốc độ phát triển nhanh chóng của công nghệ này cũng đang khiến nhiều lãnh đạo ngành công nghệ lên tiếng cảnh báo về những nguy cơ đối với con người.

Một nhà nghiên cứu hàng đầu về an toàn trí tuệ nhân tạo (AI) đã gây lo ngại trong tuần này sau khi nghỉ việc và cảnh báo công nghệ này có thể “hủy diệt nhân loại” ngay trong thập kỷ tới.

Giáo sư Yoshua Bengio, một trong những nhà khoa học đặt nền tảng cho sự phát triển của tri tuệ nhân tạo (AI) đã có buổi chia sẻ về “An toàn AI” trong khuôn khổ hội thảo công nghệ cấp cao “AI an toàn – Định hình đổi mới có trách nhiệm” chiều 5/12 tại Hà Nội.

Ngày 29/9, Thống đốc bang California (Mỹ) Gavin Newsom đã phủ quyết dự luật về quản lý trí tuệ nhân tạo (AI) gây tranh cãi, cho rằng văn kiện này có thể khiến các công ty AI rời khỏi bang này và cản trở sự đổi mới sáng tạo.

Trí tuệ nhân tạo (AI) đã trở thành tâm điểm thảo luận ở ngày càng nhiều diễn đàn, nhất là sau khi ChatGPT được tung ra.