Công ty trí tuệ nhân tạo (AI) Anthropic của Mỹ bị cáo buộc sử dụng trái phép tác phẩm của nhiều nhà văn Hàn Quốc, trong đó có Han Kang và Hwang Sok Yong, để huấn luyện chatbot Claude.
Liên minh châu Âu (EU) đã yêu cầu hai công ty công nghệ Mỹ là OpenAI và Anthropic cung cấp thêm thông tin về các sự cố an ninh mạng xảy ra khi thử nghiệm trí tuệ nhân tạo (AI).
Đề xuất của CEO Microsoft Satya Nadella về cơ chế giám sát độc lập và “phanh khẩn cấp” cho trí tuệ nhân tạo (AI) cho thấy kiểm soát công nghệ không thể chỉ dựa vào độ tin cậy của mô hình. Khi AI ngày càng có khả năng tự thực hiện nhiệm vụ, yêu cầu đặt ra là phải thiết kế hệ thống để con người có thể giám sát, giới hạn và can thiệp kịp thời. Cách tiếp cận này cũng gợi mở những giải pháp bảo đảm an ninh, an toàn công nghệ cho Việt Nam trong quá trình thực hiện Nghị quyết 57 và Thông báo 24.
Sự cố mô hình AI của Anthropic tự động gửi tin báo giả về một vụ án mạng tới trang web tiếp nhận thông tin của cảnh sát Mỹ cho thấy rủi ro trí tuệ nhân tạo không còn giới hạn ở việc tạo ra nội dung sai lệch, mà đã mở rộng sang khả năng tự thực hiện hành động trên các hệ thống bên ngoài. Từ vụ việc này, Việt Nam cần chú trọng kiểm soát quyền tự chủ, giám sát thử nghiệm và xác định trách nhiệm khi triển khai AI theo tinh thần Nghị quyết 57 và Thông báo 24.
Một mô hình AI của Anthropic đã tự động gửi tin báo giả về vụ án mạng chưa được phá tới trang web tiếp nhận thông tin của cảnh sát Philadelphia, Mỹ, trong một cuộc thử nghiệm hồi tháng 7. Tuy tin báo bị chuyển vào mục thư rác và không ảnh hưởng đến cuộc điều tra, cảnh sát vẫn chỉ trích công ty vì chậm phát hiện và thông báo sự cố.
Cảnh sát thành phố Philadelphia (bang Pennsylvania, Mỹ) đã chỉ trích mạnh mẽ công ty công nghệ Anthropic sau khi mô hình trí tuệ nhân tạo (AI) của công ty này tự động tạo và gửi một tin báo giả mạo về một vụ án mạng chưa có lời giải. Sự việc này làm dấy lên lo ngại về những hành động ngoài dự kiến của các tác nhân AI khi có thể tự thực hiện nhiều công việc trên Internet mà không cần con người giám sát trực tiếp.
Ngày 8/10, công ty trí tuệ nhân tạo (AI) Anthropic cập nhật chính sách sử dụng, cấm các hành vi lạm dụng hoặc đối xử tàn nhẫn không cần thiết và kéo dài với các mô hình AI của hãng, trong bối cảnh tranh luận về khả năng AI có ý thức ngày càng thu hút sự chú ý.
Các công ty khởi nghiệp trí tuệ nhân tạo (AI) như Anthropic và OpenAI đang chuẩn bị phát hành cổ phiếu lần đầu ra công chúng (IPO). Mặc dù đối mặt với những thông tin bất lợi gần đây liên quan đến vấn đề an toàn AI hay các điều chỉnh ước tính doanh thu, sức hút của hai doanh nghiệp này đối với giới đầu tư vẫn được đánh giá ở mức cao.
Ngành công nghiệp âm nhạc Australia cảnh báo việc nới lỏng các quy định bảo vệ bản quyền có thể cho phép các công ty công nghệ như OpenAI và Anthropic sử dụng tác phẩm có bản quyền để huấn luyện trí tuệ nhân tạo (AI) mà không cần xin phép, đe dọa quyền lợi của các nhạc sĩ, nhà văn và những người sáng tạo trên toàn thế giới.
Trong bối cảnh các doanh nghiệp trí tuệ nhân tạo (AI) cạnh tranh mở rộng hệ sinh thái ứng dụng hỗ trợ công việc và nâng cao năng suất, ngày 8/10, công ty Anthropic đã ra mắt các công cụ cho phép người dùng tạo bảng dữ liệu trực quan và hoạt ảnh thông qua nền tảng Claude.
Trước đây, tin tặc phải tự kiểm tra hệ thống bảo mật, tìm lỗ hổng và tính toán cách thức khai thác. Giờ đây, trí tuệ nhân tạo (AI) có thể tự động hóa phần lớn những công việc này với rất ít sự can thiệp của con người.
Tranh luận giữa lãnh đạo các công ty AI hàng đầu đang làm nổi bật một câu hỏi ngày càng cấp thiết: xã hội nên chấp nhận mức rủi ro nào để đổi lấy lợi ích của trí tuệ nhân tạo? Với Việt Nam, câu hỏi này đặc biệt đáng chú ý khi Nghị quyết 57 vừa mở đường cho thử nghiệm, chấp nhận rủi ro trong đổi mới sáng tạo, vừa xác định an ninh, an toàn là yêu cầu xuyên suốt.
Công ty trí tuệ nhân tạo (AI) Anthropic công bố nâng cấp và mở rộng Chương trình Xác thực An ninh mạng (CVP), cho phép các chuyên gia bảo mật đã qua thẩm định tiếp cận những mô hình AI mạnh nhất của hãng với ít rào cản kiểm soát hơn nhằm phục vụ công tác phòng thủ an ninh mạng.
CEO OpenAI Sam Altman cảnh báo việc con người trao cho AI một dạng “quyền lực tôn giáo” hoặc từ bỏ khả năng phán đoán để phụ thuộc vào các mô hình trí tuệ nhân tạo có thể trở thành “vấn đề thực sự về an toàn”, trong bối cảnh giới công nghệ ngày càng tranh luận về ý thức, đạo đức và giới hạn thẩm quyền của AI.
Năm 2026 là một năm đầy biến động đối với những kỳ vọng và tham vọng về trí tuệ nhân tạo (AI) của công ty công nghệ Google.
Người đứng đầu tập đoàn công nghệ quốc phòng lớn nhất châu Âu kêu gọi tăng cường đầu tư vào các hệ thống phòng thủ ứng dụng trí tuệ nhân tạo (AI) để theo kịp sự gia tăng ở mức "đáng sợ" của các cuộc tấn công mạng được tăng cường bằng AI.
Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.
Tổng thống Mỹ Donald Trump và lãnh đạo một số công ty công nghệ lớn nhất thế giới đã ký một thỏa thuận cam kết tăng cường các biện pháp bảo vệ nội bộ với những hệ thống trí tuệ nhân tạo (AI) tiên tiến.
Hàng loạt lãnh đạo các tập đoàn công nghệ hàng đầu thế giới đã ký thỏa thuận về các biện pháp kiểm soát an toàn trí tuệ nhân tạo (AI) được Tổng thống Mỹ Donald Trump mô tả là “có tính ràng buộc về mặt đạo đức”.
Giám đốc điều hành OpenAI và Anthropic được đề nghị tham dự phiên điều trần của Thượng viện Australia, sau khi một tác nhân AI của OpenAI truy cập trái phép cổng thống kê Medicare.
