OpenAI chặn một số hoạt động lạm dụng AI để phát tán tin giả

Ngày 30/5, công ty OpenAI thông báo trong 3 tháng qua đã chặn một số hành vi tìm cách sử dụng các mô hình trí tuệ nhân tạo (AI) của công ty này để thực hiện "hoạt động lừa gạt" trên Internet.
Chú thích ảnh
Biểu tượng của Công ty trí tuệ nhân tạo OpenAI trên màn hình điện thoại và máy tính ở Manta, Italy. Ảnh: AFP/TTXVN

Theo thông báo, trong 3 tháng qua, các mô hình AI của OpenAI đã bị lạm dụng để tạo các bình luận ngắn, các bài báo bằng nhiều ngôn ngữ khác nhau, cũng như tạo tên và tiểu sử giả cho các tài khoản truyền thông xã hội. Các chiến dịch này nhắm vào một số vấn đề địa chính trị, trong đó có các cuộc xung đột tại Ukraine và Gaza, bầu cử Ấn Độ, các vấn đề chính trị ở  châu Âu và Mỹ.

OpenAI cho rằng các chiến dịch này "tìm cách thao túng dư luận hoặc gây ảnh hưởng các kết quả chính trị". Theo OpenAI, các chiến dịch phát tán tin sai, tin giả này không thu hút được sự tương tác của khán giả cũng như không mở rộng được phạm vi tiếp cận.

Báo cáo của OpenAI chỉ ra rằng các chiến dịch trên không chỉ sử dụng các tài liệu do AI tạo ra mà còn bao gồm các văn bản viết tay và "meme" sao chép khắp Internet. Meme - thuật ngữ được sử dụng rộng rãi trên các nền tảng mạng xã hội, là những hình ảnh, video mang tính chất hài hước, châm biếm để biểu đạt cảm xúc, thái độ của người dùng đối với một chủ đề. 

Mới đây, OpenAI công bố thành lập Ủy ban An toàn và Bảo mật AI. Công ty nổi tiếng với công cụ ChatGPT này cho biết ủy ban mới được thành lập nhằm giám sát các vấn đề an toàn của AI, trong bối cảnh công ty bắt đầu đào tạo một mô hình AI mới sau thành công của GPT-4, công nghệ cốt lõi của ChatGPT.   

Trong báo cáo về bảo mật hằng quý được công bố ngày 29/5, công ty Meta cũng cho biết đã phát hiện nội dung "có thể do AI tạo ra" đang được lợi dụng vào hoạt động lừa đảo trên nền tảng Facebook và Instagram của công ty.

Nguyễn Hằng (TTXVN)

Dành cho bạn

Trung Quốc đưa kim cương nhân tạo vào chuỗi sản xuất bán dẫn và trí tuệ nhân tạo

Trung Quốc đưa kim cương nhân tạo vào chuỗi sản xuất bán dẫn và trí tuệ nhân tạo

Trong bối cảnh giá cả trên thị trường trang sức chịu áp lực do nguồn cung dư thừa, các nhà sản xuất kim cương nhân tạo của Trung Quốc, hiện chiếm khoảng 50% nguồn cung toàn cầu, đang chuyển hướng sang các lĩnh vực công nghệ cao như vi mạch (chip) và máy chủ trí tuệ nhân tạo (AI) để tìm kiếm động lực tăng trưởng mới.

Đưa công nghệ AI vào tuyên truyền an toàn giao thông trên báo chí

Đưa công nghệ AI vào tuyên truyền an toàn giao thông trên báo chí

Việc đưa AI vào quy trình sản xuất các sản phẩm truyền thông báo chí đang trở thành giải pháp hiệu quả giúp các nhà báo tối ưu hóa việc phân tích dữ liệu, minh họa trực quan và sáng tạo nên những ấn phẩm truyền thông an toàn giao thông hấp dẫn, tiếp cận đa dạng công chúng.

 Sự kiện Anthropic 'lên sàn' thước đo cho nền kinh tế AI tại Mỹ

Sự kiện Anthropic 'lên sàn' thước đo cho nền kinh tế AI tại Mỹ

Theo tờ The New York Times, việc công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic chuẩn bị niêm yết cổ phiếu lần đầu ra công chúng (IPO) vào tháng 11 tới không chỉ là sự kiện riêng của doanh nghiệp này, mà còn là đợt kiểm tra quy mô lớn đối với sức bền của làn sóng đầu tư trí tuệ nhân tạo trị giá hàng nghìn tỷ USD tại Mỹ và trên toàn thế giới.

'Cơn khát' mua sắm của các tác nhân AI

'Cơn khát' mua sắm của các tác nhân AI

Các tác nhân AI (AI agents) đang mua sắm với quy mô chưa từng thấy và những công cụ như Pay for Machines của công ty công nghệ tài chính và dịch vụ thanh toán đa quốc gia Mastercard có thể thúc đẩy mạnh mẽ xu hướng này. Theo những nhà nghiên cứu tại Viện Công nghệ Massachusetts (MIT), các tác nhân AI lục lọi các tài khoản ngân hàng, thâm nhập vào các ví tiền điện tử và thậm chí còn dành thời gian rảnh rỗi để giải trí.