Tuy nhiên, chỉ có 51% các nhà tiếp thị hiện đang sử dụng sự giám sát của con người để kiểm tra các nội dung sáng tạo do trí tuệ nhân tạo (AI) tạo ra trước khi phát hành. Trước thềm Đối thoại Toàn cầu của Liên hợp quốc về quản trị AI và Hội nghị thượng đỉnh toàn cầu AI vì lợi ích cộng đồng tại Geneva (Thụy Sĩ) sắp tới, ngày 22/6, Cơ quan LHQ về Bình đẳng giới và trao quyền cho phụ nữ (UN Women) đã nêu rõ những gì đang bị đe dọa và những gì cần phải thay đổi để xây dựng một tương lai kỹ thuật số bình đẳng giới.
Trong báo cáo của mình, UN Women nhận định kỷ nguyên nội dung AI đã đến nhưng cơ hội để định hình công nghệ này đang nhanh chóng khép lại. Theo đó, AI tạo sinh hiện là một trong những công nghệ được sử dụng rộng rãi nhất trong công việc tiếp thị và truyền thông hàng ngày. Chỉ riêng tại Anh, 88% các công ty quảng cáo và truyền thông đã sử dụng nó dưới một hình thức nào đó. Do đó, các thuật toán phân biệt đối xử có thể tiếp tục duy trì sự bất bình đẳng giới và phân biệt đối xử. Khi các công cụ AI được tích hợp vào việc tạo nội dung và mua phương tiện truyền thông trên quy mô lớn, các quyết định về việc ai được nhìn thấy, họ được miêu tả như thế nào và câu chuyện của ai được kể đang được đưa ra một cách nhanh chóng, và phần lớn không có sự xem xét của con người hoặc quan điểm về giới.
Báo cáo cho rằng sự thiên vị và các thuật toán phân biệt đối xử không phải là lỗi của AI, đó là một mô hình đã được ghi nhận trên quy mô lớn trong các hệ thống. Các mô hình ngôn ngữ lớn (LLM) được phát hiện luôn liên kết phụ nữ với "nhà cửa", "gia đình" và "trẻ em", còn nam giới với "kinh doanh", "giám đốc điều hành", "lương" và "sự nghiệp". Khi được giao nhiệm vụ hoàn thành các câu bắt đầu bằng giới tính của một người, khoảng 20% phản hồi từ LLM thể hiện thái độ phân biệt giới tính và kỳ thị phụ nữ, bao gồm cả việc miêu tả phụ nữ như những đối tượng tình dục và tài sản của chồng. Đây là kết quả có thể dự đoán được của các hệ thống AI được đào tạo dựa trên hàng thập kỷ thể hiện sự bất bình đẳng giữa phụ nữ và nam giới. Sự thiên vị của AI không chỉ là vấn đề thiết kế hệ thống mà còn là vấn đề chính sách. Trong số 138 quốc gia được đánh giá, chỉ có 24 quốc gia đề cập đến giới tính trong chiến lược AI quốc gia, và chỉ 18 quốc gia bao gồm các điều khoản đáp ứng giới tính thực chất, có nguy cơ khiến sự bất bình đẳng bị "cố hữu" trong các hệ thống tương lai.
Theo báo cáo, AI cũng làm gia tăng bạo lực đối với phụ nữ và trẻ em gái trong không gian kỹ thuật số. Dữ liệu của UN Women cho thấy phụ nữ và trẻ em gái trên toàn cầu hiện đang có ít cơ hội tiếp cận không gian kỹ thuật số hơn. Và khi tiếp cận, họ có nguy cơ trở thành nạn nhân của bạo lực trực tuyến cao hơn nhiều. Gần 1/4 số phụ nữ bảo vệ nhân quyền, nhà hoạt động và nhà báo được khảo sát đã từng trải qua bạo lực trực tuyến có sự hỗ trợ của AI và 12% báo cáo đã bị chia sẻ hình ảnh cá nhân mà không được sự đồng ý, bao gồm cả nội dung riêng tư hoặc tình dục. 6% cho biết họ đã bị nhắm mục tiêu thông qua “deepfake” hoặc hình ảnh/video bị thao túng, trong khi hơn một phần tư đã nhận được những lời gạ gẫm tình dục không mong muốn thông qua tin nhắn kỹ thuật số. AI đang làm trầm trọng thêm vấn đề này. Deepfake là một trong những ví dụ dễ thấy nhất về hành vi lạm dụng có sự hỗ trợ của AI, nhắm mục tiêu vào phụ nữ và trẻ em gái với tỷ lệ cao hơn. Khi nội dung do AI tạo ra trở thành chuẩn mực, các công cụ quấy rối, thao túng và lạm dụng dựa trên hình ảnh cũng đang phát triển song song.
Chính vì vậy, UN Women kêu gọi lồng ghép bình đẳng giới và quyền cũng như kinh nghiệm của phụ nữ và trẻ em gái vào mọi giai đoạn của AI, từ phát triển, triển khai đến quản trị. Khi được thiết kế an toàn và sử dụng đúng mục đích, AI có thể giúp phát hiện các định kiến, mở rộng sự đại diện và cải thiện khả năng tiếp cận trên quy mô lớn. Việc liệu AI có làm được điều này hay không phụ thuộc vào những người đưa ra quyết định, trong chính phủ, trong các công ty, trong các chuyên gia nghiên cứu và phát triển AI. Điều này cũng phụ thuộc vào việc chúng ta có kết hợp tiếng nói, chuyên môn và kinh nghiệm sống của phụ nữ và trẻ em gái từ các bối cảnh đa dạng, các tổ chức xã hội làm việc với họ và hiểu sâu sắc các vấn đề của họ hay không.