Theo Facebook, phần mềm này sẽ tự động dò tìm những manh mối từ các bài đăng hoặc thậm chí những video trên ứng dụng Facebook Live để tìm kiếm dấu hiệu người sử dụng Facebook muốn tự tử, sau đó sẽ báo cho các nhân viên quản lý của Facebook và những tổ chức hỗ trợ đặc biệt đề ngăn chặn ý định trên.
Phó Chủ tịch quản lý sản phẩm của Facebook, ông Guy Rosen cho hay phần mềm nêu trên sử dụng công nghệ nhận biết thái độ để hỗ trợ nhận dạng các bài viết và các video cho thấy người nào đó có ý định tự tử. Dấu hiệu để nhận biết những người có ý định này thậm chí thông qua các tin nhắn phản hồi khi họ trả lời những câu hỏi của bạn bè, chẳng hạn như câu hỏi "bạn có vấn đề gì không?".
Facebook từng có những công cụ cho phép các thành viên của trang mạng này báo cho các nhân viên quản lý trong trường hợp phát hiện một thành viên có ý định tự làm hại mình. Tuy nhiên, phần mềm trí tuệ nhân tạo mới nêu trên sẽ giúp đẩy nhanh tốc độ xử lý, thậm chí phát hiện các dấu hiệu mà bạn bè có thể không để ý tới.
Trang mạng trên đang nỗ lực đưa công nghệ mới ra ngoài nước Mỹ, tiến tới được ứng dụng khắp nơi trên thế giới, ngoại trừ Liên minh châu Âu (EU) - nơi việc sử dụng dữ liệu phải gắn với những quy định nghiêm ngặt. Từ một thập kỷ qua, Facebook đã hợp tác với các tổ chức sức khỏe tâm thần nhằm tìm ra những phương thức phát hiện dấu hiệu người sử dụng có ý định tự tử, từ đó có biện pháp ứng phó kịp thời.
