Tự tử là nguyên nhân thứ hai dẫn đến tử vong ở tầng lớp thanh niên có độ tuổi từ 15 đến 29 và Facebook muốn tận dụng trí tuệ nhân tạo để hỗ trợ phòng ngừa thực trạng này. Vào 1/3 vừa qua, công ty đã thử nghiệm xác định khả năng các bài viết “tự tử hoặc tự gây thương tích” dựa trên mô hình nhận dạng từ các bài viết đã được gắn cờ trước đây. Khi thấy ai đó có ý định tự tử, cộng đồng mạng sẽ xem lại các bài đăng để gắn cờ và thông báo cho Facebook.

Hiện tại, thử nghiệm này chỉ được giới hạn ở Hoa Kỳ, tuy nhiên đây chỉ là một trong những cách thức mà các công ty đang cố gắng để có thể bảo vệ người dùng. Trong năm 2016, Facebook đã đưa ra một số công cụ khả dụng phòng chống tự tử đối với 1,86 tỷ người sử dụng, mọi người có thể gắn cờ những bài viết có nghi vấn để công ty để xem xét. Facebook sẽ thông báo tới bạn bè của người bị nạn dưới dạng tin nhắn tùy chọn được quy định trước đó. Mạng xã hội này cũng sẽ đề xuất các nguồn thông tin về đường dây trợ giúp.

Thậm chí, bộ công cụ hiện có hỗ trợ khủng hoảng còn phát triển hơn và dễ dàng hơn cho những người có nhu cầu cần giúp đỡ. Facebook cũng cho biết, hiện tại mọi người có thể trò chuyện trực tiếp hoặc gửi tin nhắn Facebook Messenger với một vài tổ chức hỗ trợ như: Hiệp hội Rối loạn Ăn uống Quốc gia, Đường dây Phòng chống Tự tử Quốc gia Lifeline hoặc Kênh Tin nhắn Khủng hoảng. Bất cứ ai cũng có thể bày tỏ nỗi niềm của mình với tổ chức bằng cách gửi tin nhắn thông qua các trang Facebook. Và đã có khoảng 22% người gửi tin nhắn đến Kênh Tin nhắn Khủng hoảng để đề cập đến vấn đề tự sát.

Giám đốc điều hành Nancy Lublin của Kênh Tin nhắn Khủng hoảng tuyên bố: “Chúng tôi muốn trợ giúp người dùng khi rơi vào trạng thái khủng hoảng và sẽ tiếp tục là trang công nghệ hàng đầu hỗ trợ cho họ".

Cho dù biết trước công nghệ mới sẽ đem đến những thách thức mới, tuy nhiên, nền tảng Facebook Live hiện vẫn là trung tâm của các tiêu đề gây phiền trong những tháng gần đây với vụ tự tử được xem trực tiếp. Vì vậy, trong thông báo vào ngày 1/3 vừa qua, công ty cho biết đang tiếp tục mở rộng các công cụ ngăn chặn tự tử. CEO Mark Zuckerberg đã thừa nhận về tầm quan trọng trong việc phát hiện sớm các vụ việc tự sát.

Mark Zuckerberg cho biết: “Đã có những vụ việc vô cùng bi thảm như tự tử mà có thể được ngăn chặn nếu ai đó nhận ra những gì đã xảy ra và báo cáo chúng sớm hơn". “Trong tương lai, cộng đồng mạng có thể xác định chính xác các rủi ro liên quan đến sức khỏe, tâm thần và thậm chí là tội phạm”.