Facebook a început testarea acestui software în Statele Unite în luna martie, când compania a început să scaneze conţinuturile şi comentariile de pe reţea care ar conţine fraze ce ar putea semnala o iminentă tentativă de sinucidere.

Facebook nu a dezvăluit prea multe detalii tehnice ale acestui program, însă compania spune că software-ul său caută anumite fraze ce ar putea reprezenta indicii — precum întrebări de tipul "Eşti ok?" şi "Pot să te ajut?".

Dacă software-ul detectează o posibilă sinucidere, el alertează o echipă de angajaţi ai companiei Facebook care sunt specializaţi în astfel de cazuri. Sistemul sugerează o serie de soluţii pentru utilizator sau pentru prietenii persoanei vizate, precum numărul la care poate fi contactată o linie telefonică specializată în ajutorarea persoanelor cu gânduri suicidare. În anumite cazuri, angajaţii Facebook contactează autorităţile locale pentru a le cere să intervină.

Guy Rosen, vicepreşedintele diviziei de manangement al produselor din cadrul Facebook, spune că reţeaua de socializare a început să extindă programul în afara Statelor Unite, întrucât testele iniţiale au avut succes. Pe parcursul ultimei luni, spune el, serviciile de urgenţe au contactat anumite persoane de peste 100 de ori după ce software-ul Facebook a detectat intenţii sinucigaşe.

Facebook spune că încearcă să angajeze specialişti care să fie disponibili la orice oră pentru a contacta autorităţile în limbile locale.

"Viteza contează cu adevărat. Trebuie să-i ajutăm pe oameni în timp real", a spus Guy Rosen.

Anul trecut, când Facebook a lansat un serviciu de transmisiuni video în direct, proliferarea înregistrărilor care prezentau acte violente, inclusiv sinucideri şi crime, au reprezentat o ameninţare reală pentru imaginea companiei. În mai, Facebook a anunţat că va angaja alte 3.000 de persoane pentru a monitoriza fişierele video şi alte conţinuturi.

Guy Rosen nu a numit ţările în care Facebook va folosi acest software, însă a spus că acesta va fi utilizat în cele din urmă în toată lumea cu excepţia Uniunii Europene, din cauza unor "chestiuni sensibile", refuzând însă să facă alte comentarii.

Alte companii din industria tehnologiei încearcă şi ele să prevină sinuciderile. Motorul de căutare al Google afişează numere de telefon ale unor linii de consiliere împotriva sinuciderilor în urma efectuării unor căutări online.

Facebook se află în posesia multor informaţii despre cei 2,1 miliarde de utilizatori ai săi — date pe care le foloseşte pentru a permite publicitatea personalizată — dar, în general, compania americană nu a monitorizat în mod sistematic conversaţiile utilizatorilor pentru căutarea unor comportamente dăunătoare.

O excepţie o reprezintă eforturile sale de detectare a conversaţiilor suspecte între copii şi prădătorii sexuali. Uneori, Facebook contactează autorităţile atunci când monitorizările sale surprind limbaje considerate neconforme pentru o conversaţie între un adult şi un minor.