Mark Zuckerberg a anunțat că Faceboook a lansat un AI îmbunătățit pentru a scana postarile utilizatorilor si a identifica semne de gânduri suicidare. Noul sistem, care nu se bazează pe utilizatori care să semnaleze sau să raporteze conținut, este pus în aplicare la nivel mondial, cu excepția țărilor din UE, din cauza restricțiilor.
Algoritmii rețelei sociale utilizează recunoașterea de modele pentru a căuta postări și comentarii pentru cuvinte-cheie. Dacă AI identifica motive de îngrijorare, cum ar fi comentarii de la prieteni care solicită celui care a postat sa spuna dacă este în regulă sau dacă are nevoie de ajutor, acesta va trimite informațiile unui angajat Facebook pentru examinare.
Dacă persoana care examinează raportul determină ca intervenția este necesară, ei au opțiunea de a alerta persoanele care răspund prima dată, care pot contacta persoana respectivă sau pot contacta familia sau prietenii persoanei aflate in situatii de risc. Acești angajați, probabil, fac parte din inițiativa lui Zuckerberg de a adăuga 3000 de lucrători dedicați în scopul revizuirii conținutului.
CEO-ul a companiei a scris intr-o posaret de la inceputul acestui an ca: „Daca vrem sa construim o comunitate sigura, trebuie sa raspundem repede.” El a subliniat de asemenea ca firma lucreaza la construirea unei metode mai rapide de gasire si raportare a comportamentului suicidar pe platforma.
In timp ce detaliile despre modificarile aduse algoritmilor raman in prezent limitate, pana in prezent au rezultat peste 100 de interventii intre persoanele care au raspuns prima data si persoanele cu tendinte de suicid, potrivit declaratiilor facute de Zuckerberg. Chiar dacă ar fi salvat chiar di o singură viață, inginerii care au construit acest sistem de inteligenta artficiala ar trebui lăudați.
Există, desigur, unele ingrijorari privind confidențialitatea utilizatorilor. Mulți oameni ar putea să nu fie conștienți de faptul că AI utilizează recunoașterea modelelor pentru a determina ce fel de comportament au expus pe social media. În plus, nu ni se oferă nicio garanție cu privire la măsura în care Facebook intenționează să aplice recunoașterea modelelor pentru comunicările noastre pe platformă.
Cu toate acestea, dacă rețeaua socială utilizează cu succes AI pentru a salva viețile oamenilor – indiferent dacă încearcă să transmita in direct moartea lor sau să postari actualizări de stare deprimante – va merita ca postarile noastre publice sa fie analizate de sisteme AI.
În viitor, AI va fi capabil să înțeleagă mai multe nuanțe subtile ale limbajului și va fi capabil să identifice diferite aspecte dincolo de sinucidere, inclusiv prin repetarea rapidă a mai multor tipuri de agresiune și ura, mai spune Mark Zuckerberg.
