Facebook are o mare problemă în ceea ce privește conturile false – iar pentru asta are un nou AI care in doar trei luni ar putea elimina aproape tot atâtea conturi false pe cât conturi reale există.
Rețeaua socială a dezvăluit cea mai recentă metodă de găsire a conturilor false: un nou model de învățare automată pe care îl numește clasificarea Deep Entity Class (DEC). Facebook spune că sistemul a detectat deja sute de milioane de conturi care încalcă regulile.
Sistemul Facebook DEC a fost conceput pentru a depăși limitele metodelor tradiționale de detectare a conturilor false, care se concentrează de obicei pe profilul utilizatorului. Acest lucru poate funcționa destul de bine când un cont afișează un comportament extrem de suspect, cum ar fi postarea a sute de imagini cu ochelari de soare Rayban. Cu toate acestea, atacatorii sofisticați pot păcăli aceste tipuri de sisteme prin adaptarea subtilă a comportamentului lor, cum ar fi ajustarea numărului de prieteni și a timpului în care menține contul activ.
Noul sistem abordează acest lucru analizând funcțiile mai profunde. Le găsește conectând un cont suspect la toți prietenii, grupurile și paginile cu care interacționează.
Sistemul va cerceta apoi toate aceste entități conectate. Prietenii vor emite semnale catre Facebook DEC prin elemente cum ar fi vârsta lor, grupurile la care se alătură și numărul de prieteni pe care îi au. Grupurile pot fi evaluate în funcție de membrii pe care îi atrag și de administratorii pe care îi au. Iar paginile pot fi evaluate după numărul lor de administratori.
Analizând comportamentele și proprietățile tuturor acestor entități, modelul poate sa isi dea seama dacă un cont este fals. Însă, dacă se înșeală, conturile intră într-un proces de apel, care oferă posibilitatea acuzatului de a răspunde înainte de a le fi interzis accesul pe reteaua de socializare.
Politizarea Facebook poate fi o sarcină dificilă. Analiștii umani nu pot gestiona datele enorme si pentru acest lucru se apeleaza la computere pentru a lupta cu subtilitățile în comportamentul atât a conturilor false, cât și a celor reale.
Nu toate conturile care par false au intenții rele, si exista de asemenea cazuri in care ele ar putea fi doar afaceri, organizații sau „entități non-umane”, precum o pisică pentru animale de companie, cineva care joacă rolul lui Abraham Lincoln sau, probabil, un extraterestru, care au fost clasificate greșit drept conturi în loc de pagini.
Facebook isi doreste sa dezactiveze conturile care intenționează să provoace ceva rau. Acestea sunt create de obicei de către escroci și spammeri care încearcă să fure bani. Compania spune ca uneori a descoperit miliarde de astfel de conturi intr-un singur trimestru fiscal al anului.
Cel mai recent raport de aplicare a standardelor comunitatii Facebook sugerează că abordarea lor funcționează. În cei doi ani pe care îi acoperă, peste 99,5% din conturile împotriva cărora au fost luat măsure au fost găsite înainte ca utilizatorii să le fi raportat.
Cu toate acestea, este dificil să știi câte conturi false ar fi putut să rateze sistemele retelei de socializare. Facebook estimează că aproximativ 5% din conturile active lunare sunt false, dar admite că nu poate fi sigura cu privire la aceasta cifra.
Cu toate acestea, reteaua de socializare Facebook este încrezătoare că noul său sistem funcționează bine.
