Facebook este in plin proces de judecată in care risca sa fie obligata la plata a milioane de dolari din cauza practicilor sale de recunoaștere facială, dar asta nu a împiedicat divizia de cercetare a informațiilor artificiale să dezvolte o tehnologie pentru a combate dezinformarea, de care este acuzată compania.
Potrivit VentureBeat, Facebook AI Research (FAIR) a dezvoltat un sistem de „dezidentificare” de ultimă generație, care funcționează pe clipurile video, incluzând și videoclipuri live. Acest sistem funcționează modificând caracteristicile faciale cheie ale unui subiect în timp real folosind învățarea automată, pentru a păcăli un sistem de recunoaștere a feței în identificarea necorespunzătoare a subiectului.
Această tehnologie de dezidentificare a existat în trecut și există companii, precum AI-ul israelian și firma de confidențialitate D-ID, dedicate furnizării acesteia pentru imagini statice.
Există, de asemenea, o întreagă categorie de instrumente ce pot pacali instrumentele de recunoaștere facială pe care le poți purta, numite exemple contradictorii, care funcționează prin exploatarea punctelor slabe în modul în care software-ul de viziune computerizat a fost instruit pentru a identifica anumite caracteristici.
De exemplu o pereche de ochelari de soare cu un model imprimat pe ea, poate face ca un sistem de recunoaștere a feței să creadă că ești actrița Milla Jovovici.
Dar acest tip de pacalire a recunoașterii faciale înseamnă de obicei modificarea unei fotografii sau a unei imagini statice capturate de la o cameră de securitate sau de la o altă sursă. Sau în cazul unor exemple contradictorii, pregatindu-te în prealabil să păcălești sistemul.
Cercetătorii Facebook reusesc sa obtina rezultate similare în timp real și în materialele video, atât pre-capturate cât și live. Aceasta este o premiera pentru industrie, susține FAIR, și suficient de bună pentru a combate sisteme sofisticate de recunoaștere facială. Puteți vedea un exemplu în acțiune în acest videoclip YouTube.
„Recunoașterea feței poate duce la pierderea vieții private iar tehnologia de înlocuire a feței poate fi utilizată greșit pentru a crea videoclipuri înșelătoare”, se arată în documentul care explică abordarea companiei. „Evenimentele mondiale recente privind progresele înregistrate și abuzul tehnologiei de recunoaștere a feței invocă nevoia de a înțelege metodele care se ocupă cu succes de dezidentificare. Contribuția noastră este singura potrivită pentru videoclipuri, inclusiv videoclipuri live, și prezintă o calitate care depășește cu mult metodele literare. „
Se pare că Facebook nu intenționează să folosească această tehnologie în niciunul dintre produsele sale comerciale, relatează VentureBeat. Dar cercetarea poate influența instrumentele viitoare dezvoltate pentru a proteja confidențialitatea persoanelor și, după cum cercetarea evidențiază termenul „videoclipuri înșelătoare”, împiedică asemănarea cuiva cu cineva in a fi utilizata în clipuri video.
Industria AI lucrează în prezent la modalități de combatere a răspândirii dezinformarii și a instrumentelor din ce în ce mai sofisticate utilizate pentru crearea acestora. Aceasta este o metodă și atât parlamentarii, cât și companiile tehnologice încearcă să ofere și alte instrumente, cum ar fi software-ul de detecție deepfake și cadre de reglementare pentru a controla răspândirea de videoclipuri false, imagini și audio.
Cealalta preocupare a cercetarii FAIR este legata de nereglementarea recunoasterii faciale și care provoacă îngrijorare printre parlamentari, medici universitari și activiști care se tem că ar putea încălca drepturile omului dacă va fi utilizată în continuare fără supraveghere de către forțele de ordine, guverne și corporații.
