Google își actualizează algoritmul motorului de căutare și procesul de solicitare de eliminare pentru a combate mai bine deepfake-urile sexual explicite generate de AI.
Gigantul tehnologic a anunțat că va face acest proces mai ușor pentru victimele afectate. Atunci când sunt identificate deepfake-uri raportate, Google Search va filtra automat rezultatele de căutare similare care ar putea apărea în viitor, astfel încât utilizatorii să nu mai fie nevoiți să raporteze în mod repetat imagini similare sau duplicate.
Algoritmul motorului de căutare Google va fi, de asemenea, actualizat pentru a aborda mai eficient această problemă, care a devenit tot mai răspândită pe internet și pe rețelele sociale.
Instrumentele de AI generative sunt larg accesibile și adesea gratuite sau disponibile la un cost redus pentru utilizatori, ceea ce face ușoară crearea rapidă a deepfake-urilor sexuale explicite ale oricărei persoane.
Google va reduce acum și clasificarea site-urilor în motorul său de căutare care găzduiesc în mod repetat deepfake-uri non-consensuale.
„Această abordare a funcționat bine pentru alte tipuri de conținut dăunător, iar testele noastre arată că va fi o modalitate valoroasă de a reduce conținutul explicit fals în rezultatele căutării”, a declarat Google într-un comunicat.
Google susține că actualizarea algoritmului său de căutare va reduce șansele ca deepfake-urile explicite să apară în căutări. Motorul de căutare va încerca, de asemenea, să diferențieze între conținutul sexual explicit real, realizat consensual (cum ar fi munca starurilor din filmele pentru adulți) și media generată de AI realizată fără consimțământul persoanei. Totuși, Google recunoaște că aceasta este o „provocare tehnică”, astfel încât aceste eforturi ar putea să nu fie complet exacte sau eficiente.
Cu toate acestea, Google susține că schimbările deja făcute în motorul de căutare au redus reapariția acestor deepfake-uri cu peste 70%.
„Cu aceste schimbări, oamenii pot citi despre impactul deepfake-urilor asupra societății, în loc să vadă pagini cu imagini false non-consensuale reale”, a spus Google.
Deepfake-urile non-consensuale generate de AI, în special cele sexual explicite, reprezintă o problemă pentru chiar firmele de tehnologie care dezvoltă și promovează utilizarea instrumentelor de generare de imagini AI.
În acest an, Meta a fost supusă unei investigații din partea Consiliului său de Supraveghere pentru gestionarea a două deepfake-uri sexuale explicite diferite ale unor femei reale. Consiliul a constatat că gigantul rețelelor sociale ar fi trebuit să elimine ambele imagini și argumentează că Meta ar trebui să nu se mai bazeze atât de mult pe rapoartele de știri despre răspândirea deepfake-urilor și să ia măsuri mai proactive.
Oficialii americani solicită, de asemenea, legi pentru a proteja victimele deepfake-urilor non-consensuale și pentru a face platformele responsabile pentru găzduirea acestor media. Luna trecută, senatorul Ted Cruz (R-Texas) a propus Legea Take It Down, care ar face din publicarea deepfake-urilor sexuale non-consensuale o infracțiune federală și ar obliga platformele de social media să le elimine. Săptămâna trecută, Senatul a adoptat Legea Defiance, care ar permite victimelor să dea în judecată pe cei care au creat sau distribuit deepfake-uri sexuale nedorite.
Desigur, deepfake-urile sexual explicite nu sunt singurele deepfake-uri de AI care ridică îngrijorări. Mai devreme în acest an, un deepfake AI de robocall al președintelui Joe Biden a descurajat votul la alegerile primare.
Mai recent, un videoclip fals cu Kamala Harris a devenit viral pe TikTok, iar Elon Musk a distribuit unul diferit cu vicepreședintele pe Twitter/X, care ar putea încălca propriile reguli ale platformei sale.
