Meta distribuie un instrument open-source pentru identificarea conținutului terorist pe care alte rețele sociale îl pot folosi pentru a identifica și urmări imagini problematice și conținut video, inclusiv amenințări teroriste și materiale de abuz sexual asupra copiilor.
De ce contează: este o provocare pentru o companie la fel de mare ca Meta să încerce să monitorizeze și să elimine conținutul periculos și abuziv, dar acest lucru este și mai greu pentru companiile mai mici, cu mai puține resurse.
Acest instrument pentru identificarea conținutului terorist, cunoscut sub numele de Hasher-Matcher-Actioner, este un kit pentru dezvoltatorii de software care funcționează prin crearea unei amprente digitale unice (de obicei, un șir de litere și numere) pentru fiecare imagine sau videoclip de pe o platformă.
Acest lucru permite companiilor să găsească și să ia rapid măsuri nu doar asupra unei singure postări de media problematice, ci și a altor copii ale acelei imagini sau videoclip.
De asemenea, înseamnă că companiile nu trebuie să stocheze imaginea sau videoclipul în cauză. Acest lucru îi protejează de riscurile legale și etice ale păstrării versiunilor de conținut problematic pe serverele lor. De asemenea, poate economisi mult spațiu, deoarece hashurile sunt mult mai mici decât mediile pe care le reprezintă.
În timp ce instrumentul Meta poate funcționa cu bazele de date hash existente, cum ar fi cea condusă de Global Internet Forum to Counter Terrorism, poate fi folosit și independent, permițând unei platforme să-și construiască și să mențină propria bază de date cu materiale care încalcă regulile.
Alte companii pot folosi instrumentul pentru a eticheta și a găsi orice tip de conținut și pot alege ce acțiuni să întreprindă pe baza politicii proprii a serviciului.
„Teroriştii nu se limitează la încercarea de a abuza de o singură platformă”, a declarat Dina Hussein, şefa Politicii de combatere a terorismului la Meta, într-o declaraţie către Axios. „Nu putem lupta singuri în această bătălie – şi ştim că cu cât mai multe companii lucrează împreună, cu atât Internetul va fi mai sigur.”