Instagram își propune să îngreuneze situația în care potențialii escroci și infractori pot constrânge adolescentele să trimită fotografii nud și să le șantajeze pentru bani.
Compania META a anunțat joi că testează noi caracteristici pentru a reduce o tendință alarmantă numită sextortion financiar, care vizează adesea copiii și adolescenții. Odată ce imaginile nud sunt trimise, escrocii susțin că le vor posta online, fie pe site-uri publice, fie pe fluxuri de știri pe care le vor vedea prietenii, dacă victimele nu trimit bani sau carduri cadou.
În săptămânile următoare și în rândul unui subset de utilizatori, Instagram a declarat că va lansa diverse funcții noi, cum ar fi estomparea imaginilor nud trimise în mesajele directe și informarea utilizatorilor atunci când au interacționat cu cineva care s-a implicat în sextortion financiar. Instrumentele vor ajunge la toți utilizatorii din întreaga lume la scurt timp după aceea.
„Este o infracțiune cu adevărat oribilă care profită de faptul că îi face pe oameni să se simtă singuri și rușinați”, a declarat Antigone Davis, director de siguranță globală la Meta, pentru CNN. „A fost bine documentat faptul că această infracțiune este în creștere, iar acesta este unul dintre motivele pentru care vrem să ieșim în față și să ne asigurăm că oamenii sunt conștienți de ceea ce facem, pe măsură ce ne dezvoltăm continuu instrumentele.”
Împărtășirea fără consimțământ a imaginilor nud este o problemă de ani de zile, de obicei în rândul persoanelor care caută să se răzbune pe victimele pe care le cunosc personal. Dar FBI a declarat recent că a observat o creștere a cazurilor de sextortion financiar din partea unor străini, adesea inițiate de escroci din străinătate. În unele cazuri, sextortura a dus la sinucidere.
Cele mai recente instrumente ale Meta se bazează pe funcțiile de siguranță pentru adolescenți existente și conexe ale Meta, inclusiv setările stricte care împiedică trimiterea de mesaje între conturi neconectate, o creștere a notificărilor de siguranță și o opțiune de raportare a mesajelor DM care amenință cu partajarea sau solicitarea de imagini intime. Anul trecut, Meta a colaborat cu Centrul Național pentru Copii Dispăruți și Exploatați (NCMEC) pentru a dezvolta Take It Down, o platformă care permite tinerilor să creeze o amprentă digitală unică pentru imaginile explicite pe care doresc să le retragă de pe internet.
De asemenea, aceste instrumente vin în contextul în care Meta, împreună cu alte rețele sociale, se confruntă cu mii de procese de ucidere din culpă privind modul în care platformele au cauzat prejudicii tinerilor utilizatori, de la facilitarea vânzării de droguri letale până la facilitarea tulburărilor alimentare și a dependenței de social media.
Meta a declarat pentru CNN că va testa mai întâi funcția de protecție împotriva nudității în cadrul mesajelor directe de pe Instagram. Atunci când este trimisă o fotografie explicită, platforma va estompa imaginea și va informa destinatarul că aceasta conține nuditate. De asemenea, alerta le va reaminti utilizatorilor că nu trebuie să răspundă și îi va întreba dacă doresc să blocheze expeditorul. O notificare va apărea, de asemenea, atunci când platforma detectează că un utilizator dorește să trimită o fotografie nud, îndemnându-l să se mai gândească.
Instrumentul va fi activat în mod implicit pentru adolescenții cu vârsta sub 18 ani, dar și adulții vor primi o notificare care îi va încuraja să activeze instrumentul.
Compania a declarat pentru CNN că tehnologia Meta folosește învățarea automată pe dispozitiv pentru a determina dacă o fotografie conține nuditate. Meta interzice deja nuditatea în fluxurile de știri și în alte zone publice ale platformelor sale.
Meta a declarat că lucrează, de asemenea, la modalități de identificare a conturilor care ar putea fi implicate în escrocherii de sextortion prin detectarea și monitorizarea comportamentului probabil de sextortion. Acest lucru include îngreunarea interacțiunii cu aceste conturi, cum ar fi blocarea mesajelor de ieșire sau alertarea utilizatorilor care ar fi putut interacționa cu un cont care a fost eliminat pentru sextorsiune. Mesajul îi va direcționa către resurse susținute de experți, potrivit companiei.
În noiembrie, Meta s-a alăturat unui program numit Lantern, operat de grupul industrial Tech Coalition, care permite companiilor de tehnologie să împărtășească informații despre conturile și comportamentele care încalcă siguranța copiilor. Compania a declarat că acum adaugă integrarea cu cele mai recente instrumente de prevenire a sextorționismului; de exemplu, dacă un link provine de pe o altă rețea de socializare înainte de a fi partajat pe Instagram, cealaltă platformă ar fi notificată.
„Ceea ce aș vrea să văd realizat prin acest anunț este ca părinții să fie mai conștienți de această infracțiune și să își facă timp să se informeze despre ea”, a declarat Davis. „Vreau, de asemenea, să mă asigur că părinții știu că este important să le transmită copiilor lor că este în regulă să vină la ei dacă s-a întâmplat ceva. Nu ar trebui să se simtă rușinați să se prezinte și există instrumente disponibile care pot ajuta.”
