Utilizatorii tineri de Instagram primesc mai ușor recomandări de videoclipuri sexuale explicite și dăunătoare decât recunoaște platforma, conform unui nou raport.
Descoperirile privind siguranța copiilor se bazează pe două experimente diferite efectuate de Wall Street Journal și profesorul de informatică de la Universitatea Northeastern, Laura Edelson.
Testele au fost realizate pe o perioadă de șapte luni, timp în care publicația a creat noi conturi pentru minori care navigau prin fluxul video Reels de pe Instagram, sărind peste conținutul „normal” și oprindu-se asupra videoclipurilor mai „provocatoare” pentru adulți.
După doar 20 de minute de navigare, conturile erau inundate cu promoții pentru „creatori de conținut sexual pentru adulți” și oferte de fotografii nud.
Conturile de Instagram marcate ca fiind pentru minori sunt atribuite automat celor mai stricte limite de control al conținutului. Testele replică cele efectuate de foști membri ai echipei de siguranță a companiei în 2021, care au descoperit că sistemul universal de recomandări al site-ului limita eficacitatea măsurilor de siguranță pentru copii. Documentele interne din 2022 arată că Meta știa că algoritmul său recomanda „mai multă pornografie, gore și discursuri de ură utilizatorilor tineri decât adulților,” raportează Wall Street Journal.
„Acesta a fost un experiment artificial care nu reflectă realitatea modului în care adolescenții folosesc Instagram,” a declarat purtătorul de cuvânt al Meta, Andy Stone, pentru publicație. „Ca parte a eforturilor noastre îndelungate privind problemele tinerilor, am stabilit un efort de a reduce volumul de conținut sensibil pe care adolescenții l-ar putea vedea pe Instagram și am redus semnificativ aceste cifre în ultimele luni.”
Teste similare au fost efectuate pe platforme orientate spre videoclipuri, cum ar fi TikTok și Snapchat, dar nu au generat aceleași rezultate ale recomandărilor.
Noile descoperiri urmează un raport din noiembrie care a constatat că algoritmul Reels de pe Instagram recomanda conținut explicit sexual utilizatorilor adulți care urmăreau doar conturi de copii.
O investigație din februarie, realizată tot de Wall Street Journal, a dezvăluit că angajații Meta au avertizat compania cu privire la prezența continuă a părinților exploatatori și a deținătorilor de conturi adulte pe Instagram, care găseau modalități de a profita de imaginile copiilor online.
Raportul a notat creșterea „Momfluencers” care se angajau în discuții sexuale cu urmăritorii și vindeau abonamente pentru a viziona conținut sugestiv cu copiii lor, cum ar fi dansul sau modelingul în costume de baie.
Militanții și autoritățile de reglementare și-au concentrat atenția asupra rolului social media în exploatarea copiilor online. Meta însăși a fost dată în judecată de mai multe ori pentru rolul său presupus în exploatarea copiilor, inclusiv un proces din decembrie care a acuzat compania de crearea unei „piețe pentru prădători”.
După crearea grupului său de lucru pentru siguranța copiilor în 2023, Meta a lansat o serie de noi instrumente de siguranță, inclusiv controale anti-hărțuire și cele mai stricte setări de control al conținutului disponibile în prezent.
Între timp, concurentul Meta, X, și-a revizuit recent politica privind conținutul pentru adulți, permițând utilizatorilor să posteze „nuditate produsă și distribuită sau comportament sexual, cu condiția să fie etichetat corespunzător și să nu fie afișat proeminent.”
Platforma a declarat că deținătorii de conturi sub vârsta de 18 ani vor fi blocați de la vizualizarea unui astfel de conținut, atât timp cât este etichetat cu un avertisment de conținut. Totuși, X nu precizează nicio consecință pentru conturile care postează conținut pentru adulți neetichetat.
