Comentariile toxice și pline de ură pe YouTube au fost o durere de cap constantă pentru companie, creatori și utilizatori. Compania a încercat anterior să reducă acest lucru prin introducerea unor funcții precum afișarea unei alerte persoanelor în momentul postării, astfel încât aceștia să poată fi mai atenți dacă comentariul lor postat pe Youtube este abuziv.
Acum, serviciul de streaming introduce o nouă caracteristică care va fi mai agresivă cu astfel de persoane în dacă comentariul postat pe Youtube este abuziv și va lua măsuri mai ample.
YouTube spune că va trimite o notificare persoanelor ale căror comentarii abuzive au fost eliminate pentru încălcarea regulilor platformei. Dacă, în ciuda primirii notificării, un utilizator continuă să posteze comentarii abuzive, serviciul îi va interzice să mai posteze comentarii timp de 24 de ore. Compania a spus că a testat funcția înainte de lansare și a constatat că notificările și timeout-urile s-au dovedit a fi un succes material.
În acest moment, detectarea comentariilor pline de ură este disponibilă doar pentru comentariile în limba engleză, dar serviciul de streaming își propune să includă mai multe limbi în viitor. În special, avertismentul de pre-postare este disponibil în engleză și spaniolă.
„Obiectivul nostru este atât să protejăm creatorii de utilizatorii care încearcă să influențeze negativ comunitatea prin comentarii, cât și să oferim mai multă transparență utilizatorilor cărora le-au fost eliminate comentariile din cauza încălcărilor politicii și, sperăm, să îi ajutăm să înțeleagă Regulile comunității”, a spus compania.
Dacă un utilizator consideră că comentariul său a fost eliminat în mod greșit, își poate trimite feedbackul. Cu toate acestea, compania nu a spus dacă va restabili comentariile după ce v-a analiza feedback-ul.
În plus, într-o postare pe forum, YouTube a spus că lucrează la îmbunătățirea sistemelor sale de detectare bazate pe inteligență artificială. A eliminat 1,1 miliarde de comentarii „spam” în prima jumătate a anului 2022, a susținut compania. De asemenea, YouTube și-a îmbunătățit sistemul pentru a detecta și elimina mai bine roboții din videoclipurile prin chat live, a spus acesta.
YouTube și alte rețele sociale au reușit să reducă spamul și conținutul abuziv, în parte, bazându-se pe detectarea automată. Cu toate acestea, abuzatorii folosesc adesea cuvinte diferite din argou sau ortografie greșită pentru a păcăli sistemul. În plus, este mai greu să-i surprinzi pe oameni care postează comentarii pline de ură în limbi non-engleze.

Compania de streaming a testat o gamă largă de instrumente în ultimele trimestre pentru a reduce comentariile de de tip ură pe platformă. Aceste teste au inclus ascunderea comentariilor în mod implicit și afișarea istoricului comentariilor unui utilizator pe informațiile de profil.
Luna trecută, Youtube a lansat o funcție care le permite creatorilor să ascundă un anumit utilizator din secțiunea de comentarii. Acest control se aplică întregului canal, așa că, chiar dacă utilizatorul postează comentarii pline de ură la un alt videoclip, aceestaa nu vor apărea.
Platformele la nivel global se confruntă cu problema limitării răspândirii comentariilor de ură.