Algoritmul care poate detecta propaganda terorista cu o exactitate foarte mare

ASI Data Science din Marea Britanie a prezentat recent un nou algoritm de învățare a mașinilor, capabil să identifice conținutul jihadist cu o precizie uimitoare de 94%.

Firma de cercetare si-a prezentat produsul in Londra, reporterii prezenti avand o ocazia sa vada cum functioneaza algoritmul intern, deși li s-a cerut să nu împărtășească metodologia actuală. Potrivit jurnalistului BBC Dave Lee, “algoritmul se bazează pe caracteristicile tipice pentru [statul islamic] și activitatea sa online”.

Din ceea ce putem pune cap la cap, algoritmul pare să utilizeze recunoașterea imaginilor pentru a examina videoclipurile și a determina asemănarea cu alte videoclipuri confirmate de aceeași natură. După mii de ore de formare video, începe să prezinte modele și caracteristici unice pe care le poate aplica videoclipurilor din afara setului de date cu care a fost antrenat. Algoritmul utilizează aceste caracteristici pentru a atribui un scor de probabilitate.

Când suspectează un videoclip ca ar fi conținut extremist, acesta emite un avertisment pentru revizuirea umană. Oamenii vor avea insa decizia finală în privința stergerii videoclipului.

Instrumente similare au fost întâmpinate cu critici de către avocații unui internet deschis. Oponenții susțin că un astfel de algoritm creează mai multă muncă pentru moderatori, deoarece majoritatea videoclipurilor semnalate sunt false, ceea ce înseamnă că un conținut legitim poate fi blocat deoarece un algoritm a considerat că este ofensator. Facebook și YouTube au încercat amândouă o abordare algoritmică similară și nici una, dacă suntem cinstiți, nu a fost tot atât de eficientă.

Compania susține însă că acest algoritm este diferit. Pe un site cu cinci milioane de încărcări zilnice, ASI Data Science raportează doar 250 de videoclipuri semnalate, aproximativ 0,005 la sută.