software Google a realizat un software care detectează trolii din mediul online

[JoKeR.]

Ca parte a unui efort mult mai amplu de combatere a trolling-ului online, Google propune un software care se folosește de mecanisme de învățare și poate detecta abuzurile și hărțuirile de pe rețelele de socializare. Unitatea Jigsaw, a celor de la Google, vrea să implementeze un instrument numit „Perspective”. Rolul acestui program este de a combate și elimina de pe rețelele de socializare comentariile „toxice” care îi pot afecta pe utilizatori. Neconcordanța postărilor este stabilită prin analizarea a milioane de comentarii de pe web prin prezentarea lor unor grupuri de câte zece oameni, conform The Verge. Ideea din spatele acestui procedeu este de a aduna oameni din mai multe categorii sociale și de a afla părerile lor cu privire la „toxicitatea” unor anumite tipuri de postări. O versiune demo a acestui instrument poate fi găsită pe pagina celor de la Perspective API și oricine are posibilitatea de a se folosi de ea pentru a evalua cât de abuzive sau toxice sunt comentariile sale. Deși software-ul creat de Jigsaw nu este nou, el este acum accesibil și folosit de mai companii, iar de aici își și trage valoarea. Publicații precum The New York Times, The Guardian și Economist experimentează cu acest instrument și îl folosesc în secțiunea de comentarii pentru a transforma acest spațiu într-unul curat, unde „toată lumea poate avea dezbateri inteligente”. Din câte aflăm, pe baza acelorași surse, anumite fraze sau sintagme care sunt folosite în ultima perioadă tot mai des au un procentaj destul de mare de toxicitate, conform „Perspective”. Spre exemplu, expresia „fake news” apare ca fiind 47% toxică, sintagma „bad hombre” ajunge la un procent de 55%, iar „Grab her by the pussy” atinge valoarea de 92%. Pentru că unealta celor de la Google se folosește de comentarii similare, care au fost catalogate ca fiind nepotrivite, abuzive, ea este destul de limitată și nu poate identifica anumite nuanțe din frazele pe care le analizează. Însă ținând cont de faptul că are la bază un mecanism de învățare, ea va deveni mai performantă în timp.