Studiu. Rețelele sociale identifică mai greu postările abuzive care conțin simboluri de tip “emoji”. Algoritmii sunt adesea păcăliți și ajung să sancționeze de multe ori postări care de fapt nu încalcă nicio regulă.

studiu-retelele-sociale-identifica-mai-greu-postarile-abuzive-care-contin-simboluri-de-tip-“emoji”-algoritmii-sunt-adesea-pacaliti-si-ajung-sa-sanctioneze-de-multe-ori-postari-care-de-fapt-nu-incalca-nicio-regula.

Oxford Internet Institute explică faptul că algoritmii rețelelor sociale sunt antrenați să identifice mesaje neadecvate, pe baza unor blocuri de text care doar în puține cazuri conțin și emoji. Există situații în care roboții de monitorizare sunt păcăliți de ideograme și pot șterge statusuri care în realitate nu încalcă regulile platformelor, sau situații în care rezultatul este exact opusul, adică nu sunt sancționate postările rău-intenționate.

Potrivit unei analize a Sky News, un cont de Instagram care promovează mesaje rasiste în care sunt folosite ideograme este de trei ori mai puțin probabil să fie închis, decât un cont cu postări rasiste doar de tip text. În cercetarea sa, Oxford Institute a analizat un val de statusuri rasiste adresate fotbaliștilor englezi de culoare Marcus Rashford, Jadon Sancho și Bukayo Saka, care au ratat penalty-urile din finala EURO 2020 cu Italia, pierdută de naționala Angliei. Majoritatea mesajelor conțineau emoji cu maimuțe, astfel că nu erau sancționate.

Perspective API, un instrument susținut de Google și folosit pentru identificarea comentariilor denigratoare, a avut o eficiență de doar 14% în cazul mesajelor însoțite de ideograme, potrivit Sky News, o rată mică pentru o ”unealtă” care analizează zilnic 500 de milioane de sesizări. Pentru a corecta situația, cercetătorii au realizat o colecție de circa patru mii de propoziții ofensatoare care includ și emoji, propoziții pe care le-au folosit în antrenarea algoritmilor.

În urma demersului cercetătorilor Oxford, capacitatea de identificare a fost îmbunătățită cu 80%. Însă Sky News atrage atenția că tot acest efort poate ajunge să nu fie de ajuns, întrucât unele comentarii cu emoji pot fi abuzive doar în anumite contexte, de exemplu cum s-a întâmplat atunci când au însoțit fotografia unui fotbalist de culoare. În condițiile în care noul sezon al campionatului englez de fotbal debutează sâmbătă, 14 august, este de așteptat să apară un nou val de postări rasiste.

Sursa: Sky News
Foto: Dreamstime/Suphachai Panyacharoen; Dimarik16

Articole similare