Tviter i optužbe za rasizam: Da li bela lica imaju prednost nad crnim

Kompanija Tviter sprovodi istragu nakon što su korisnici otkrili da algoritam te društvene mreže za odabir fotografija ponekad daje prednost belim licima nauštrb crnih.

Korisnici su primetili kada u istom postu stoje dve fotografije – jedna crnog lica, a druga belog – Tviter često prikazuje samo belo lice kada se aplikacija koristi na mobilnom telefonu.

Iz Tvitera su rekli da su tokom razvoja algoritma testirali i rasnu i rodnu pristrasnost.

„Jasno je da nam preostaje još toga što treba da proverimo“, dodali su iz kompanije.

• Tviter izbacuje reči „gospodar“, „rob“ i „crna lista“ iz programerskog govora
• Studentkinja iz Irske posle rasističkih uvreda: „Zahvalna sam na podršci zbog koje se osećam bezbedno“
• Nema ukidanja „Patrolnih šapa“ uprkos tvrdnjama iz Bele kuće

Tehnološki direktor Tvitera, Parag Agraval, objavio je: „Radili smo analizu na našem modelu kada smo ga isporučili – ali [njemu] je potrebno kontinuirano unapređivanje.

„Volim ovaj javni, otvoreni i rigorozni test – i nestrpljiv sam da učim iz ovoga“.

Dlake na licu

Najnovija kontroverza počela je kada je Kolin Medlend, menadžer Univerziteta iz Vankuvera sa kolegom koristio aplikaciju za video konferencije Zum.

Softver je očigledno greškom identifikovao glavu kolege, koji je crnac, kao deo pozadine i – uklonio je.

Ali kada je Medlend objavio njihove fotografije na Tviteru, otkrio je da je njegovo lice – a ne lice njegovog kolege – odabrano na aplikaciji za mobilne telefone, čak i kada je promenio redosled fotografija.

• Kako biti antirasista
• Više od 18.000 žalbi na BBC zbog rasističkog izraza u programu

Njegovo otkriće podstaklo je niz drugih eksperimenata korisnika, koji su, na primer, utvrdili da:

• Lice lidera republikanaca u američkom Senatu Miča Mekonela
  

  We tested for bias before shipping the model & didn't find evidence of racial or gender bias in our testing. But it’s clear that we’ve got more analysis to do. We'll continue to share what we learn, what actions we take, & will open source it so others can review and replicate.

  — Twitter Comms (@TwitterComms) September 20, 2020

  u odnosu na crno lice bivšeg američkog predsednika Baraka Obame

• Prednost
  

  Here's another example of what I've experimented with. It's not a scientific test as it's an isolated example, but it points to some variables that we need to look into. Both men now have the same suits and I covered their hands. We're still investigating the NN. pic.twitter.com/06BhFgDkyA

  — Dantley ?✊?? (@dantley) September 20, 2020

  fotografija belog čoveka u odelu od one na kojoj je crnac

Direktor Tvitera koji je zadužen za dizajn, Dantli Dejvis, rekao je da bi uklanjanje dlaka i naočara sa lica Medlenda rešilo problem – „zbog kontrasta sa njegovom kožom“.

Odgovarajući na kritike, on je napisao na Tviteru: „Znam da mislite da je zabavno poentirati protiv mene – ali ja sam iznerviran zbog ovoga kao i svi drugi. Međutim, u stanju sam da to popravim i hoću.

„100 odsto smo krivi. Niko ne sme da kaže drugačije.“

„Mnogo je pitanja“

Zijan Vang, inženjer i suosnivač kompanije za neuronske mrežeMedžik poni, koju je kupio Tviter, rekao je da testovi na algoritmu iz 2017. godine nisu pronašli „značajnu pristrasnost između etničke pripadnosti (ili polova)“ – ali da bi Tviter trebalo ponovo da istraži ove podatke.

Testovi su koristili parove lica koja pripadaju različitim etničkim grupama,

„Mnogo je pitanja za koja će nam trebati vremena da odgovorimo na njih“, rekao je.

„Objavićemo više detalja nakon što interni timovi budu imali priliku da to pogledaju.“

Rasizam i problemi u SAD:

Krajem prošle godine, studija američke vlade snavela je da su algoritmi za prepoznavanje lica mnogo manje precizni u identifikovanju crnih i azijskih lica od belih.

U Velikoj Britaniji su policijski službenici prošle godine izrazili zabrinutost zbog algoritama koji „pojačavaju“ predrasude i zatražili jasnije smernice za upotrebu tehnologije.

U junu ove godine, slični problemi naveli su IBM da objavi da više neće nuditi softver za prepoznavanje lica za „masovni nadzor ili rasno profilisanje“.

Pratite nas na Fejsbuku i Tweets by bbcnasrpskom
. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk