Amazon: Tehnološki gigant negira da je njihov softver „rodno i rasno pristrasan“

Kompanija Amazon brani svoj alat za prepoznavanje lica Rekognišn (Rekognition), posle tvrdnji o rasnoj i rodnoj pristrasnosti.

Istraživači čuvenog Masačusetskog tehnološkog instituta (MIT) uporedili su alate za prepoznavanje lica u pet kompanija, među kojima su i Majkrosoft i IBM.

Iako nijedan nije donosio 100 odsto tačne rezultate, Amazonov je bio najlošiji kada je reč o prepoznavanju crnkinja.

Kako navode, stepen grešaka u prepoznavanju pola kod žena sa tamnijom kožom išao je i do 31 odsto. Sa druge strane, rivalski proizvodi su imali stepen grešaka na oko 20 odsto.

U isto vreme, Amazon, Majkrosoft i IBM su svi uspešno, u 100 odsto situacija, prepoznavali fotografije belih muškaraca.

Alati za prepoznavanje lica rade na osnovu velikih baza podataka, u kojima se nalazi više stotina hiljada slika.

Međutim, postoji zabrinutost da u mnogim od tih baza nema dovoljno fotografija ljudi koji nisu beli, zbog čega je algoritmima teško da ih prepoznaju.

Upotreba sa pažnjom

Iz Amazona navode da je istraživanje „obmanjujuće“.

Doktor Met Vud, generalni menadžer za veštačku inteligenciju pri Amazonu, napisao je blog u kojem je istakao nekoliko stvari koje su ga zabrinule.

Među njima je i da istraživači nisu koristili poslednju verziju Rekognišna.

Kako kaže, podaci do kojih je došao MIT ne održavaju Amazonovo istraživanje, u kojem je korišćeno 12.000 fotografija muškaraca i žena, iz šest etničkih grupa.

• „Izazov 10 godina“: Decenija gore-dole
• Zadruga „najguglaniji“ pojam u Srbiji
• Vređanje na internetu – kako da se zaštitite

„U svim etničkim grupama nismo pronašli značajne razlike u preciznosti, kada je reč o rodnoj klasifikaciji“, napisao je.

On ističe i da Amazon savetuje nadležne službe da softvere za prepoznavanje lica koriste samo ako je rezultat tačan 99 odsto ili više.

Takođe, nadležni nikada ne bi trebalo da softver koriste kao jedini izvor identifikacije, ističe se.

Opra je muško

U ranijem videu, objavljenom na Jutjubu 2018. godine, istraživači sa MIT-a pokazali su kako rade različiti softveri za prepoznavanje lica, među kojima je i Amazonov.

Jedan od rezultata je bio da je čuvena voditeljka Opra Vinfri verovatno muškarac.

„Glavna poruka je proveriti sve sisteme koji analiziraju ljudska lica zbog bilo kakve mogućnosti za grešku“, navodi naučnica Džoj Bulamvini.

„Ukoliko prodajete sistem za koji se pokazalo da je pristrasan kada je reč o ljudskim licima, teško da vaši ostali proizvodi iz te oblasti neće imati taj problem“.