Amazonova suspenzija policijske upotrebe softvera za prepoznavanje lica

Povezani članci

• Trampova jadna trampa
• VB: Laburisti žele da parlament ima pravo veta na Brexit
• Predsjednik Brazila Jair Bolsonaro popularniji nego ikad
• Brazilski predsjednik Bolsonaro: Onaj koji ugrožava
• Američka izborna trka postaje sve neizvjesnija
• Netanyahuu istekao rok za formiranje nove izraelske vlade

Kako su protesti širom SAD nagnali mnoge kompanije da preispitaju svoju ulogu u društvenoj nepravdi tako je i tehnološki div Amazon odlučio da suspenduje policijsko korištenje njegovog softvera za prepoznavanje lica.

Ova odluka Amazona otvorila priliku za zakonsku regulaciju sve više korištene tehnologije praćenja koja je prema mnogim kritičarima rasno pristrasna, pišu svjetski mediji dodajući da su to tokom druge sedmice juna uradile i kompanije IBM i Majkrosoft (Microsoft).

Greške u algoritmima

Amazon je zabranio policiji korištenje njegovog kontroverznog softvera za prepoznavanje lica na godinu dana, javio je BBC ističući da je do toga došlo nakon što su zagovornici građanskih prava izrazili zabrinutost zbog potencijalne rasne pristrasnosti u tehnologiji praćenja.

Tehnološki div je naglasio kako je obustava korištenja softvera prilika američkim zakonodavcima da zakonski reguliše način na koji se ta tehnologija koristi. “Zalagali smo se da vlade trebaju donijeti jače propise kojima će upravljati etičkim korištenjem tehnologije prepoznavanja lica, a posljednjih dana čini se da je Kongres spreman prihvatiti ovaj izazov”, saopšteno je iz Amazona.

Kao i drugi proizvodi za prepoznavanje lica, Amazonov softver ‘Rekognišn’ (Rekognition) pomoću umjetne inteligencije (AI) može vrlo brzo uporediti fotografiju sa, na primjer, kamere službenog lica s policijskom bazom podataka koje mogu sadržavati stotine hiljada fotografija, napominje BBC.

Ipak, tehnologija prepoznavanja lica već se neko vrijeme kritikuje zbog potencijalne rasne pristranosti, a studije pokazuju da većina algoritama ima veću vjerojatnost da pogrešno identifikuje lica crnaca i drugih rasnih manjina.

Posljednjih mjeseci Kongres odmjerava moguće zakone koji se odnose na tu tehnologiju jer su zakonodavci, kompanije i aktivisti za građanske slobode pozvali na jače regulisanje softvera za praćenje. Demokrate su u Kongresu u ponedjeljak, 8. juna, predstavili prijedlog zakona o policijskoj reformi kojim će zabraniti provođenje zakona prepoznavanje lica u stvarnom vremenu.

No, neki aktivisti smatraju da ta mjera nije dovoljna, ističe BBC dodajući da je Američka unija za građanske slobode (ACLU) istakla da bi trebalo zabraniti svako prepoznavanje lica na snimcima.

Simboličan korak

Iako Amazon nije obrazlagao zašto sada preduzima akciju suspenzije softvera Rekognišn policiji, jasno je da su protesti nakon smrti Džordža Flojda (George Floyd) usmjerili pažnju javnosti na rasnu nepravdu u SAD i pitanje kako policija koristi tehnologiju za praćenje ljudi koja je ranije kritikovana zbog rasne pristrasnosti i moguće zloupotrebe, ukazuje agencija Asošijetid pres (The Associated Press).

Studije koje je radio MIT (Massachusetts Institute of Technology) otkrile su rasne i rodne razlike u softveru za prepoznavanje lica. Ti su rezultati potaknuli Majkrosoft (Microsoft) i IBM na poboljšanje njihovih sistema, ali su, kako ističe AP, razljutili Amazon koji je prošle godine javno napao metode istraživanja. Grupa naučnika za umjetnu inteligenciju je potom pokrenula oštru odbranu svog rada i pozvala Amazon da prestane prodavati softver za prepoznavanje lica policiji.

“Amazonova odluka važan je simboličan korak, ali to uistinu ne mijenja krajolik prepoznavanja lica u Sjedinjenim Državama, jer nije važan igrač”, rekla je Kler Garvi (Clare Garvie), istraživačica Centra za privatnost i tehnologiju Univerziteta Džordžtaun. Njeno istraživanje javnih zapisa pronašlo je samo dvije američke agencije koje su koristile ili testirale Rekognišn.

Stručnjaci među kojima i Garvi tvrde da se mnoge američke agencije oslanjaju na tehnologiju prepoznavanja lica koja su izgradile manje poznate kompanije, kao što su tokijski Nek (NEC), Motorola solušns (Solutions) iz Čikaga ili evropske kompanije Idemia, Gemalto i Kognitek (Cognitec).

Agencija Asošijetid pres dodaje i da su nakon kritika tehnologije mnogi američki gradovi zabranili policiji i drugim vladinim agencijama njenu upotrebu, a predvodio ih je San Francisko prošle godine.

U utorak, 9. juna kompanija IBM također je najavila prekid rada na tehnologiji prepoznavanja lica, primjećujući zabrinutosti kako se tehnologija može koristiti za masovni nadzor i rasno profilisanje. S druge strane, napominje AP, Amazon ne napušta potpuno tehnologiju prepoznavanja lica i njihov softver je dozvoljen organizacijama koje ga koriste da bi pronašle djecu koja su nestala ili su seksualno iskorištavana.

Opiranje u prošlosti

Najava Amazona je upečatljiva promjena ovog istaknutog dobavljača softvera za prepoznavanje lica policiji, koji se više od ostalih velikih tehnoloških kompanija opirao pozivima da uspori upotrebu sporne tehnologije tvrdeći u prošlosti da su njegovi alati precizni, ali da ih istraživači nepravilno koriste, napisao je Njujork tajms (The New York Times).

Američka unija za građanske slobode je pozdravila odluku Amazona jer “konačno prepoznaje opasnosti tehnologije za nebjelačke zajednice i njihova građanska prava”, napominjući pak da bi kompanija trebala produžiti moratorij na korištenje sistema sve dok Kongres ne donese zakon koji reguliše tehnologiju.

Također, dodaje list, grupe za građanske slobode upozorile su da se tehnologija može koristiti na daljinu za tajno identifikovanje pojedinaca – poput demonstranata na protestima – što potencijalno narušava američko pravo na slobodu govora i privatnost. “Tehnologija prepoznavanja lica pruža vladama neviđenu moć da nas špijuniraju gdje god da odemo”, kazala je Nikol Ozer (Nicole Ozer), direktorica tehnologije i civilnih sloboda ACLU-a pri Univerzitetu Sjeverna Kalifornija.

Amazon je predstavio softver Rekognišn 2016. godine kao jeftin, “visoko podesiv” način identifikovanja fotografija uključujući ljude u ogromnim bazama podataka. Ubrzo nakon toga počeli su pozivati policiju da koriste alat kao pomoć u istragama, pa su agencije za provođenje zakona počele usvajati tu tehnologiju. Kompanija je, ukazuje Njujork tajms, početkom ove godine tvrdila da ne zna koliko policijskih uprava koristi njihov softver.

Amazonov trik?

Amazon je nedavno izrazio podršku pokretu ‘Crni životi znače’ i policijskoj reformi – koristeći Tviter (Twitter) kako bi pozvao na okončanje “nepravednog i brutalnog postupanja s crncima” u SAD-u, ali je kompanija istovremeno kritikovana zbog licemjerstva jer prodaje svoj softver za prepoznavanje lica policijskim snagama, piše Gardijan (The Guardian).

Amazon nije rekao koliko policijskih snaga koristi tehnologiju ili kako se ona koristi, ali marketinški materijali pokazuju da se Rekognišn koristi zajedno s policijskim kamerama u stvarnom vremenu. Eksperiment koji je proveo ACLU u 2018. godini pokazao je da je softver pogrešno uskladio fotografije 28 članova Kongresa sa osobama uhapšenim zbog zločina i da su u velikom broju pogrešno identifikovani članovi Kongresa koji nisu bijele boje kože.

Iako neki zagovornici privatnosti kažu da najnoviji potez Amazona predstavlja korak u dobrom smjeru, Evan Grir (Greer), iz grupe za digitalna prava ‘Borba za budućnost’, smatra da je to “ništa drugo nego trik Amazonovog odjela za odnose s javnošću”.

“Realnost je da je tehnologija prepoznavanja lica preopasna da bi se uopšte koristila”, poručuje Grir. “Poput nuklearnog ili biološkog oružja, ona predstavlja tako duboku prijetnju budućnosti čovječanstva da bi ga trebalo zabraniti odmah.”

Obustava ovog posebnog programa ne znači da će sva partnerstva Amazona s policijom biti zaustavljena, ukazuje Gardijan naglasivši da kompanija nije izmijenila Ring (Ring), svoju podružnicu pametnih kućnih zvona s kamerama, koja je također povezivana s povećanjem policijske aktivnosti nad ne-bijelim Amerikanacima. Izvještaji od prošle godine otkrivaju da je aplikacija Ring partner s više od 1.300 policijskih snaga širom SAD-a i da bilježi 300 odsto porasta korištenja u odnosu na avgust 2019.

Protesti i svježa percepcija uloge u društvu

Amazonova suspenzija policijske upotrebe tehnologije prepoznavanja lica je još jedan glas u rastućem broju kompanija, zakonodavaca i zagovornika građanskih prava koji pozivaju na veće regulisanje tehnologije praćenja zbog potencijalne rasne pristranosti, napisao je Volstrit žurnal (The Wall Street Journal) ističući kako za tehnološke kompanije, protesti i izrazi podrške pokretu ‘Crni životi znače’ (Black Lives Matter) potiču svježu percepciju uloge koju njihovi proizvodi i usluge imaju u društvu.

Izvršni direktor Fejsbuka (Facebook), Mark Zakerberg je prošle sedmice rekao kako će njegova kompanija preispitati kako postupati s diskusijama o policijskoj upotrebi sile i da će nastojati da uključi više različitih grupa u odluke upravljanja.

“Vjerujemo da je sada vrijeme za započinjanje dijaloga o tome trebaju li i kako domaće agencije za provođenje zakona mogu upotrebljavati tehnologiju prepoznavanja lica”, napisao je novi direktor IBM Arvind Krišna (Krishna) u ponedjeljak, 8. juna, u pismu upućenom demokratskim članova Kongresa obavijestivši ih da kompanija prestaje razvijati i prodavati softver za prepoznavanje lica. Majkrosoft, drugi veliki dobavljač za prepoznavanje lica, govorio je da s tehnologijom postupa oprezno, te je nakon Amazona također odlučio da zaustavi prodaju svog softvera policiji.

Premda je Amazon podržao prijedlog policijske reforme, grupa aktivista je ove sedmice pokrenula peticiju sa zahtjevom da kompanija prekine sve veze s policijskim odjelima i američkim kancelarijama za imigracije i carinska provođenja.

Majiša Hejs (Myaisha Hayes), direktorica u Media džastis (MediaJustice), organizaciji koja podržava peticiju, izjavila je da Amazon mora ispitati svoju “strukturalnu ulogu u sistematskom ugnjetavanju crnaca.”

RSE