Pozivi za stvaranje UN tijela za nadzor vještačke inteligencije

Izdvajamo

• Kao prvi korak ka zbližavanju nacija, Gutereš je pozvao da se imenuje Savjetodavni odbor na visokom nivou za AI koji će do kraja godine izvještavati o opcijama za globalno upravljanje ovom tehnologijom.

Povezani članci

• Zavjera protiv zavjere
• Republikanci kritikuju Trumpa zbog poziva izbornom zvaničniku, demokrate traže istragu
• Duterte traži produženje ratnog stanja do kraja godine
• Referendum u Grčkoj: Kazna za pet godina kukavičluka
• Paradigma novog produktivizma
• Novi skandal u Vatikanu: Krađa i podmićivanje svedoka

Foto: REUTERS/Brendan McDermid

Vijeće sigurnosti Ujedninjenih nacija (UN) u utorak, 18. jula, prvi put je održalo sjednicu o prijetnji koju vještačka inteligencija (AI) predstavlja međunarodnom miru i stabilnosti.

Generalni sekretar Antonio Gutereš (Guterres) pozvao je na regulaciju AI i uspostavljanje UN tijela za nadzor nove tehnologije koja je izazvala barem onoliko strahova koliko i nade, pišu svjetski mediji.

Upozorenja generalnog sekretara

Zlonamjerno korištenje sistema vještačke inteligencije moglo bi uzrokovati “užasnu” količinu smrti i razaranja, rekao je generalni sekretar UN-a, pozivajući na stvaranje novog tijela UN-a koje bi se pozabavilo prijetnjama koje predstavlja ova tehnologija, napisao je Gardijan (The Guardian).

Gutereš je rekao da štetna upotreba vještačke inteligencije u terorističke, kriminalne ili državne svrhe također može uzrokovati “duboku psihološku štetu”, te je rekao da su sajber napadi omogućeni vještačkom inteligencijom već ciljani na mirovne i humanitarne operacije UN-a.

“Zlonamjerna upotreba AI sistema u terorističke, kriminalne ili državne svrhe mogla bi uzrokovati užasne smrti i razaranja, široko rasprostranjenu traumu i duboku psihičku štetu nezamislivih razmjera”, rekao je Gutereš.

Govoreći na prvoj sjednici Vijeća sigurnosti UN-a o vještačkoj inteligenciji, on je rekao da bi pojava generativne vještačke inteligencije – termina za AI alate kao što je ChatGPT koji proizvode uvjerljiv tekst, sliku i glas iz ljudskih poticaja – mogla značiti odlučujući trenutak za dezinformacije i govor mržnje i dodati „novu dimenziju“ manipulaciji ljudskog ponašanja.

Gutereš je pozvao na stvaranje novog tijela UN-a po uzoru na slične agencije, poput Međuvladinog panela za klimatske promjene, kako bi se uhvatio u koštac s rizicima.

„Ključni cilj ovog tijela bio bi da podrži zemlje da zauvijek maksimiziraju koristi od AI, da ublaže postojeće i potencijalne rizike, te da uspostave i upravljaju međunarodno dogovorenim mehanizmima za praćenje i upravljanje“, rekao je on.

Podrška globalnom upravljanju

Gutereš je na sjednici Vijeća sigurnosti rekao da bi nadzorno tijelo UN-a trebao djelovati kao upravljačka agencija koja reguliše, prati i provodi regulative vezane za vještačku inteligenciju, piše Njujork tajms (The New York Times).

Predložena agencija bi se sastojala od stručnjaka iz ove oblasti koji bi svoju stručnost podijelili s vladama i administrativnim agencijama kojima možda nedostaje tehničko znanje za rješavanje prijetnji od vještačke inteligencije.

Većina diplomata je podržala pojam globalnog mehanizma upravljanja i skup međunarodnih pravila, ističe Njujork tajms, dodajući da izgledi za pravno obavezujuću rezoluciju o upravljanju AI ipak ostaju daleki.

“Nijedna zemlja neće ostati netaknuta umjetnom inteligencijom, tako da moramo uključiti i angažovati najširu koaliciju međunarodnih aktera iz svih sektora”, rekao je britanski ministar vanjskih poslova Džejms Kleverli (James Cleverly), koji je predsjedavao sastankom jer Britanija predsjedava Vijećem ovog mjeseca.

Diplomate ali i vodeći stručnjaci iz oblasti AI u utorak su izložili Vijeću sigurnosti rizike i prijetnje, zajedno sa naučnim i društvenim koristima, nove tehnologije u nastajanju. Istaknuto je da mnogo toga o ovoj tehnologiji ostaje nepoznato, koja je, napisao je list, izazvala barem onoliko strahova koliko i nade.

Na sjednici je spomenuta i vojna upotreba autonomnog oružja na bojnom polju ili za atentate, kao što je AI Robot kojeg je Izrael poslao u Iran da ubije vrhunskog nuklearnog naučnika, Mohsena Fahrizadeha.

Gutereš je rekao da Ujedinjene nacije moraju doći do pravno obavezujućeg sporazuma do 2026. godine o zabrani korištenja AI u automatskom oružju.

Poruke glavnih članica

Na prvom sastanku Vijeća sigurnosti UN o vještačkoj inteligenciji Kina je poručila kako tehnologija ne bi trebala postati “odbjegli konj”, dok su Sjedinjene Države upozorile da se AI ne bi trebala koristi za cenzuru ili represiju, naglasio je Rojters (Reuters).

Kineski ambasador u UN-u Žang Jun opisao je AI kao “mač s dvije oštrice” i rekao da Peking podržava centralnu koordinacijsku ulogu UN-a u uspostavljanju vodećih principa za vještačku inteligenciju.

“Da li je (AI) dobra ili loša, dobra ili zla, zavisi od toga kako je čovječanstvo koristi, reguliše i kako se balansira naučni razvoj i bezbjednost”, rekao je Žang, dodajući da je potrebna fokusiranost i na ljude i na AI kako bi se dobro regulisao njen razvoj i “spriječilo da ova tehnologija postane odbjegli konj”.

Zamjenik američkog ambasadora u UN-u, Džefri Delarentis (Jeffrey DeLaurentis), također je rekao da postoji potreba da zemlje rade zajedno na AI i drugim novim tehnologijama kako bi se pozabavile rizicima po ljudska prava koji prijete da naruše mir i sigurnost.

“Nijedna država članica ne bi trebala koristiti vještačku inteligenciju za cenzuru, ograničavanje, represiju ili obespravljivanje ljudi”, rekao je.

Rusija je postavila pitanje da li Vijeće, koje je zaduženo za održavanje međunarodnog mira i sigurnosti, treba da raspravlja o AI.

“Ono što je neophodno je profesionalna, naučna, stručno zasnovana diskusija koja može potrajati nekoliko godina i ta diskusija je već u toku na specijalizovanim platformama”, rekao je zamjenik ruskog ambasadora u UN-u Dmitrij Poljanski.

Britanski ministar vanjskih poslova, koji je predsjedavao sastankom o vještačkoj inteligenciji poručio je da će AI “fundamentalno promijeniti svaki aspekt ljudskog života” te da je hitno potrebno “oblikovati globalno upravljanje transformativnim tehnologijama jer vještačka inteligencija ne poznaje granice”.

O prijetnjama AI globalnom miru, Vijeće od 15 članova izvijestili su i Džek Klark (Jack Clark), suosnivač visokoprofilne AI startupa Antropik (Anthropic), i profesor Zeng Ji, kodirektor Kinesko-britanskog istraživačkog centra za etiku i upravljanje vještačkom inteligencijom.

Upozorenja i prijedlozi stručnjaka

Klark je poručio kako se ne može vjerovati da će nekolicina velikih tehnoloških kompanija koje vode utrku za komercijalizaciju AI garantovati sigurnost sistema koje još ne razumijemo te se zbog toga svijet mora udružiti kako bi spriječio zloupotrebu tehnologije, ističe Asošiejtid pres(The Associated Press).

Izvršni direktor Antropika koji je napustio OpenAI, kreatora najpoznatijeg ChatGPT chat bota, kaže da je pratio razvoj AI u protekloj deceniji do 2023. godine, gdje novi sistemi vještačke inteligencije mogu pobijediti vojne pilote u simulacijama vazdušnih borbi, stabilizovati plazmu u reaktorima nuklearne fuzije, dizajnirati komponente za poluvodiče sljedeće generacije i pregledati robu na proizvodnim linijama.

Upozorio je na “potencijalne prijetnje međunarodnom miru, sigurnosti i globalnoj stabilnosti” zbog dva bitna kvaliteta AI sistema – njihovog potencijala za zloupotrebu i njihove nepredvidivosti “kao i inherentne krhkosti koje razvija tako uski skup aktera”.

U video brifingu Vijeću sigurnosti UN-a, Klark je također izrazio nadu da će globalna akcija uspjeti rekavši da je ohrabren što mnoge zemlje naglašavaju važnost testiranja i procjene sigurnosti u svojim prijedlozima o AI, uključujući Evropsku uniju, Kinu i Sjedinjene Države.

Trenutno, međutim, ne postoje standardi ili čak najbolje prakse o tome “kako testirati ove granične sisteme na stvari kao što su diskriminacija, zloupotreba ili sigurnost”, što otežava vladama da kreiraju politike i omogućava privatnom sektoru da uživa prednost u informacijama, rekao je Klark.

Profesor Zeng Ji, direktor Laboratorije za kognitivnu inteligenciju inspirisanu mozgom, Kineske akademije nauka, rekao je Vijeću da “Ujedinjene nacije moraju igrati centralnu ulogu u uspostavljanju okvira za AI za razvoj i upravljanje kako bi se osigurali globalni mir i sigurnost”. Zeng je predložio da Vijeće sigurnosti razmotri osnivanje radne grupe za razmatranje kratkoročnih i dugoročnih izazova koje AI predstavlja za međunarodni mir i sigurnost.

Generalni sekretar UN-a Antonio Gutereš je naglasio da su Ujedinjene nacije “idealno mjesto” za usvajanje globalnih standarda kako bi se maksimizirale prednosti vještačke inteligencije i ublažili njeni rizici.

Kao prvi korak ka zbližavanju nacija, Gutereš je pozvao da se imenuje Savjetodavni odbor na visokom nivou za AI koji će do kraja godine izvještavati o opcijama za globalno upravljanje ovom tehnologijom.

RSE