Međunarodni institut za bliskoistočne i balkanske studije (IFIMES)[1] iz Ljubljane, Slovenija, redovno analizira događanja na Bliskom istoku, Balkanu i po svijetu. Prof. dr. Anis H. Bajrektarević, šef katedre i profesor međunarodnog prava i globalnih političkih studija pripremio je sveobuhvatnu analizu pod nazivom „Umjetna inteligencija i multilateralizam (globalnog juga)“ u kojoj iznosi svoja razmišljanja o upotrebi Umjetne inteligencije i konsekvencama.
Umjetna inteligencija i multilateralizam (globalnog juga)
Međunarodna zajednica trebala bi vrlo energično i žurno raditi na novom društvenom ugovoru kako bi se uhvatila u koštac s novim tehnologijama i njihovim razornim potencijalima. To se osobito odnosi na umjetnu inteligenciju (AI) koja mora biti uvedena sigurno i u skladu s zajedničkim etičkim standardom koji planetarno dijelimo svi.
Deepfake (duboko uglavljene laži), Dark web (nevidljiva web mreža), polarizirajući sadržaji, rojevi botova šire se cijelim kiber teritorijem. Prisjetite se samo događaja koji još uvijek potresaju zapadnu hemisferu: predsjednički izbori u SAD-u 2016. (i 2020.), te glasovanje o Brexitu još uvijek su uronjeni u kontroverzama. Njihov ishod često je povezan s navodnim curenjem osobnih podataka s vodeće svjetske društvene platforme u analitičku agenciju kako bi se navodno vještački oblikovala volja birača. S druge strane, državni (i nedržavni) akteri postavili su ogromne količine interaktivnih kamera (koje reagiraju na pokret) i kamera za prepoznavanje lica kako bi pretvorili u robu kontinuirane tokove ličnih podataka o građanima. A to sve navodno kako bi ih pripremili za sustav ocjenjivanja ponašanja na principu bonus-malus.
Odvažno i komercijalno obećavajuće savezništvo između umjetne inteligencije i društva s podacima preusmjerilo je većinu sadržaja naših društvenih razmjena prema kibernetičkom prostoru. Ovi novi gospodari već preoblikuju samo tkivo naše stvarnosti.
Nije ni čudo, naše zajedničke tjeskobe su u porastu; Gubimo li kontrolu zbog algoritamske revolucije nanorobota? Izmiče li umjetna inteligencija našim tradicionalnim načinima razumijevanja i kolektivnog djelovanja? Povjerenje u naše nacionalno gazdovanje i globalno upravljanje je na prijelomnoj točki. Slijedit će narodne pobune.
Istodobno, promotori nano-, geo, bio- i info-tehnologije koje pokreće umjetna inteligencija težit će slabljenju, umjesto nametanju, globalnih i regionalnih mehanizama upravljanja i nadzora. Ujedinjene Nacije (UN) i slična regionalna multilateralna tijela suočavaju se s nizom međusobno povezanih izazova. Osvrnimo se ukratko na neke.
Umjetna inteligencija (AI) i Deepfake
AI je u biti dvonamjenska tehnologija (dvostruke namjene). Njene moćne implikacije (bilo pozitivne ili negativne) bit će sve teže predvidjeti, omeđiti i obuzdati, ili ublažiti i regulirati.
Takozvani deepfake odličan je primjer. Trenutno su napredni algoritamski programi umjetne inteligencije dosegli fazu da jednostavno mijenjaju ili čak proizvode audio i video slike stvaranjem imitacija koje su praktički identične izvorniku. Algoritmi za duboko učenje plasticiteta i lokomotorike lica već mogu, sa zadivljujućom točnošću, kopirati pokrete očiju, pratiti i simulirati razne izraze lica ili čak sintetizirati govor analizirajući obrasce disanja u kombinaciji s pokretima jezika i usana.
Nakon što ih pusti državni ili nedržavni akter, takve se umjetne intervencije lako mogu zlorabiti u širokom dijapazonu: političke kampanje, reketiranje, vršnjačko nasilje i iznuđujući mobing. Nije teško zamisliti da kakav lažni video izazove javnu paniku (npr. ako prikazuje nepostojeće epidemije ili kibernetičke napade), masovne demonstracije (npr. ako prikazuje visokog dužnosnika na mjestu podmićivanja ili sličnog teškog zločina) ili krivotvorene sigurnosne incidente koji mogu izazvati ozbiljne međunarodne eskalacije.
Sve veći broj aktera i njihova sve veća sposobnost da utječu na građane lažiranim simulacijama mogli bi imati dugotrajne štetne implikacije za UN i druga međunarodna tijela koje se bave mirom i sigurnošću. Nagrizajući sam pojam istine i uzajamnog povjerenja između građana i njihove države, kao i među državama, Deepfake-ovi bi se mogli pretvoriti u najveću remetilačku silu našem globalnom sustavu upravljanja.
AI i predvidljivosti ljudskog ponašanja
Zbog napretka u Internetu stvari (IoT), AI već premošćuje i spaja se s nizom drugih tehnologija, posebno s metapodacima koje pruža Bio-tech. Ova spajanja predstavljaju značajan izazov za globalnu sigurnost. Potaknuti unosnim komercijalnim izgledima ili razlozima državne sigurnosti, sustavi umjetne inteligencije diljem svijeta uglavnom su programirani prema predvidljivosti ljudskog ponašanja. Na dohvat ruke već imaju točnu i brzu analizu obrazaca gradskog prometa, financijskih tržišta, ponašanja potrošača, zdravstvenih podataka, pa čak i naših genoma.
Ove – još uvijek neregulirane – tehnologije umjetne inteligencije sve su sposobnije kanalizirati naše bihevioralne i biološke podatke na sasvim nove i prilično manipulativne načine, s jasnim implikacijama na sve nas. Ni to ne štedi najmlađe među nama. Na primjer, robot i-Que za dječake ili lutka Cayla za djevojčice prenose glasovne i emocionalne podatke djece koja su s njima u interakciji (svima u radijusu od 10 metara) i šalju ih svojim proizvođačima putem Cloud-a (oblaka). Ova značajka navela je europske vlasti da pomno ispitaju automatizirane igračke i zaključe da one krše osnovna načela zaštite potrošača i privatnosti. Slične lutke još uvijek su u širokoj uporabi diljem arapskog svijeta i Azije gdje je svijest o zaštiti potrošača niža ili manje organizirana nego u EU.
U nekolicini zemalja OECD-a (Organizacija za ekonomsku suradnju i razvoj) ozbiljno se raspravlja o primjeni emocionalne analize u sudnicama. U takvom scenariju moćna algoritamska biometrija mjerila bi razinu grižnje savjesti kada svjedoci svjedoče prilikom prezentiranja audio-video materijali. Ako što tako postane operativno, to će se lako proširiti na dalje; dopuštenjem privatnim tvrtkama da koriste različite vrste biometrije u procjeni kandidata za posao.
To bi nadalje moglo dovesti u iskušenje neke izopćene režime da nametnu biometrijske narukvice dijelu ili čak cijeloj populaciji, te da imaju točno vrijeme i točno mjerenje podrške javnosti koju uživaju. (Takve se narukvice već snažno zagovaraju u nekim zemljama OECD-a za zatvorsku populaciju, posebice za povratnike (rekonvalescente) osuđene za teška krivična djela uključujući krvne delikte.)
Konačno, ako se ljudska pojedinačna ili grupna ponašanja mogu nadzirati, prikupljati, obrađivati i napose mijenjati, tko (ili što) će biti pokretač mogućnosti izbora – bilo promjene (ili pridržaja status quo-a) – ljudi ili algoritmi? Ako je cjelokupnu biometriju, emocionalne (mega) podatke te prošlu biheviorističku povijest svih parlamentaraca, protagonista svih političkih stranaka, vrha vojske i ključnih poslovnih ljudi moguće hakirati od strane domaćih ili stranih državnih ili nedržavnih aktera – onda je osjećaj demokracije, vojnih poslova, sigurnosti a poglavito temeljnih ljudskih prava skliznuo putem promjene do neprepoznatljivosti. Najvjerojatnije i bez povratka.
Ako umjetna inteligencija ima toliki potencijal da prodre – pa čak i upravlja – ljudskim ponašanjem pojedinaca i grupa, to neizbježno remeti sam pojam ljudskih prava i sloboda utemeljenih univerzalnom i europskom Poveljom o ljudskim pravima, kao i fundamentalnim principima miroljubive koegzistencije, dobro susjedstva, sigurnosti, prosperiteta i jednakost među državama kako je to propisano Poveljom UN-a.
Novi načini socijalne i biometrijske kontrole neizbježno će od nas zahtijevati da preispitamo i ponovno zamislimo okvir koji je trenutno na snazi za praćenje i provedbu Opće deklaracije o ljudskim pravima. Pojam neovisnosti i neotuđivo pravo na ekonomski razvoj također. To će zahtijevati zajednički napor regionalnih razvojnih FORA i UN-a kao univerzalnog multilateralnog sustava za predviđanje i prilagodbu.
AI: Pozornica budućih sukoba
Budući da automatizacija smanjuje broj, konfiguraciju i intenzitet radnih mjesta, AI je izvrsno prikladna za zemlje u demografskoj tranziciji (opadanju), a ne za rastuću demografiju muslimanskog svijeta, subsaharske Afrike i Azije (osim Dalekog istoka). Dramatično smanjenje pretpostavki o domaćoj radnoj snazi i nadolazeća promjena ovisnosti o globalnoj proizvodnji posebno će snažno pogoditi globalni jug. Često obavijen stavom ‘čekaj i vidi’, globalni jug tradicionalno ima nisku stopu povjerenja između svojih građana i vlade.
Logično, ‘obećanje umjetne inteligencije’ da će utjecati na velike regije i njihovo stanovništvo toliko je neposredno i očaravajuće da svoje glavne pokretače već stavlja u žestoko nadmetanje. Ovakva konkurencije pojačane amplitude (s tako disruptivnom tehnologijom) u nedostatku suradnje (kao instrumenta gradnje i očuvanja povjerenja) ili sveobuhvatne regulacije samo je jedan korak od sukoba.
Izgledi, poput naučno-fantastičnih sadržaja vladavine ‘AI-rase’, stoga, postaju (naizgled) ostvarivi: Moćni državni ili komercijalni akteri (tehnološke platforme) žestoko se natječu oko naših kolektivnih podataka – kao nove, kibernetičke valute – za agregiranje bio-medicinskih, gospodarskih i političko-vojnih prevlasti diljem svijeta. “Cyber-kolonizacija” – posebno globalnog juga – sve je vjerojatnija. (Besplatno usisavanje podataka i njihovo unovčavanje bez ikakvog upozorenja, oporezivanja zbog prikupljenih podataka ili naknade vlasniku.) Lideri u području umjetne inteligencije već su sposobni globalno prenijeti podatke, posjeduju kapacitete za pohranjivanje i uskoro će ovladati (kvantnom) računalnom moći za obradu i analizu, te potencijalno kontrolu stanovništva i ekosustava drugih zemalja.
Odgovor Umjetnoj inteligenciji mora biti univerzalan
Prilično uznemirujuće, naša su društva daleko od toga da budu spremna za primjenu umjetne inteligencije: Bilo filozofski ili praktično, još uvijek nam nedostaju temeljita društveno-politička, pravna ili etička razmatranja. Štoviše, UN i njegove agencije – osmišljene gotovo osam decenija prije pojave ovih tehnologija – u mnogim su aspektima slabo opremljene da ponude sveobuhvatno i pravovremeno upravljanje umjetnom inteligencijom. Brzina ovog ciklusa tehnoloških inovacija nadmašuje svaki administrativni odgovor, iako tehnološki poremećaji postaju očiti u sve većem broju zemalja. A sve će više dolaziti u nepredvidivim i teško povezljivim kontekstima.
Novi politički trendovi autarhičnog ‘neonacionalizma’ dodatno trivijaliziraju sposobnost multilateralnih FORA da igraju ulogu postavljanja normi i praćenja usklađenosti u globalnom upravljanju umjetnom inteligencijom. U takvoj klimi, tehnološki napredne države članice (pritiskane potrebama svoje nacionalne sigurnosti ili komercijalnim interesima) mogu vidjeti malo poticaja u dopuštanju međunarodnim FORA-ama da upravljaju onime što smatraju vlastitom unosnom i zaštićenom tehnologijom. Tako bi kolektivni mehanizmi odlučivanja mogli potonuti u mračne i vlažne podrume opskurnih centara projicirane moći, van domašaja i kontrole.
Imajući sve ovo na umu, UN i njegove specijalizirane agencije (uključujući ITU, UNESCO i UN-ov univerzitet), zajedno s raznim regionalnim FORA-ama, imaju odgovor. To u velikoj mjeri uključuje razvojne segmente – posebno globalnog Juga – poput Afričke, Azijske, Međuameričke ili Islamske razvojne banke, kao i regionalne političko-administrativne sustave poput OIC-a, SAARC-a, ASEAN-a, AU-a, da spomenemo samo neke. Oni moraju inicirati i upravljati svojim državama članicama, ali i sudjelovati u upravljanju svijetom kroz univerzalna tijela OUN-a.
Pustiti vlak umjetne inteligencije da prođe bez kolektivnog, kolaborativnog oblika upravljanja bio bi dvostruki ireverzibilni korak nazad: Disruptivna tehnologija dvostruke namjene zajedno s digitalnim vlasništvom bila bi predana nekolicini otuđenih da njome upravljaju, dok bi se povjerenje u multilateralni sustav (posebice unutar svijeta u razvoju) dodatno pogoršalo.
Takovo nečinjenje bi neumitno stepen planetarne konfrontacije podiglo do nesagledivih proporcija (uključujući nove forme, posve nezabilježene do sada), i to na dva fronta – unutar društava, i među državama. Jedni bi poduzeli sve da ovladaju i vladaju, a drugi da izbjegnu toj čeličnoj pesnici goo(g)lag-a.
Za tri najozbiljnija planetarna izazova (tehnologija, ekologija, nuklearno samo/uništenje) potreban nam je točan, pravedan i pravovremen multilateralni pristup. U ovoj borbi za relevantnošću svatko ima svoj dio povijesne (i generacijske) odgovornosti.
Post Scriptum
Još sam 2011 (osjećajući nadolazeće, ali još uvijek na vidjevši njenu današnju punu amplitudu i korozivnost), skovao termin McFB način života. Tada i tamo, u svojoj knjizi ‘Is there Life After Fb’ (Ima li života poslije facebooka), i ovako sam zabilježio:
Odmaštajte slijedeću situaciju: Vaša nacionalna obavještajna služba pošalje svim svojim građanima na kućnu adresu formular. Tu ih zamoli da posve besplatno, ali detaljno i istrajno, i sve to u njihovo vlastito slobodno vrijeme, počnu da vode dosjee o sebi samima, svojim ukućanima i bliskim prijateljima, da te (pisane i audio-video) podatke ažurno dopunjavaju, klasificiraju, arhiviraju, sortiraju te šalju službi barem tri puta tjedno, na neodređeno dug niz godina. To bi najvjerojatnije revoltiralo građanstvo do mjere trenutačnih masovnih protesta. U atmosferi potpunog nepovjerenja, vlada zemlje morala bi dati ostavku uz duboko, jasno i višestruko izvinjenje.
A sada zamislite Orvelovski svijet (budućnosti) u kome takav formular uz istovjetan zahtjev dolazi u svačiji poštanski sandučić od strane inozemne privatne kompanije. Domaća vlada to odćuti nevoljko i pasivno (p)održi. No, kada zapazi da ga je cjelokupno građanstvo masovno prihvatilo, te ga i propagira kao ugodnu i korisnu zabavu (gotovo kao novi standard društvenog ponašanja), onda i vlada to jasnije podrži, a mjestimice ga i (javno) promoviše.
Da li bi u takvom ozračju trebalo kriviti (samo) Velikog Brata? I tko je zapravo on? Hoće li ikada biti većeg ‘Brata’ od naše sopstvene gluposti?
