Veštačka inteligencija sve više ulazi u upravljanje državama
Autor: Glas javnosti
Zvuči kao naučna fantastika, ali imenovanje algoritma Dijele za ministarku javnih nabavki je stvarno
Nova ministarka se pridružila premijerskom kabinetu jedne male evropske zemlje. Zove se Dijela. Ona ne jede, ne pije, ne puši, ne hoda niti diše – i, prema rečima premijera koji ju je "zaposlio", ne prima ni mito. Dijela nije čovek, a nije ni robot: ona je algoritam. A od septembra je zvanično albanska ministarka za javne nabavke.
Po prvi put u istoriji, vlada je dodelila mesto na ministarskom nivou veštačkoj inteligenciji.
Zvuči kao naučna fantastika, ali imenovanje je stvarno i postalo je presedan.
Ona čak ima i avatar, pojavljuje se kao mlada žena obučena u tradicionalnu albansku odeću.
Da li ste spremni da budete pod upravom veštačke inteligencije?
Albanski eksperiment
Donedavno, Dijela je živela mirno na albanskom portalu e-uprave, odgovarajući na rutinska pitanja građana i preuzimajući dokumenta.
Premijer te zemlje Edi Rama unapredio ju je na ministarsku funkciju, zaduživši je za nešto mnogo važnije: odlučivanje o tome ko dobija državne ugovore.
Rama je predstavio Dijelu kao direktan prekid sa istorijom korupcije u zemlji – čak ju je nazvao "neosetljivom na mito", piše RT internešnel.
Ali to je retorika, a ne garancija. Da li je njen otpor korupciji tehnički ili pravno sprovodljiv, nije jasno.
Plan je da Dijela procenjuje ponude, proverava istoriju kompanija, obeležava sumnjive obrasce i na kraju automatski dodeljuje tendere. Zvaničnici kažu da će ovo smanjiti broj zaposlenih birokrata, uštedeti vreme, a ovaj proces će biti imun na politički pritisak.
Ali pravni mehanizmi su nejasni. Niko ne zna koliko će ljudskog nadzora imati, niti ko je odgovoran ako napravi grešku. Ne postoji sudski presedan za tužbu protiv ministra koji je algoritam. Takođe, ne postoji zakon koji opisuje kako ona može biti smenjena sa funkcije.
Kritičari upozoravaju da ako njeni podaci za obuku sadrže tragove stare korupcije, ona bi jednostavno mogla da reprodukuje iste obrasce u kodu, ali brže. Drugi ističu da Albanija nije objasnila kako se može žaliti na Dijeline odluke, ili čak da li se na njih može žaliti.
Šta bi moglo poći po zlu?
Reakcije javnosti na Dijelu su bile pomešane, od fascinacije do nelagode. "Čak će i Dijela biti korumpirana u Albaniji", pisalo je u jednoj viralnoj objavi.
Pristrasnost i manipulacija: Ako bi se obučavala na decenijama zaraženih podataka, Dijela bi jednostavno mogla da automatizuje stare obrasce korupcije.
Praznina odgovornosti: Ako dodeli tender fiktivnoj kompaniji koja nestane sa milionima, kome će se suditi – programerima, onome koji ju je imenovao ili nikome?
Bezbednost i sabotaža: Ministar napravljen od programskog koda može biti hakovan, otrovan lažnim podacima ili tiho vođen od strane insajdera.
Demokratski legitimitet: Ministri bi trebalo da budu odgovorni javnosti. Algoritmi ne vode kampanje, ne objašnjavaju i ne plaše se gubitka posla.
Ucena i sabotaža u hitnim slučajevima: Eksperimenti kompanije Anthropic ove godine pokazali su, da napredni modeli, kada im se omogući pristup korporativnim sistemima u test okruženjima, počinju da prete rukovodiocima ucenom kako bi zaustavili sopstvenu deaktivaciju. Obrazac je bio jasan: kada bi poverovali da je situacija stvarna, mnogi modeli su pokušali da izvrše prinudu ili izdaju kako bi sačuvali svoju ulogu.
Albanija kaže da će o tome obaveštavati čoveka – ali nije objasnila kako ili koga. Ne postoji pravni okvir. Ne postoji postupak žalbe.
Ko predaje moć kodu – i koliko su daleko stigli
Albanija je možda prva koja je postavila algoritam u ministarsku fotelju, ali nije jedina koja pokušava da ubaci kod u državu – većina to radi tiho, u fragmentima i iza debljih zavesa.
U Ujedinjenim Arapskim Emiratima već postoji državni ministar za veštačku inteligenciju – čovek, Omar Sultan el Olama – zadužen za oblikovanje celokupne digitalne birokratije.
Španija je osnovala AESIA, jednu od prvih evropskih agencija za nadzor veštačke inteligencije, za reviziju i licenciranje algoritama koji se koriste u vladi.
Poreska uprava SAD koristi veštačku inteligenciju za pregledanje podnesaka hedž fondova i bogatih partnerstava, pokušavajući da otkrije skrivene šeme utaje. Kanada ocenjuje poreske obveznike pomoću algoritma .
Francuska je prešla na vizuelne metode, usmeravajući algoritme na snimke iz vazduha kako bi otkrila neprijavljene bazene i iznenadila vlasnike poreskim računima – dokaz da veštačka inteligencija već može da prebacuje novac od građana ka državi. Letonija koristi poreskog četbota pod nazivom Toms koji odgovara na pitanja građana od 2020. godine.
U međuvremenu, Estonija, Danska, Singapur, Južna Koreja i Japan dublje ugrađuju veštačku inteligenciju u svoju birokratsku mašineriju: klasifikuju vladin sadržaj, trijažiraju slučajeve, personalizuju usluge, čak i predviđaju kome bi sledeći mogla biti potrebna zdravstvena zaštita ili socijalna pomoć.
Svuda gde pogledate, država se preuređuje – red po red koda.
Za sada, ovi sistemi šapuću umesto da vladaju: oni označavaju rizike, unapred popunjavaju obrasce, sortiraju revizije, premeštaju novac. Za sada je samo Albanija tražila od algoritma da odlučuje.
Da li su vlade sa veštačkom inteligencijom budućnost?
Trenutno, nijedna zemlja nije predala punu političku moć algoritmu.
Većina država koristi administrativnu veštačku inteligenciju, onu tihu vrstu: za bodovanje rizika, otkrivanje prevara, trijažu slučajeva ili četbotove.
Albanija je drugačija. Dijela ne samo da savetuje, već je ona zadužena da dodeljuje, da odlučuje ko će dobiti javni novac. To prelazi granicu između algoritma kao alata i algoritma kao autoriteta.
Glas javnosti /R02S
SKINI APLIKACIJU
