.png)
Naučnici upozoravaju na greške veštačke inteligencije
Tehnologije
Autor: Glas javnosti
Autor: Glas javnosti
U Belgiji je nedavno pokrenuta debata o upotrebi veštačke inteligencije, nakon što je Petra de Suter, rektor Univerziteta u Gentu, koristila veštačku inteligenciju da napiše svoj uvodni govor za novu akademsku godinu prošlog septembra. Međutim, njen tekst je sadržao greške i dva izmišljena citata – što je poznato kao „halucinacija“ AI.
Prema Petri de Suter, Albert Ajnštajn je navodno rekao: „Dogma je neprijatelj napretka“. Međutim, naučnik nikada nije izgovorio ovu rečenicu. Stoga se radi o halucinaciji – lažnoj informaciji koju veštačka inteligencija predstavlja kao istinitu, preneo je belgijski javni servis RTBF.
Zamislite da za pisanje govora koristite Čet Dži-Pi-Ti i tražite da uključi citat Alberta Ajnštajna na temu napretka. Moguća su dva scenarija: ili će vam ponuditi pravi citat, ili će proizvesti verovatan citat – nešto što Ajnštajn nikada nije rekao, ali je mogao.
Ig Bersini, profesor i direktor laboratorije za veštačku inteligenciju na belgijskom univerzitetu, objasnio je ovaj fenomen.
„Veštačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. Čet Dži-Pi-Ti kombinuje reči koje su često bile povezivane zajedno. Ali, naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio“, rekao je Bersini.
Kada kažemo da citat ima smisla, to znači da je reč o statističkoj konstrukciji. Ona spaja različite reči koje su deo citata određene osobe, ali redosled tih reči zapravo ne postoji. Ajnštajn nikada nije rekao: „Dogma je neprijatelj napretka“.
U slučaju citata, to je fatalna greška, smatra Bersini.
„To je očigledno nešto što apsolutno mora biti provereno. A ako ste rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa kada je reč o znanju. Kada su u pitanju citati, njihova verodostojnost se mora proveriti“, istakao je on, dodajući da je uz nekoliko klikova na pretraživaču moguće dokazati grešku.
Giganti veštačke inteligencije pokušavaju da smanje ove halucinacije. U pojedinim oblastima one praktično ne postoje.
„Kada ima manje reči, kao u programiranju i matematici, rečnik je ograničeniji za egzaktne nauke i veštačka inteligencija tada funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Reči su raznovrsnije i mogu imati višestruka značenja. U tim oblastima je potreban dodatan oprez“, rekao je Bersini.
Nesrećno iskustvo Petre de Suter služi kao podsetnik.
Veštačka inteligencija nas može prevariti. I ona pravi lapsuse, jer je apsorbovala sve tekstove koji su joj dati. To je svojstveno i ljudskoj prirodi, s tom razlikom što ljudi razumeju koncept istine i laži, za razliku od veštačke inteligencije. Ona ne proverava svoje izvore.
„Zato je na vama da pažljivo obradite informacije koje prikupite i da u svakom trenutku vežbate svoje kritičko razmišljanje“, zaključio je Bersini.
Glas javnosti /S04S
Glas javnosti /S04S
SKINI APLIKACIJU
POVEZANE VESTI
KOMENTAR
