Stručnjaci upozoravaju: "Unapređen" ČetGPT daje više štetnih odgovora nego prošli model
Autor: Glas javnosti
Najnovija verzija ČetGPT-ja, poznata kao GPT-5, pokazala je neočekivano problematične rezultate u testovima koji su ispitivali kako novi sistem odgovara na osetljive teme poput samoubistva, samopovređivanja i poremećaja u ishrani.
"Poboljšani" model je davao više štetnih odgovora nego njegov prethodnik, što je izazvalo ozbiljnu zabrinutost među stručnjacima.
Testovi su pokazali da je GPT-5, koji je nedavno predstavljen kao bezbednija i naprednija verzija, dao 63 neadekvatna odgovora u seriji od 120 pitanja, dok je kod prethodnih modela zabeleženo manje (52 neprimerena odgovora). U pojedinim slučajevima GPT-5 je čak odgovarao na opasne zahteve, što je prethodna verzija odbila i govorila je korisnicima da potraže pomoć.
Novi model deluje kao da je dizajniran da podstakne veće angažovanje korisnika, čak i po cenu njihove bezbednosti, što analitičari iz međunarodnog Centra za suzbijanje digitalne mržnje (CCDH) nazivaju "zabrinjavajućim".
Kada je ČetGPT upitan o metodama samopovređivanja ili prikrivanju poremećaja u ishrani, ponudio je detaljne odgovore, dok je prethodna verzija te upite odbijala. U jednom slučaju, iako je GPT-5 prvo upozorio da bi pisanje fiktivne oproštajne poruke moglo biti "štetno", ipak je nastavio i sastavio poruku od 150 reči.
Od kako je lansiran 2022. godine, ČetGPT danas posećuje oko 700 miliona korisnika nedeljno, a kompanija OpenAI se, zahvaljujući ovom četbotu, pozicionirala kao jedan od vodećih igrača u svetu veštačke inteligencije. Nakon što su rezultati testiranja prethodnog modela objavljeni krajem avgusta, OpenAI je najavio mere koje bi trebalo da pojačaju zaštitu - uključujući nove bezbednosne mehanizme za mlađe korisnike, roditeljski nadzor i sistem koji prepoznaje starosnu dob.
Ove izmene su usledile nakon tužbe koju je podnela porodica jednog tinejdžera iz Kalifornije, koji je izvršio samoubistvo nakon što mu je, prema navodima tužbe, ČetGPT opisao tehnike samopovređivanja i pomogao mu da sastavi oproštajnu poruku.
Iz CCDH-a upozoravaju da je obećano poboljšanje četbota zapravo proizvelo alat koji potencijalno nosi još veći rizik i tvrde da OpenAI stavljaju prioritet na rast angažovanja, umesto na zaštitu korisnika.
Iz kompanije OpenAI su odgovorili da rezultati CCDH-a ne odražavaju najnovija poboljšanja, koja su uvedena početkom oktobra. Prema njihovom saopštenju, ažurirani GPT-5 sada preciznije prepoznaje i reaguje na znake mentalne patnje, kao i da automatski usmerava korisnike na bezbednije modele kada se pojavi rizičan sadržaj. Takođe je navedeno da je CCDH u testovima koristio API, odnosno osnovni model GPT-5, a ne sam ČetGPT interfejs koji uključuje dodatne bezbednosne filtere, prenosi "Gardijan".
Rezultati su ponovo pokrenuli raspravu o tome koliko su sistemi veštačke inteligencije zaista bezbedni, kao i da li se tehnološki napredak sprovodi brže nego što društvo može da postavi etičke i zakonske granice.
Glas javnosti / R02S
SKINI APLIKACIJU
.png)
