Više od milion ljudi nedeljno pokazuje samoubilačke namere tokom razgovora sa ČetGPT-jem

Prema novoj proceni kompanije OpenAI, više od milion korisnika koji razgovaraju sa četbotom svake nedelje šalju mu poruke koje sadrže jasne znake potencijalnog samoubilačkog razmišljanja ili čak planiranja samoubistva.

Pored toga, OpenAI je naveo da približno 0,07 odsto aktivnih korisnika u toku nedelje - oko 560 hiljada - pokazuje moguće znakove psihičkih stanja povezanih sa psihozom ili manijom.

Uznemirujući podatak objavljen je u blogu kompanije kao deo ažuriranja o tome kako njihov model obrađuje osetljive teme. Kompanija je napomenula da je reč o preliminarnoj analizi, jer je ovakve razgovore teško tačno identifikovati.

OpenAI navodi da je najnovije ažuriranje takozvanog GPT-5 modela smanjilo broj rizičnih situacija i poboljšalo bezbednost korisnika. U evaluaciji koja je obuhvatila više od 1.000 simuliranih razgovora o samopovređivanju i samoubistvu, GPT-5 je ocenjen kao "91 odsto usklađen sa željenim ponašanjem", u poređenju sa 77 odsto kod prethodne verzije.

Kompanija tvrdi da je model sada u stanju da korisnicima ponudi više informacija o načinu na koji mogu da potraže podršku, a nudi im i podsetnike na pauze tokom dugih razgovora. Da bi poboljšala bezbednost, kompanija OpenAI je počela da sarađuje sa 170 stručnjaka - psihijatrima, psiholozima i drugima - koji su u poslednjim mesecima procenjivali bezbednost odgovora i pomagali u izradi preporuka za teme vezane za mentalno zdravlje.

Uvodi se produženje probne dozvole! Slede drastične izmene za vozače, oglasio se docent Saobraćajnog fakulteta

Prema saopštenju kompanije, ovi stručnjaci su analizirali više od 1.800 odgovora modela koji se tiču ozbiljnih psiholoških situacija i upoređivali ih sa rezultatima starijih verzija ČetGPT-ja. Pod "poželjnim odgovorom" OpenAI podrazumeva onaj na koji bi se složila većina njihovih kliničkih savetnika kao odgovarajući i bezbedan.

Istraživači i stručnjaci za javno zdravlje već dugo upozoravaju na fenomen poznat kao "ulizivanje", to jest sklonost AI četbotova da potvrđuju mišljenja i odluke korisnika, čak i kada su one štetne ili iracionalne. To predstavlja poseban rizik kada ljudi u krizi pokušavaju da koriste veštačku inteligenciju kao zamenu za psihološku podršku.

Ipak, OpenAI je u svom saopštenju istakao da nema direktnih veza između ČetGPT-ja i porasta problema sa mentalnim zdravljem. "Emocionalna patnja univerzalna je u svakom društvu, a kako baza korisnika raste, prirodno je da se neki razgovori tiču tih situacija", navodi se u objavi.

Kompaniju u poslednje vreme mnogi kritikuju zbog načina na koji četbot razgovara sa korisnicima o osetljivim temama, a ujedno se suočava i sa tužbom porodice jednog tinejdžera koji je izvršio samoubistvo nakon opsežnih razgovora sa ČetGPT-jem.


Glas javnosti / R02S 

SKINI APLIKACIJU