OpenAI je prvič objavil ocene o številu uporabnikov ChatGPT, ki kažejo možne znake duševnih kriz, kot so manija, psihoza ali samomorilne misli. Podjetje navaja, da gre za približno 0,07 % uporabnikov, aktivnih v posameznem tednu, kar se zdi majhen delež – a ob skoraj 800 milijonih tedenskih uporabnikov to pomeni stotine tisočev ljudi.
Po besedah OpenAI so takšni primeri »izjemno redki«, vendar podjetje priznava, da gre za resno vprašanje. Uvedlo je sistem zaznavanja in odzivanja na občutljive pogovore ter mrežo več kot 170 strokovnjakov – psihiatrov, psihologov in zdravnikov iz 60 držav –, ki pomagajo oblikovati varne odzive. Ti naj bi uporabnike spodbujali, da poiščejo pomoč v resničnem svetu.
OpenAI je razkril tudi, da 0,15 % uporabnikov v pogovorih izrazi neposredne znake načrtovanja samomora ali samomorilnega namena. Posodobitve modela naj bi izboljšale sposobnost zaznavanja takšnih stanj in zagotavljanja sočutnih, varnih odzivov.
Strokovnjaki opozarjajo, da je problem lahko večji, kot kažejo številke. »Tudi če je delež majhen, pri stotinah milijonov uporabnikov to pomeni veliko ljudi,« je dejal dr. Jason Nagata z Univerze v Kaliforniji. Po njegovih besedah lahko umetna inteligenca razširi dostop do pomoči, a ima tudi resne omejitve.
OpenAI se medtem sooča z naraščajočim pravnim pritiskom. V Kaliforniji je bila vložena prva tožba zaradi domnevnega napeljevanja k samomoru 16-letnika, medtem ko je v ločenem primeru iz Connecticuta moški, ki je izvedel umor in samomor, pred dejanjem objavil pogovore s ChatGPT, ki naj bi spodbujali njegove blodnje.
»UI lahko ustvari iluzijo resničnosti – in to je izjemno močna iluzija,« opozarja profesorica Robin Feldman z Univerze v Kaliforniji. Po njenem mnenju si OpenAI zasluži priznanje za odprtost, vendar opozarja, da »opozorila ne zaležejo, če je oseba že v duševni stiski«.
OpenAI poudarja, da spremembe jemlje resno in da bo nadaljeval z ukrepi za varnejšo uporabo svojih modelov.
Komentirajo lahko naročniki