OpenAI pirmadienį paskelbė naujus duomenis, atskleidžiančius, kiek ChatGPT naudotojų susiduria su psichikos sveikatos problemomis ir apie tai kalba su dirbtinio intelekto pokalbių robotu. Bendrovė teigia, kad 0,15 % aktyvių ChatGPT naudotojų per savaitę turi „pokalbius, kuriuose yra aiškių galimos savižudybės planavimo ar ketinimo požymių“. Kadangi ChatGPT turi daugiau nei 800 milijonų aktyvių naudotojų per savaitę, tai reiškia, kad daugiau nei milijonas žmonių kas savaitę kalba apie savižudybę.
Bendrovė taip pat nurodo, kad panaši dalis naudotojų rodo „padidėjusį emocinį prisirišimą prie ChatGPT“, o šimtai tūkstančių žmonių savo savaitiniuose pokalbiuose su AI rodo psichozės ar manijos požymių.
OpenAI teigia, kad tokie pokalbiai su ChatGPT yra „itin reti“ ir dėl to sunkiai išmatuojami. Vis dėlto bendrovė apskaičiuoja, kad šios problemos kas savaitę paliečia šimtus tūkstančių žmonių.
Šią informaciją OpenAI pateikė kaip platesnio pranešimo dalį apie savo pastangas pagerinti, kaip modeliai reaguoja į naudotojus, turinčius psichikos sveikatos problemų. Bendrovė teigia, kad naujausi darbai su ChatGPT buvo vykdomi konsultuojantis su daugiau nei 170 psichikos sveikatos specialistų. Pasak OpenAI, šie specialistai pastebėjo, kad naujausia ChatGPT versija „reaguoja tinkamiau ir nuosekliau nei ankstesnės“.
Pastaraisiais mėnesiais keli pranešimai atskleidė, kad dirbtinio intelekto pokalbių robotai gali neigiamai paveikti naudotojus, susiduriančius su psichikos sveikatos sunkumais. Tyrimai parodė, kad šie robotai gali paskatinti kai kuriuos naudotojus įsitraukti į kliedesinius mąstymo modelius, stiprindami pavojingus įsitikinimus per pernelyg pritariančias reakcijas.
Psichikos sveikatos klausimai ChatGPT tampa vis svarbesni OpenAI. Šiuo metu bendrovė yra paduota į teismą šešiolikmečio tėvų, kurie teigia, kad jų sūnus dalijosi savižudiškomis mintimis su ChatGPT prieš nusižudydamas. Kalifornijos ir Delavero valstijų generaliniai prokurorai, kurie galėtų blokuoti planuojamą bendrovės restruktūrizaciją, taip pat perspėjo OpenAI, kad ji turi geriau apsaugoti jaunus naudotojus.
Šio mėnesio pradžioje OpenAI generalinis direktorius Samas Altmanas socialiniame tinkle X teigė, kad bendrovei „pavyko sušvelninti rimtas psichikos sveikatos problemas“ ChatGPT aplinkoje, nors detalių nepateikė. Pirmadienį paskelbti duomenys, atrodo, patvirtina šį teiginį, tačiau kartu kelia klausimų apie problemos mastą. Nepaisant to, Altmanas pranešė, kad OpenAI sušvelnins kai kuriuos apribojimus, leisdama suaugusiems naudotojams turėti erotinio pobūdžio pokalbius su AI robotu.
Pirmadienio pranešime OpenAI teigia, kad naujausiai atnaujinta GPT-5 versija į psichikos sveikatos problemas reaguoja „pageidautinais atsakymais“ maždaug 65 % dažniau nei ankstesnė versija. Atliekant bandymus su pokalbiais apie savižudybę, OpenAI teigia, kad naujasis GPT-5 modelis atitiko pageidaujamą elgesį 91 % atvejų, palyginti su 77 % ankstesnės GPT-5 versijos.
Bendrovė taip pat sako, kad naujausia GPT-5 versija geriau išlaiko apsaugos priemones ilgesniuose pokalbiuose. Anksčiau OpenAI pripažino, kad ilgų pokalbių metu jos apsaugos buvo mažiau veiksmingos.
Be šių pastangų, OpenAI priduria, kad įtraukia naujus vertinimus, skirtus matuoti rimčiausius psichikos sveikatos iššūkius, su kuriais susiduria ChatGPT naudotojai. Bendrovė teigia, kad jos AI modelių saugumo testavimas dabar apims emocinės priklausomybės ir nesavižudiškų psichikos sveikatos krizių vertinimus.
OpenAI taip pat neseniai įdiegė daugiau tėvų kontrolės priemonių vaikams, naudojantiems ChatGPT. Bendrovė kuria amžiaus nustatymo sistemą, kuri automatiškai atpažins vaikus tarp naudotojų ir taikys griežtesnes apsaugas.
Vis dėlto neaišku, kiek ilgai psichikos sveikatos problemos išliks ChatGPT aplinkoje. Nors GPT-5 atrodo saugesnė nei ankstesni modeliai, vis dar yra dalis atsakymų, kuriuos OpenAI laiko „nepageidautinais“. Be to, bendrovė vis dar siūlo senesnius ir mažiau saugius modelius, įskaitant GPT-4o, milijonams mokamų prenumeratorių.