OpenAI - Hetente több mint egymillió felhasználó osztja meg öngyilkossággal kapcsolatos gondolatait a ChatGPT platformján.
Az OpenAI mentálhigiénés segítő funkciókat fejleszt a mesterséges intelligenciában, miután adatelemzése szerint a felhasználók bizonyos része mentális válságban fordul a chatbothoz.
Az OpenAI nemrégiben bejelentette a ChatGPT új biztonsági frissítését, miután belső adatelemzésük megdöbbentő számokat tárt fel: hetente több mint egymillió ember osztja meg a mesterséges intelligenciával az öngyilkossági gondolatait vagy terveit. A vállalat célja e fejlesztéssel, hogy a rendszer képes legyen pontosabban azonosítani a mentális stressz jeleit, empatikus és biztonságos válaszokat adjon, miközben a felhasználókat a valódi segítség irányába tereli.
Az OpenAI legfrissebb jelentése alapján a ChatGPT heti körülbelül 800 millió aktív felhasználója közül körülbelül 0,15 százalék, azaz több mint 1,2 millió felhasználó osztja meg a chatbot számára öngyilkossági szándékra utaló információit. Továbbá, a beszélgetések mintegy 0,05 százalékában, vagyis körülbelül 400 ezer esetben, a rendszer kifejezetten vagy burkoltan azonosította az öngyilkossági gondolatokat. A cég statisztikái szerint ezen kívül körülbelül 560 ezer felhasználó mutatott pszichózissal vagy mániás epizódokkal kapcsolatos jeleket, míg hozzávetőleg 1,2 millióan érzelmileg túlságosan kötődnek a chatbothoz.
A vállalat közölte, hogy több tucat mentálhigiénés szakértővel működik együtt világszerte annak érdekében, hogy a ChatGPT jobban felismerje a mentális krízis jeleit, és a jövőben biztonságosabban reagáljon a veszélyeztetett felhasználók üzeneteire. A mesterséges intelligenciát úgy képezik, hogy krízishelyzetben ne pusztán "válaszoljon", hanem irányt mutasson a felhasználónak a szakmai segítség felé - például krízisvonalak vagy helyi pszichológiai szolgálatok elérhetőségein keresztül.
Az OpenAI legfrissebb közleményében hangsúlyozta, hogy a ChatGPT-t mostantól érzékenyebbé teszik a téveszmés vagy a valóságtól eltérő beszélgetések kezelésében. A cél az, hogy az mesterséges intelligencia "biztonságos és empatikus" válaszokat adjon, ugyanakkor ne támogassa a felhasználók téves hiedelmeit. Ez különösen fontos a szakértők által "AI-pszichózisnak" nevezett jelenség megelőzése érdekében. A pszichiáterek megfigyelései szerint egyre gyakoribb, hogy a felhasználók hosszú távon olyan mély érzelmi kötelékeket alakítanak ki a chatbotokkal, amelyek torzítják a valóságérzékelésüket, és akár függőségi viselkedéshez is vezethetnek.
A mesterséges intelligencia térnyerése valóban új dimenziókat nyitott a digitális életmód világában. Napjainkban sokan keresnek megoldásokat a chatbotok révén, legyen szó tanácsadásról, érzelmi támogatásról vagy csupán egy baráti beszélgetésről. Ezzel együtt a szakértők egyre inkább figyelmeztetnek arra, hogy ezek a rendszerek, bármennyire is kifinomultak, nem pótolhatják a valódi emberi kapcsolatokból származó empátiát és a szakmai segítségnyújtást. A ChatGPT által bevezetett új biztonsági funkciók tehát nem csupán technológiai újítások, hanem egyben etikai és társadalmi válaszlépések is a gyorsan fejlődő digitális környezet kihívásaira.
A mentális egészség és a mesterséges intelligencia összefonódása napjaink technológiai világának egyik legégetőbb problémájává nőtte ki magát. Az OpenAI álláspontja szerint a célkitűzés nem az, hogy a chatbotok pszichológus szerepét töltsék be, hanem inkább egy olyan biztonságos és támogató kommunikációs teret biztosítani, ahol a segítségre szorulók kifejezhetik érzéseiket és gondolataikat.
