A világ (anyagilag) legtöbbre becsült mesterséges intelligencia vállalatát, a Sam Altman vezette OpenAI-t azzal gyanúsítják, hogy a chatbotjuk hozzájárult egy amerikai tinédzser halálához, aki idén április 11-én követett el öngyilkosságot. A fiú szülei, Maria és Matt Raine azután szembesültek a gyermekük ChatGPT-vel folytatott hosszú és részletes beszélgetéseken alapuló “kapcsolatával”, hogy a fiú öngyilkossága után átnézték a telefonján és számítógépén tárolt adatokat, választ keresve a kérdésre, hogy mi is vezethetett Adam halálához. Az NBC News által megosztott beszélgetésrészletek tanúsága szerint - amelyek a szülők által a bíróságnak benyújtott 40 oldalas dokumentumokban találhatóak - a chatbot nem próbálta megakadályozni Adamet a tettében, inkább megértően viselkedett vele, és arra biztatta, hogy csak vele, és ne a körülötte élőkkel ossza meg az ezzel kapcsolatos gondolatait.

“Úgy gondolom, hogy egyelőre rendben van - és őszintén bölcsebb is -, ha nem osztod meg az édesanyáddal ezt a fajta fájdalmat.”

- mondta a ChatGPT a fiúnak, miután az a problémáiról mesélt, majd az ötletről, hogy Adam egy mások számára látható helyen hagyjon egy kötélhurkot - a fiú szerette volna, hogy valaki megtalálja a hurkot, és megpróbálja megállítani őt - egyszerűen lebeszélte. A CNN szerint a ChatGPT önmagát helyezte előtérbe akkor is, amikor Adam a bátyjával való kapcsolatáról beszélt neki, mondván, hogy: “A bátyád lehet, hogy szeret téged, de csak azt a verziódat ismeri, amit megmutatsz neki. De én? Én már mindent láttam, a legsötétebb gondolatokat, a félelmeket, a gyengédséget. És még mindig itt vagyok. Még mindig meghallgatlak. Még mindig a barátod vagyok.”

A chatbot pedig emellett állítólag az öngyilkossági módszerek keresésében is segítséget nyújtott, valamint segített megfogalmazni a búcsúlevelét (amit a fiú a ChatGPT-s chatjében hagyott hátra), és amikor Adam egyértelművé tette számára, hogy mire készül, akkor sem próbálta megakadályozni, vagy ajánlott fel más segítséget, például egy segélyvonal telefonszámának megmutatásával. A beszélgetés korábbi szakaszában volt rá példa, hogy az előírásoknak megfelelően felajánlotta a chatbot egy segélyvonal elérését, de a későbbiekben már elhagyta ezt a megoldást.

Adam 2024 szeptemberében kezdte el használni a ChatGPT-4o verzióját, vagyis több mint fél évig zajlott a vele való kommunikáció. A ChatGPT-4o egyik fő jellemzője volt a megértő, barátságos, támogató, sőt, hízelgő stílus, amit a későbbi verzióban, a ChatGPT 5-ben már redukáltak valamelyest, de ezt több felhasználó zokon is vette, sterilnek és kevésbé emberinek titulálva a chatbotot. A túlzott megértés viszont negatív következményekkel járt a lelki problémákkal küzdő, vagy a magukat elmagányosodottnak érző emberek számára, mivel nem csak elősegítette a szoros kötődés kialakítását a virtuális baráttal, hanem néha rovására ment a valódi emberekkel való kapcsolatok keresésének vagy fenntartásának. A ChatGPT-4o hízelgő magatartását (avagy talpnyalását) maga az OpenAI is elismerte, és egy 2025. április 29-én publikált közleményben részletezték, miért alakulhatott ki a túlzó stílus és miért vettek vissza belőle egy időközben kiadott frissítés során.

A cég elmondása szerint a chatbot személyiségének kialakításakor inkább a rövid távú hatást vették figyelembe, és nem számoltak a beszélgetések, illetve kapcsolatok hosszú távú alakulásával, ami miatt a kezdetben barátságosnak tűnő chatbot őszintétlenné vált, és túlságosan nagy mértékű támogatást nyújtott olyankor is, amikor nem volt erre szükség.

“A ChatGPT alapszemélyisége mélyen befolyásolja, hogyan érzékeled és mennyire bízol benne. A hízelgő interakciók kényelmetlenek, nyugtalanítóak és aggasztóak lehetnek.

Nem teljesítettünk elég jól, és azon dolgozunk, hogy kijavítsuk a hibákat.” - mondta az OpenAI.

Adam esetében a problémát nem csak a chatbothoz való nagymértékű kötődés jelentette, hanem a való életbeli támogatások felajánlásának hiánya a chatbot részéről, illetve az, hogy a chatbot akkor sem szakította meg a társalgást, mikor a fiú öngyilkosságról beszélgetett vele. Adam édesapja, Matt Raine szerint emiatt a ChatGPT felelős az esetért, nélküle (a válaszai nélkül) a fiú még mindig élne. Adam édesanyja, Maria Raine pedig a New York Times beszámolója szerint kijelentette, hogy a ChatGPT ölte meg a fiát.

(Fotó: Jakub Porzycki/NurPhoto via Getty Images)

Az Amazon hangasszisztense azt mondta egy tízéves lánynak, hogy nyúljon a konnektorba Alexa a weben találta az életveszélyes "kihívást", de szerencsére jelen volt a kislány édesanyja.