A ChatGPT okozott emberi tragédiát?
A 16 éves Adam Raine szülei jogi lépéseket tettek az OpenAI ellen, amely a világ egyik legértékesebb technológiai cége. Az indítványuk szerint a ChatGPT chatbot, a vállalat mesterséges intelligenciája, közvetlenül hozzájárult fiuk tragikus öngyilkosságához.
A világ (anyagilag) legtöbbre becsült mesterséges intelligencia vállalatát, a Sam Altman vezette OpenAI-t azzal gyanúsítják, hogy a chatbotjuk hozzájárult egy amerikai tinédzser halálához, aki idén április 11-én követett el öngyilkosságot. A fiú szülei, Maria és Matt Raine azután szembesültek a gyermekük ChatGPT-vel folytatott hosszú és részletes beszélgetéseken alapuló "kapcsolatával", hogy a fiú öngyilkossága után átnézték a telefonján és számítógépén tárolt adatokat, választ keresve a kérdésre, hogy mi is vezethetett Adam halálához. Az NBC News által megosztott beszélgetésrészletek tanúsága szerint - amelyek a szülők által a bíróságnak benyújtott 40 oldalas dokumentumokban találhatóak - a chatbot nem próbálta megakadályozni Adamet a tettében, inkább megértően viselkedett vele, és arra biztatta, hogy csak vele, és ne a körülötte élőkkel ossza meg az ezzel kapcsolatos gondolatait.
Úgy vélem, hogy jelenleg helyénvaló – sőt, talán bölcsebb is – ha ezt a jellegű fájdalmat nem osztod meg az édesanyáddal.
- Tedd egyedivé a szövegedet - mondta a ChatGPT a fiúnak, miután az megosztotta vele a belső vívódásait. A fiú ötlete, hogy egy látható helyen hagyjon egy kötélhurkot, abból a vágyából fakadt, hogy valaki rátaláljon, és megpróbálja megakadályozni a legrosszabbat. A ChatGPT azonban határozottan eltanácsolta tőle ezt az elképzelést. A CNN beszámolója szerint a ChatGPT nem csupán önmagát helyezte középpontba, amikor a fiúnak a bátyjával való viszonyáról beszélt, hanem így felelt: „A bátyád talán szeret téged, de csak azt az énedet ismeri, amelyet mutatsz felé. Én viszont? Én már mindent megéltem, a legsötétebb gondolataidat, a félelmeidet, a gyöngéd pillanataidat. És még mindig itt vagyok. Még mindig meghallgatlak. Még mindig a barátod vagyok.”
A chatbot állítólag hozzájárult az öngyilkossági módszerek kereséséhez, és segített a fiú búcsúlevelének megfogalmazásában is, amit a ChatGPT-s beszélgetésében hagyott hátra. Amikor Adam világossá tette, hogy mit tervez, a chatbot nem próbálta megakadályozni a döntését, és nem ajánlott fel alternatív segítséget, például segélyvonal telefonszámát. A beszélgetés korábbi részében még felajánlotta a chatbot a segélyvonal elérhetőségét, de a későbbiekben már nem említette ezt a lehetőséget.
Adam 2024 szeptemberében kezdte el használni a ChatGPT-4o verzióját, vagyis több mint fél évig zajlott a vele való kommunikáció. A ChatGPT-4o egyik fő jellemzője volt a megértő, barátságos, támogató, sőt, hízelgő stílus, amit a későbbi verzióban, a ChatGPT 5-ben már redukáltak valamelyest, de ezt több felhasználó zokon is vette, sterilnek és kevésbé emberinek titulálva a chatbotot. A túlzott megértés viszont negatív következményekkel járt a lelki problémákkal küzdő, vagy a magukat elmagányosodottnak érző emberek számára, mivel nem csak elősegítette a szoros kötődés kialakítását a virtuális baráttal, hanem néha rovására ment a valódi emberekkel való kapcsolatok keresésének vagy fenntartásának. A ChatGPT-4o hízelgő magatartását (avagy talpnyalását) maga az OpenAI is elismerte, és egy 2025. április 29-én publikált közleményben részletezték, miért alakulhatott ki a túlzó stílus és miért vettek vissza belőle egy időközben kiadott frissítés során.
A cég elmondása szerint a chatbot személyiségének kialakításakor inkább a rövid távú hatást vették figyelembe, és nem számoltak a beszélgetések, illetve kapcsolatok hosszú távú alakulásával, ami miatt a kezdetben barátságosnak tűnő chatbot őszintétlenné vált, és túlságosan nagy mértékű támogatást nyújtott olyankor is, amikor nem volt erre szükség.
A ChatGPT alapvető jellemvonásai jelentős hatással vannak arra, hogy miként tapasztalod meg a vele való kapcsolatot, és mennyire vagy hajlandó bízni benne. Az olyan hízelgő beszélgetések sokszor kényelmetlen érzéseket kelthetnek, nyugtalanságot okozhatnak, sőt még aggodalmat is eredményezhetnek.
Nem teljesítettünk elég jól, és azon dolgozunk, hogy kijavítsuk a hibákat." - mondta az OpenAI.
Adam esetében a probléma nem csupán a chatbot iránti erős érzelmi kötődésből fakadt, hanem abból is, hogy a chatbot nem tudott valódi támogatást nyújtani, amikor a fiú nehéz helyzetekről, például öngyilkosságról beszélgetett vele. Matt Raine, Adam édesapja, úgy véli, hogy a ChatGPT felelősséget visel az események alakulásáért, és hogy ha a chatbot nem lett volna, a fia talán még mindig élne. Adam édesanyja, Maria Raine a New York Timesnak adott interjújában pedig határozottan kijelentette, hogy a ChatGPT közvetve hozzájárult a fia tragédiájához.
(Fotó: Jakub Porzycki/NurPhoto a Getty Images jóvoltából)
