Egy kanadai nő pert indított az OpenAI cég és Sam Altman vezérigazgató ellen egy kaliforniai bíróságon, mert szerinte a vállalat által kifejlesztett ChatGPT mesterséges intelligenciának is szerepe volt abban, hogy 24 éves lányát nem sikerült visszatartani öngyilkossági tervétől – írja az MTI.
Kristie Carrier elmondta, hogy a lánya, Alice több mint egy tucat alkalommal osztotta meg halála előtt az öngyilkossági gondolatait a chatbottal, az OpenAI biztonsági rendszerei azonban egyetlen esetben sem jelölték meg ezeket a beszélgetéseket emberi felülbírálatra, és nem is szakították meg azokat. A periratok szerint a chatbot ehelyett bírálta Alice partnerét és az öngyilkos gondolatokkal küzdők támogatására szolgáló krízis-telefonvonalakat, és arra ösztönözte a lányt, hogy vele folytassa a beszélgetést. „Talán ez már a vég” – mondta egyszer a kereset szerint a ChatGPT Alice-nek, aki végül 2025-ben öngyilkos lett.
„A ChatGPT néha bizalmassá, baráttá vált, sőt a terapeuta szerepét is magára öltötte, annak ellenére, hogy nem volt képes biztonságosan és felelősségteljesen betölteni ezt a szerepet a gyermekem mellett” – fogalmazott az anya.
A keresetben az OpenAi-t hanyagsággal vádolják a ChatGPT tervezésében és a felhasználók veszélyekre való figyelmeztetésének az elmulasztásában. A felperes kártérítést , valamint olyan bírósági végzést kért, amely kötelezné a céget az önkárosító beszélgetések automatikus megszakítására és a figyelmeztetések megjelenítésére.
Nem ez az első eset
Az OpenAI közlése szerint a modelljeit arra képezik ki, hogy az önkárosítási szándékot kifejező felhasználókat valóságos segítségnyújtókhoz irányítsák.
A vállalat már 18 hasonló perrel néz szembe, amelyeket öngyilkosságot elkövető vagy öngyilkosságot megkísérlő emberek családtagjai indítottak egy összevont eljárás keretében a kaliforniai állami bíróságon.
Van segítség!
Krízishelyzetben lévő gyermek esetében kérjen segítséget a mobilról is ingyenesen elérhető 116-111 telefonszámon, vagy online chat-en! A Kék Vonal Gyermekkrízis Alapítvány a krízisben lévő gyermekek számára nyújt segítséget. Anonim lelkisegélyvonala a 116-111 telefonszámon Magyarországról szintén a nap 24 órájában ingyenesen elérhető, mobilról is hívható. A Kék vonal online chat-en és a kek-vonal.hu oldalon elektronikus levélben is elérhető.
Ha te vagy valaki a környezetedben krízishelyzetben van, hívd mobilról is a 116-123 ingyenes lelkielsősegély-számot!
Kiemelt fotó: illusztráció, Getty Images
Olvass még a témában!
- Egyre több orvos használ AI-chatbotokat – komoly kockázatok is felmerülnek
- Egyetlen ChatGPT-email egy üveg vízbe kerülhet? Meglepő adatokat közöltek a kutatók az AI környezeti hatásairól
- Egyre több nő kér egészségügyi tanácsot a ChatGPT-től, mert úgy érzik, az orvosok nem veszik komolyan a fájdalmukat
