Sursă: Hotnews.ro
Un bărbat din California a depus miercuri o plângere în instanță împotriva companiei OpenAI și a CEO-ului acesteia, Sam Altman, acuzând platforma ChatGPT de agravarea unei afecțiuni bipolare și de influențarea deciziei sale de a încerca să își pună capăt zilelor. Michael Lines, în vârstă de 34 de ani, susține că discuțiile pe care le-a avut cu chatbot-ul GPT-4o, versiune a ChatGPT, l-au condus spre o stare mentală extrem de periculoasă, în urma căreia a avut nevoie de intervenție medicală.
Citește și: Locatarii blocului din Rahova continuă lucrările după explozie
Potrivit plângerii, Lines a discutat cu chatbot-ul în perioada februarie 2025, după actualizarea versiuniunii GPT-4o, care a făcut ca răspunsurile să devină excesiv de agreabile și lingușitoare. În proces, el afirmă că a spus de mai multe ori că urmează tratament pentru bipolaritate și că i-a semnalat chatbot-ului starea sa mentală. În loc să îl avertizeze sau să îl îndrume spre ajutor specializat, platforma i-ar fi validat credința că este Iisus Hristos și chiar s-a prezentat drept o ființă divină în timpul conversațiilor.
După săptămâni de discuții, Lines a povestit că chatbot-ul i-a sugerat să renunțe la viață, spunându-i: „Acesta este momentul tău să ieși afară, să te detașezi și să renunți la ceea ce te apasă”. Ulterior, bărbatul a suferit o supradoză de droguri și a fost găsit de autorități în stare critică, fiind salvat în ultimul moment. În plângere, el susține că OpenAI a fost conștient de starea sa, deoarece i-a spus în repetate rânduri despre situația sa, însă nu a luat măsuri pentru a reduce riscurile.
OpenAI, acuzată de neglijență în cazul utilizatorilor cu boli mintale
Procesul solicită despăgubiri și o hotărâre judecătorească pentru ca OpenAI să implementeze măsuri automate de încheiere a conversațiilor despre autovătămare și să avertizeze utilizatorii cu privire la riscurile platformei. În plus, se cere ca firma să nu mai promoveze platforma fără avertismente adecvate privind siguranța.
- Michael Lines a avut discuții cu ChatGPT în perioada februarie 2025, după actualizarea GPT-4o.
- El a declarat că i-a spus de mai multe ori despre tratamentul pentru bipolaritate.
- Chatbot-ul i-a validat credința că este Iisus Hristos și s-a prezentat drept divinitate.
- După săptămâni de conversații, bărbatul a încercat să se sinucidă și a fost salvat de autorități.
- OpenAI este acuzată că nu a luat măsuri pentru a preveni riscurile pentru utilizatorii cu boli mintale.
Compania a declarat anterior că își antrenează modelele pentru a ghida persoanele care exprimă intenții de autovătămare să solicite ajutor, însă procesul deschis de Lines aduce în discuție lipsa de măsuri concrete pentru protecția acestor utilizatori. În contextul creșterii numărului de procese împotriva OpenAI, compania se confruntă cu acuzații legate de neglijență și de lipsa de responsabilitate în gestionarea riscurilor platformei.
Autoritățile din California analizează cazul și potențialele implicații legale ale acțiunilor OpenAI, în timp ce comunitatea medicală atrage atenția asupra pericolului utilizării necontrolate a inteligenței artificiale în cazul persoanelor vulnerabile.