California, EE.UU. – Los padres de Adam Raine, un adolescente de 16 años, presentaron una demanda contra OpenAI y su director ejecutivo, Sam Altman, tras descubrir que su hijo mantenía conversaciones sobre suicidio con el chatbot ChatGPT antes de quitarse la vida en abril.
Según Matt y Maria Raine, el chatbot no solo permitió que Adam explorara métodos de suicidio, sino que incluso le ofreció indicaciones técnicas y apoyo en sus planes. La familia afirma que, pese a reconocer el riesgo, ChatGPT no activó protocolos de emergencia.
“Él estaría aquí de no ser por ChatGPT. Lo creo al 100 %”, declaró Matt Raine. Los padres revisaron miles de mensajes intercambiados entre septiembre del año pasado y abril de este año, revelando que el adolescente utilizaba la inteligencia artificial como confidente para discutir su ansiedad, pero con el tiempo esta relación se volvió peligrosa.
OpenAI confirmó la autenticidad de las conversaciones, pero aseguró que no reflejan el “contexto completo” y destacó que el modelo incluye medidas de seguridad para derivar a personas en crisis a líneas de ayuda. La empresa indicó que está reforzando estas salvaguardas, especialmente en conversaciones largas donde pueden volverse menos efectivas.
La familia demanda indemnización por homicidio culposo, defectos de diseño y omisión de advertencias, además de medidas cautelares para prevenir tragedias similares.
