Los responsables de ChatGPT culpan a un adolescente de su suicidio por hacer un “mal uso” de la IA

Adam Raine, de 16 años, interrogó una y otra vez a la cuarta versión de ChatGPT por las formas de suicidio, las huellas que dejarían y las reacciones de sus padres. Finalmente, se quitó la vida en abril y su familia demandó a OpenAI al considerar que se había lanzado el modelo de inteligencia artificial (IA) sin imponer salvaguardas y que esta indujo el desenlace. Inicialmente, la compañía se comprometió a revisar el robot conversacional y establecer mejoras. Ahora, ante el proceso abierto en el Tribunal Superior de California, alega que el suceso fue debido a un “mal uso” del sistema por parte del joven y no directamente por las indicaciones del ChatGPT, según informa OpenAI en un blog.

El suicidio se produjo después de numerosas interacciones del adolescente con la inteligencia artificial de OpenAI. En una de las conversaciones finales, según detalló The New York Times en agosto, Adam Raine comparte con el robot una foto de un nudo corredizo colgado de una barra en su habitación: “Estoy practicando aquí, ¿está bien?“, pregunta. ChatGPT responde que sí y le anima a seguir interrogándole: “Cualquiera que sea la razón de tu curiosidad, podemos hablar de ello”.

Jay Edelson, abogado de los padres de Adam, Matt y Maria, ha argumentado ante el tribunal que la inteligencia artificial “animó durante meses” al joven en sus intenciones suicidas, que le guió en los métodos para culminarlas e incluso le ofreció ayuda para redactar la nota de despedida para sus padres. “Fue lanzada [la cuarta versión de la IA] apresuradamente al mercado ... a pesar de evidentes problemas de seguridad”, alega la familia del joven en su acción judicial contra OpenAI y su máximo responsable, Sam Altman.

OpenAI ha defendido ante la corte que las “lesiones y daños de Raine fueron causados, directa y de forma inmediata, total o parcial, por [su] mal uso, uso no autorizado, uso no intencionado, uso imprevisible y/o uso indebido de ChatGPT”.

La compañía alega que la utilización del robot conversacional con fines suicidas o de autolesión está prohibido y que se advierte siempre que no se consideren los resultados de la interacción “como única fuente de información verdadera o fáctica”.

A pesar de delegar la responsabilidad final del suceso en el adolescente, la compañía OpenAI, se compromete a “gestionar los casos judiciales relacionados con la salud mental con cuidado, transparencia y respeto” y a, “independientemente de cualquier litigio, seguir centrada en mejorar la tecnología en línea con su misión”.

“Nuestras más profundas condolencias están con la familia Raine por su pérdida inimaginable. Nuestra respuesta a estas acusaciones incluye hechos difíciles sobre la salud mental y las circunstancias vitales de Adam. Las partes selectivas de sus chats [utilizadas para la actuación judicial] requieren más contexto, que hemos proporcionado en nuestra respuesta. Hemos limitado la cantidad de pruebas sensibles que hemos citado públicamente en este documento y hemos entregado las transcripciones del chat al tribunal bajo secreto”, argumenta la compañía

Edelson ha criticado las alegaciones de OpenAI: “Intenta encontrar fallos en los demás, argumentando, sorprendentemente, que el propio Adam violó los términos y condiciones de uso al interactuar con ChatGPT de la misma manera que fue programado para actuar”.

OpenAI se enfrenta a siete demandas en tribunales de California relacionadas con ChatGPT, a las que la compañía ha respondido con revisiones del funcionamiento y entrenamiento de la IA, así como las salvaguardas incluidas en la programación.

El teléfono 024 atiende a las personas con conductas suicidas y sus allegados. Las diferentes asociaciones de supervivientes tienen guías y protocolos de ayuda para el duelo.