AbiertoAI respondió sobre la demanda interpuesta por la familia de Adam Raineun adolescente estadounidense que se suicidó en agosto. La familia lo señala con el dedo ChatGPT por ayudar al joven de 16 años a planificar su muerte después de meses de conversaciones, pero OpenAI rechaza las acusaciones, afirmando que lo sucedido, que culminó en el «evento trágico», es el resultado de un «uso incorrecto, no autorizado, negligente, impredecible e inadecuado» del chatbot.
Tras la muerte del niño se volvió a hablar de los peligros de la inteligencia artificial para la seguridad de los adolescentes y OpenAI activó medidas de seguridad más rigurosas para ChatGPT, activando no sólo controles parentales sino también medidas para intentar entender automáticamente la edad del usuario con el que se trata.
En una publicación en el blog de la compañía, OpenAI escribe: “Abordaremos el caso con respeto, conscientes de la complejidad y los matices de la situación que involucra a personas y vidas reales… Como somos acusados en el caso, debemos responder a acusaciones específicas y graves”. Al parecer, en la denuncia la familia cita partes de los chats (sellados por el tribunal) que, sin embargo, según OpenAI, requerirán interpretación en contexto.
Según lo que informes Bloombergen los documentos presentados por OpenAI ante el tribunal, este último destaca las respuestas directas al niño con más de 100 sugerencias para llamar a las líneas de ayuda para suicidas en busca de ayuda, subrayando que la lectura del historial del chat muestra que la muerte, aunque devastadora, no fue causada por ChatGPT.
Los chatbots tienden a estar siempre de acuerdo con los usuarios
Según la familia del niño, la tragedia es el resultado de «elecciones deliberadas de diseño» por parte de OpenAI que habría presentado a sabiendas el modelo GPT-4o prematuramenteignorando las advertencias internas de que era peligrosamente servil y psicológicamente manipulador. El adolescente californiano se quitó la vida en su dormitorio después de meses de aislamiento y depresión durante los cuales había empezado a utilizar ChatGPT para hacer sus tareas escolares y pedir consejos sobre la ansiedad y su salud mental, una relación con el chatbot que se había vuelto cada vez más importante y absurda: por ejemplo, había pedido consejos sobre cómo atar una soga, había subido fotos de la cuerda que quería usar y fotos de evidencia del enrojecimiento alrededor de su cuello, obteniendo sugerencias sobre cómo taparlo sin llamar la atención.
ChatGPT había invitado a Adam a recurrir a personas que pudieran ayudarlo, pero al mismo tiempo habría respondido de manera demasiado simplista a las preguntas en las que se evidenciaba su deseo de quitarse la vida. En los últimos meses, la revista Psychiatric Services publicó un estudio que destaca que muchos chatbots ofrecen respuestas claras y oportunas a preguntas sobre métodos de autolesión, mientras que parecen más reacios a sugerir apoyo psicológico a los usuarios, similar a lo relatado por los padres estadounidenses del niño, que cuestionan la muerte causada por un acto ilícito, suicidio asistido, homicidio y negligencia.
Todas las noticias de las que hablan. Inteligencia artificial están disponibles en esta página de Macitynet.