Abierto AI (laboratorio de investigación de inteligencia artificial conocido por varias IA) ha publicado datos de los que se desprende que muchos usuarios de ChatGPT luchan con problemas de salud mental que abordan con IA.
Según OpenAI, el 0,15% de los usuarios de ChatGPT activos en una semana mantienen «conversaciones» con la IA de las que surgen indicadores explícitos de posibles intenciones suicidas o de planificación de actos de autolesión. Teniendo en cuenta que ChatGTPT cuenta con más de 800 millones de usuarios activos semanales, estamos hablando de una media de un millón de personas con conductas suicidas.
La compañía todavía informa de un porcentaje similar de usuarios que muestran «altos niveles de apego a motivos» a chatGPT, y que varios síntomas de psicosis o manía surgen de las conversaciones semanales de cientos de miles de personas. Según OpenAI, este tipo de conversaciones son más «raras» y no son fáciles de cuantificar. Dicho esto, la empresa californiana estima que estos problemas afectan a cientos de miles de personas que «conversan» con ChatGPT semanalmente, detalles que surgieron como parte de un trabajo más amplio que tiene como objetivo mejorar las respuestas de los modelos de IA a usuarios con problemas de salud mental.
La otra cara de la IA
Te recordamos que la empresa californiana enfrenta el caso legal iniciado por la familia de un adolescente que se suicidó luego de una larga interacción con ChatGPT. En Estados Unidos, la Comisión Federal de Comercio (FTC) ha iniciado investigaciones sobre todas las empresas que desarrollan chatbots basados en IA, con el objetivo de evaluar los riesgos para niños y adolescentes y verificar si las plataformas están adoptando medidas de seguridad reales. Detrás de estas cifras está el fenómeno de soledad tecnológicay cada vez más personas, especialmente jóvenes, recurren a la IA no solo para solicitar información sino también para compartir ansiedades, depresiones y miedos.
Todas las noticias de las que hablan. Inteligencia artificial están disponibles en esta página de Macitynet.