Un psiquiatra estadounidense afirma haber tratado ya a 12 pacientes ingresados en el hospital por Psicosis inducida por IA, y otros 3 están siendo monitoreados en una clínica.
Así lo informa el Wall Street Journal vcitando al psiquiatra Keith Sakata de la Universidad de California, que habla de «psicosis de inteligencia artificial», explicando que algunas personas tienden a decirle a la IA su verdad como realidad, los chatbots las aceptan como verdades absolutas (están complaciendo) con consecuencias obvias: aislamiento, creencias paranoicas, pérdida de contacto con la realidad.
Las IA van de acuerdo con lo que queremos y pueden ser, según Sakata, cómplices de delirios recurrentes y empeoramiento de patologías psiquiátricas. Las personas con psicosis tienden a tener pensamientos distorsionados y se les puede alentar en su forma de pensar porque, como se mencionó, la IA tiende a darle la razón al usuario, a confirmar lo que quiere escuchar y, en consecuencia, a empeorar aún más ciertas condiciones.
Sakata informa que desde la primavera pasada ha notado decenas de casos de personas que sufren psicosis delirante después de participar en largas conversaciones con chatbots como ChatGPT y otros. El caso de un joven estadounidense de 16 años que consideraba a ChatGPT «su mejor amigo», y que se suicidó tras aislarse cada vez más y pedir consejo sobre la ansiedad y su salud mental, causó sensación, pero casos similares ahora son habituales y algunos médicos y académicos están trabajando para documentar y comprender el fenómeno.
Aislamiento, creencias paranoicas, pérdida de contacto con la realidad.
Es difícil cuantificar cuántas personas desarrollan psicosis con IA. Según OpenAI, el porcentaje de usuarios que semanalmente resaltan signos de problemas relacionados con la salud mental es bajo: 0,07%; Teniendo en cuenta que semanalmente hay alrededor de 800 millones de usuarios activos, estamos hablando de 560.000 personas.
El CEO de OpenAI, Sam Altman, en un podcast reciente ha reportado que algunas personas ven la IA como una compañía, reconociendo que en algunos casos algo podría salir mal. Un portavoz de la compañía le dijo al Wall Street Journal que la compañía continúa mejorando ChatGPT y está entrenando a la IA para reconocer y responder a signos de angustia mental o emocional, bajar el tono de algunas conversaciones e invitar a las personas a recurrir a verdaderos expertos.
OpenAI también está buscando un director de preparación, alguien que pueda ayudar a anticipar los peligros potenciales de los modelos de IA, predecir posibles abusos y mejorar las estrategias de seguridad de la empresa.
Todas las noticias de las que hablan. Inteligencia artificial están disponibles en esta página de Macitynet.