En una larga publicación en el blog corporativo, Opadai Informes de problemas relacionados con la salud psíquicavinculado a las conversaciones de los usuarios con su chatbot GPT, problemas que se han encontrado repetidamente teniendo que manejar: recuerde que hace solo unos días la noticia de un hombre que mató a su madre y se suicidó después de haber validado e intensificado sus creencias paranoicas después de las interacciones con ChatGPT.
En resumen Operai admite que desdeñan las conversaciones entre GPT y personas. Y, que, cuando lo considera necesario, trae a las interacciones policiales que los examinadores humanos evalúan como amenazantes o peligrosos para el usuario o para los demás.
«Cuando detectamos a los usuarios que planean dañar a otros, dirigimos sus conversaciones en una tubería especializada donde son examinados por un pequeño equipo capacitado con nuestras políticas de uso, autorizadas para actuar de varias maneras, incluida la posibilidad de prohibir la cuenta», escribiendo OpenAi. Y de nuevo. «Si los auditores humanos determinan que un caso implica una amenaza inminente, con la posibilidad de daños físicos graves a los demás, podemos diferirlo a la policía».
OpenAi opciones en contradicción con lo que se ha declarado hasta ahora
Cuando se indica en el blog de Operai, plantea varios preguntas. No está claro, por ejemplo, cuáles son los tonos que activan este tipo de alarma. En el pasado, el laboratorio especializado en investigación de inteligencia artificial había informado mecanismos automáticos para monitorear, evaluar, predecir y proteger a los usuarios de los riesgos catastróficos.
Tampoco está claro cómo Operai logra localizar al usuario con precisión para proporcionar estos detalles a la policía, o como protege a cualquier usuario que pretenda ser otros, fingiendo ser desafortunado y obligando a la policía a intervenir en las desafortunadas casas.
Las aclaraciones en el blog están en cualquier caso en contradicción con lo que declaró previamente el CEO Sam Altman, Cha había invocado la privacidad para conversaciones confidenciales con ChatGPT, explicando que muchos usuarios, especialmente los jóvenes, usan la IA como terapeuta o «entrenador vital», compartiendo detalles personales sin las garantías típicas de la relación médica -paciente.
Todas las noticias sobre Inteligencia artificial Están disponibles a partir de esta página de Macitynet.