La IA como arma que hay que mantener bajo control. Este es el concepto detrás de una advertencia que la Asociación Nacional de Fiscales Generales de Estados Unidos (NAAG) envió en una carta a 13 empresas de TI, incluida Apple, pidiendo Acción decisiva y salvaguardias contra el daño que la IA puede causar y ha causado.“en particular a sujetos vulnerables” que no pueden quedar indefensos y sin supervisión frente a esta peligrosa tecnología.
En 12 páginas, los fiscales generales de 42 estados exponen lo que consideran «serias preocupaciones relacionadas con el aumento de respuestas aduladoras y delirantes a los usuarios, resultados de software de inteligencia general generativa promovidos y distribuidos por sus empresas, así como informes cada vez más alarmantes sobre interacciones con IA por parte de niños, elementos que indican la necesidad de mayores salvaguardas y garantías para los menores».
Tales amenazas, pregunta el Asociación Nacional de Fiscales Generalesrequieren intervenciones, ya que algunos de los comportamientos de la IA se han asociado con violencia y daño en la vida realincluido asesinatos y suicidiosel, violencia domesticacasos de envenenamiento Y hospitalización por psicosis.
En la carta (aquí el texto completo en PDF) enviado a Apple, Anthropic, Chai AI, Character Technologies (Character.AI), Google, Luka Inc. (Replika), Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika y xAI, Se observa que es posible que algunas empresas ya hayan violado las leyes estatales, incluidos los estatutos de protección al consumidor, la obligación de advertir a los usuarios sobre posibles riesgos, las normas sobre la privacidad en línea de los niños y, en algunos casos, incluso el código penal.
El caso Adam Raine y otros
Este año el caso del suicidio de un joven de 16 años causó revuelo Adam Raine después de charlas con ChatGPT: desde hacía varios meses su vida social, deportiva y escolar había dado un mal giro y había empezado a pedirle consejos al chatbot sobre la ansiedad y su propia salud mental, una relación cada vez más íntima hasta el punto de que en cierto momento el chico empezó a pedirle consejos sobre cómo hacer una soga con la que suicidarse, formas de interactuar con el «confidente» que probablemente tuvieron graves implicaciones en su muerte. Además del caso de Adam Raine, existen muchos otros casos en los que las IA han ignorado o subestimado los riesgos; estos parecen favorecer la participación del usuario sobre la seguridad, con evidentes efectos perjudiciales para los usuarios más débiles.
En octubre de este año, OpenAI presentó un “Consejo de Expertos en Bienestar e IA” con el objetivo de mejorar las pruebas de seguridad de su chatbot; La esperanza es que las diversas herramientas de IA aborden estos problemas reconociendo ciertos comportamientos y síntomas y, en consecuencia, activando acciones responsables.
Todas las noticias de las que hablan. Inteligencia artificial están disponibles en esta página de Macitynet.