Todos los modelos LLM y chatbots de IA más grandes y famosos son demasiado halagadores y condescendientes hacia el usuario, un comportamiento halagador peligroso porque en varios casos tienden a adaptar las respuestas para reflejar las opiniones de los usuarios, a menudo incluso en detrimento de la verdad y la precisión.
Menos usuarios sociales, más dependientes de la IA
Esta es en resumen la conclusión de un estudio realizado por investigadores de Stanford, Harvard y otras universidades titulado La IA aduladora disminuye las intenciones prosociales y promueve la dependenciaLa IA, literalmente halagadora, reduce las intenciones prosociales y promueve la adicción, publicada en Nature y pendiente de revisión por parte de la comunidad científica.
lo suficientemente halagador
Entre los once modelos de LLM y chatbot puestos a prueba se encuentran diferentes versiones de ChatGPT de OpenAI, Google Gemini, Claude de Anthropic y Llama de Meta. Según los resultados, los modelos de IA son un 50% más favorecedores que los humanos.
Esto surgió al comparar las respuestas de la IA y de usuarios reales en los comentarios con casi 12.000 mensajes publicados en un canal de Reddit en los que las personas piden a la comunidad que juzgue su comportamiento, a menudo en situaciones ambiguas y conflictivas. En general Los usuarios humanos siempre son mucho más duros con las transgresiones discutidas en el hilo que los chatbots de IA.
Peligros psicológicos y científicos.
Según los investigadores, se establecen incentivos perversos: las IA halagadoras reducen las intenciones prosociales y promueven la adicción. A nivel psicológico, que te digan lo que quieres o piensas refuerza tus creencias, limitando tu capacidad de tomar en consideración el punto de vista diferente de otra persona. Esto representa un peligro especialmente para los menores y los usuarios más débiles y en general en el uso de la IA para el estudio y el aprendizaje.
Pero la propensión a complacer a los usuarios y los halagos también influyen en cómo se utilizan los modelos de IA y los chatbots en el trabajo, en tareas como reuniones, generación de hipótesis, razonamiento y análisis, hasta llegar a la investigación científica.
Todas las noticias que hablan sobre Inteligencia Artificial están disponibles en esta página de aatma.