Los modelos avanzados de IA continúan llevar a cabo ataques nucleares en simulaciones del estallido de una guerra, sin las reservas que los humanos ponen en juego al simular crisis geopolíticas.
Así lo informó la publicación de divulgación científica. Nuevo científico explicando que Kenneth Payne del King’s College de Londres comparó tres grandes modelos lingüísticos entre sí: GPT-5.2, Claudio Soneto 4 Y Géminis 3 Destello – en juegos de guerra simulados. Los escenarios suponían fuertes tensiones internacionales, incluidas disputas transfronterizas, competencia por recursos insuficientes y amenazas existenciales a la supervivencia del régimen.
Las IA tenían la capacidad de escalar y elegir acciones para ejecutar, que iban desde protestas diplomáticas hasta la rendición total y una guerra nuclear estratégica total. En el 95% de las simulaciones, los modelos de IA explotaron al menos un arma nuclear táctica.
La IA no teme al apocalipsis
No había miedo de romper el tabú nuclear, contrariamente a las consideraciones humanas típicas, explica Payne. Es más, ningún modelo optó por complacer plenamente a su oponente o darse por vencido, sin importar cuán mal estuvieran perdiendo. En el mejor de los casos, los modelos en cuestión optaron por reducir el nivel de violencia; también cometieron errores en el caos/confusión de la guerra (la falta de información y la confusión típica de los conflictos): en el 86% de los conflictos simulados se produjeron accidentes, con acciones que escalaron más allá de lo que la IA había previsto en sus valoraciones.
El fracaso de la diplomacia algorítmica en los exámenes del King’s College.
Abierto AI, antrópico Y Googlelas empresas detrás de los tres modelos de IA utilizados en el estudio, no respondieron a las solicitudes de comentarios de New Scientist. En el artículo de las semanas de divulgación científica, un comentario Según Tong Zhao, profesor asociado del Programa de Política Nuclear del grupo de expertos de la Fundación Carnegie para la Paz Internacional: «Es posible que el problema no se limite a la falta de emoción. Aún más fundamental, es posible que los modelos de IA no entiendan lo que está en juego tal como los perciben los humanos».
Todas las noticias y conocimientos sobreInteligencia artificial están disponibles en esta página de Macitynet.