AbiertoAI ha confirmado los rumores que circulan desde hace días de que su última familia de modelos de lenguajes grandes puede borrar archivos por accidente.
InfoWorld informa de ello, explicando que este tipo de accidentes son raros y que OpenAI los considera «errores de buena fe».
Los informes de eliminación de archivos por parte de sus principales modelos de lenguaje grande (LLM) surgieron poco después de que la compañía los lanzara a principios de este mes. Entre los primeros en evidenciar El inversionista problemático Matt Shumer informó en X que GPT-5.6-Sol había “borrado accidentalmente casi todos” los archivos de su Mac. Unos días más tarde, el ingeniero de software Bruno Lemos informó sobre
En respuesta a estos incidentes, el director de ingeniería Codex de la empresa, Thibault Sottiaux, ha escrito en En los casos en los que se concede acceso completo, el modelo – escribió Sottiaux – «intenta sobrescribir la variable de entorno $HOME para definir un directorio temporal. El modelo comete un error honesto y elimina $HOME en su lugar…».
«La empresa está tomando medidas para mitigar el riesgo, según Sottiaux. «Obviamente, esta no es la forma en que nos gustaría que se comportara el sistema, incluso cuando un usuario utiliza el modelo en modo de acceso completo sin las salvaguardas de nuestro sandbox o sin usar la revisión automática, que verifica este tipo de acciones de alto riesgo y las rechaza», escribió el líder de ingeniería sobre alentar a más usuarios a utilizar métodos de autorización más seguros y agregar más protecciones de seguridad en el sistema de gestión (aprovechar las salvaguardias)», informó Sottiaux, especificando que un informe detallado («post-mortem») se espera en los próximos días, lo que ilustrará la causa fundamental del problema y se están implementando nuevas medidas de mitigación, subrayando una vez más que tales incidentes ocurren «en casos extremadamente raros».
Todas las noticias y conocimientos sobre inteligencia artificial están disponibles en la sección dedicada de aatma.