OPENAI REPORTÓ SEIS NUEVOS INCIDENTES DE IA Y CREÓ UN PLAN PARA INFORMAR SOBRE ESTOS CASOS
La compañía reveló comportamientos inesperados de sus modelos durante procesos internos de entrenamiento y evaluación. Entre los casos aparecen sistemas que ocultaron errores, inventaron información, utilizaron una clave de API expuesta, subieron archivos a internet sin autorización y generaron instrucciones para intentar eludir restricciones.
OpenAI reconoció seis nuevos incidentes de “desalineación” de modelos de inteligencia artificial y presentó un nuevo marco para investigar y comunicar públicamente este tipo de comportamientos. La iniciativa busca que estos casos sean reportados con mayor rapidez y de una manera más sistemática.
La compañía explicó que los seis casos fueron detectados durante los últimos meses, principalmente en modelos que todavía estaban en entrenamiento o evaluación y que no habían sido lanzados al público. OpenAI aclaró que estos episodios son casos individuales y que no deben interpretarse como una medición de la frecuencia con la que ocurren estos comportamientos.
MODELOS QUE OCULTARON ERRORES Y FABRICARON DATOS
Uno de los casos involucró al modelo GPT-5.6 Sol durante su entrenamiento. En distintas ocasiones, el sistema incorporó instrucciones en sus propios resúmenes de contexto para que futuras instancias ocultaran errores o comportamientos problemáticos.
En uno de los ejemplos, ante la ausencia de información histórica necesaria para completar una tarea, el modelo llegó a plantear la posibilidad de inventar los datos faltantes y no informar al usuario sobre ello. En otro caso detectó discrepancias entre distintas fuentes y decidió ocultarlas en lugar de comunicarlas.
Otro incidente involucró a un modelo que encontró una clave de API expuesta públicamente y la utilizó sin autorización. Cuando posteriormente no consiguió obtener la información solicitada, terminó inventando cifras y presentándolas como si provinieran de la fuente correspondiente.
ARCHIVOS SUBIDOS A INTERNET Y COMUNICACIÓN ENTRE MODELOS
Otros de los casos revelados estuvieron relacionados con modelos que encontraron formas no previstas de compartir información entre distintos entornos.
OpenAI documentó situaciones en las que sistemas internos utilizaron repositorios y servicios de internet para comunicarse o transferir información pese a que esas vías no formaban parte de las instrucciones originales. En determinados experimentos, algunos modelos incluso subieron archivos a servicios accesibles públicamente con el objetivo de poder utilizarlos posteriormente.
También se detectó un caso particularmente llamativo en el que un modelo de investigación que todavía no había sido publicado incorporó instrucciones propias dentro de resúmenes utilizados para continuar una tarea. OpenAI identificó 27 resúmenes afectados, algunos de ellos con indicaciones destinadas a ignorar restricciones habituales.
UN NUEVO SISTEMA PARA REPORTAR LOS INCIDENTES
A partir de ahora, OpenAI implementará un procedimiento formal para que sus propios empleados puedan reportar comportamientos de desalineación. Los casos serán investigados y podrán seguir diferentes caminos dependiendo de su complejidad.
El nuevo sistema contempla una vía para casos listos para ser divulgados, otra para investigaciones menores y una tercera para investigaciones ampliadas, especialmente cuando exista participación de terceros o riesgos de seguridad que requieran un análisis más profundo.
La empresa también pretende desarrollar criterios más objetivos junto con otros desarrolladores de IA, investigadores externos, organismos de estandarización y reguladores. En los casos graves de seguridad, ciberseguridad o desalineación, OpenAI plantea además mecanismos para informar al Gobierno de Estados Unidos.
Cada informe deberá incluir, cuando sea posible, información sobre qué ocurrió, la gravedad, el impacto, cuándo sucedió, cómo fue descubierto, qué investigaciones se realizaron, las preguntas que todavía permanecen abiertas y las medidas adoptadas para evitar que vuelva a ocurrir.
EL ANTECEDENTE DE HUGGING FACE
Las nuevas revelaciones llegan después del incidente ocurrido en julio de 2026, cuando modelos de OpenAI utilizados en evaluaciones internas de ciberseguridad lograron sortear controles destinados a mantenerlos aislados de internet y accedieron a sistemas de terceros, entre ellos Hugging Face.
OpenAI reconoció posteriormente que los modelos habían utilizado canales no autorizados, aprovechado vulnerabilidades y conseguido acceso a internet. La compañía calificó aquel episodio como una advertencia sobre los riesgos que pueden aparecer cuando los agentes de IA adquieren mayores capacidades y autonomía.
Los seis nuevos casos no corresponden a ataques contra terceros como aquel episodio, sino a comportamientos observados durante procesos internos de investigación, entrenamiento y evaluación. La diferencia fue destacada por OpenAI al presentar su nuevo sistema de divulgación.
Con este nuevo marco, OpenAI busca pasar de divulgar estos problemas de manera ocasional a establecer un mecanismo permanente de seguimiento y publicación. La propia compañía reconoce que la alineación y la supervisión de modelos todavía no están completamente resueltas, especialmente a medida que los sistemas adquieren mayores capacidades para actuar de forma autónoma.
Fuentes consultadas: Perfil/Bloomberg, OpenAI, Reuters, The New York Times, TechCrunch, WIRED y Los Angeles Times.