LA IA AUTOSUPERADORA QUE PREOCUPA A LOS EXPERTOS: ¿PODRÍA LLEGAR A SER IMPOSIBLE DE CONTROLAR?

Durante años, la posibilidad de una inteligencia artificial capaz de superar ampliamente a los seres humanos perteneció casi exclusivamente al terreno de la ciencia ficción. Sin embargo, los avances registrados durante los últimos años llevaron a los propios investigadores de las principales empresas tecnológicas a discutir públicamente qué podría ocurrir si una IA consigue participar de manera autónoma en el desarrollo de su propia sucesora.

El concepto que concentra buena parte de los temores es el de automejora recursiva. Se trata de un hipotético proceso mediante el cual una IA suficientemente avanzada podría utilizar sus capacidades para mejorar su arquitectura, sus métodos de entrenamiento o sus herramientas y posteriormente utilizar esa nueva versión para realizar mejoras todavía mayores.

El proceso podría generar un ciclo de retroalimentación: una IA crea una versión más capaz de sí misma, esa versión desarrolla otra todavía más avanzada y el proceso continúa a una velocidad que podría superar la capacidad humana de supervisión. Anthropic reconoce que todavía no se ha alcanzado una automejora recursiva completamente autónoma y que tampoco es inevitable, pero advierte que podría llegar antes de que muchas instituciones estén preparadas.

La advertencia que sacudió a la industria

El debate tomó una nueva dimensión después de que Jacob Coxon, investigador que había trabajado tanto en OpenAI como en Anthropic, anunciara su salida de esta última empresa y cuestionara públicamente la carrera por desarrollar una superinteligencia capaz de mejorarse a sí misma.

Coxon sostuvo que las compañías están avanzando hacia sistemas que podrían adquirir capacidades superiores a las humanas y que la velocidad del desarrollo tecnológico está superando la capacidad de los investigadores para garantizar su seguridad. Según su advertencia, quienes desarrollan estas tecnologías creen que una IA avanzada podría llegar a provocar la extinción humana antes de terminar la década.

Lo que generó todavía más repercusión fue la respuesta de Evan Hubinger, responsable de Alignment Science de Anthropic. El investigador respaldó públicamente la preocupación de Coxon y afirmó que, personalmente, considera que existe una probabilidad superior al 10% durante la próxima década de que la IA pueda matar a todos los seres humanos.

Hubinger también reconoció que Anthropic todavía no tiene un plan definitivo para resolver el denominado alineamiento de una superinteligencia, es decir, garantizar que los objetivos y comportamientos de un sistema extremadamente poderoso permanezcan compatibles con los intereses humanos.

¿Qué podría hacer una IA autosuperadora?

El temor no se limita a imaginar una máquina con forma humana persiguiendo personas. El escenario planteado por los especialistas es mucho más amplio.

Una IA suficientemente avanzada podría, en teoría, mejorar sus capacidades de programación, investigación científica, análisis estratégico o generación de nuevos modelos. Si además tuviera acceso a herramientas digitales, infraestructura informática o sistemas conectados a Internet, podría actuar en el mundo a una velocidad muy superior a la capacidad de supervisión humana.

Los investigadores también señalan otros riesgos potenciales: ciberataques, manipulación de información, control de infraestructuras críticas, desarrollo de tecnologías biológicas peligrosas y utilización militar de sistemas autónomos. WIRED destacó que el problema no necesariamente requeriría que una IA tuviera una intención maliciosa: bastaría con que persiguiera objetivos incompatibles con los intereses humanos y tuviera suficiente autonomía y capacidad para ejecutarlos.

Una capacidad que todavía no existe en su forma extrema

Pese a las advertencias, existe una diferencia fundamental entre las capacidades actuales y el escenario de una superinteligencia autosuperadora.

Los sistemas actuales pueden generar código, analizar sus propias respuestas, utilizar herramientas, producir datos sintéticos y participar en procesos de evaluación o refinamiento, pero todavía dependen de infraestructura, objetivos, evaluaciones y decisiones humanas.

Un trabajo científico publicado en agosto de 2026 también señaló que los modelos actuales muestran solamente formas limitadas de introspección y que la evidencia disponible todavía no demuestra una capacidad completa de automejora recursiva. Algunos sistemas incluso presentan problemas cuando intentan corregir sus propios errores sin una referencia externa confiable.

Por eso, la discusión actual no significa que exista una IA que esté a punto de escapar de un laboratorio y tomar el control del planeta. El debate se concentra en qué hacer antes de que esa capacidad sea técnicamente posible.

La repercusión: una carrera que genera cada vez más temor

Las declaraciones de Coxon y Hubinger se sumaron a una creciente preocupación dentro de la industria. Investigadores y dirigentes tecnológicos comenzaron a discutir si la velocidad de desarrollo actual es compatible con la seguridad necesaria para sistemas cada vez más autónomos.

La controversia también alcanzó al debate político y regulatorio. El Panel Científico Internacional Independiente sobre IA de Naciones Unidas advirtió en julio que las salvaguardas existentes no están avanzando al mismo ritmo que las capacidades de la inteligencia artificial.

Mientras tanto, distintos sectores reclaman evaluaciones independientes, mayor supervisión gubernamental y mecanismos internacionales para controlar los modelos más avanzados.

La paradoja es que muchas de las empresas que advierten sobre estos riesgos son también las que compiten por desarrollar sistemas cada vez más poderosos. Dentro de la propia industria aparecen dos posiciones: quienes consideran necesario continuar para evitar que una compañía o país menos responsable llegue primero y quienes creen que esa misma competencia puede impedir que se establezcan controles suficientes.

El debate, por lo tanto, ya no gira únicamente alrededor de qué puede hacer la inteligencia artificial, sino de una pregunta mucho más profunda: qué ocurrirá si algún día una IA adquiere la capacidad de decidir por sí misma cómo convertirse en una IA todavía mejor.

Y para algunos de los investigadores que están trabajando en esa frontera, la respuesta no puede esperar a que esa posibilidad se convierta en una realidad.

Fuentes consultadas: Urgente.bo, Anthropic, WIRED, Ars Technica, Forbes, Naciones Unidas y A24.