LA ONU ALERTÓ POR LOS RIESGOS DE UNA IA CADA VEZ MÁS AUTÓNOMA: “TODOS LOS DERECHOS HUMANOS ESTÁN EN RIESGO”
El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió una acción urgente de gobiernos y empresas para establecer límites y mecanismos internacionales de control sobre los sistemas avanzados de inteligencia artificial.
El avance acelerado de la inteligencia artificial volvió a encender las alarmas a nivel internacional. Naciones Unidas advirtió sobre los riesgos que pueden generar los sistemas cada vez más avanzados y puso especial atención en aquellos capaces de actuar con un alto grado de autonomía.
La advertencia fue realizada por el alto comisionado de la ONU para los Derechos Humanos, Volker Türk, quien sostuvo que el desarrollo de estas tecnologías puede representar una amenaza para derechos fundamentales si no existen mecanismos adecuados de supervisión y control.
Uno de los principales focos de preocupación está puesto en la denominada inteligencia artificial agéntica. Se trata de sistemas capaces de realizar tareas complejas, tomar decisiones y ejecutar determinadas acciones con menor intervención humana.
Según Türk, un fallo en este tipo de sistemas podría tener consecuencias que excedan ampliamente el ámbito tecnológico. Entre los escenarios planteados aparecen posibles interrupciones de servicios esenciales, problemas en las comunicaciones, afectación de infraestructuras críticas y dificultades para el funcionamiento de instituciones.
El funcionario de Naciones Unidas también alertó sobre las consecuencias que podría tener la utilización de inteligencia artificial en conflictos armados. El desarrollo de sistemas autónomos y tecnologías capaces de acelerar determinados procesos militares genera preocupación por la posibilidad de reducir las barreras existentes para el uso de armamento de alto impacto.
La advertencia llega en un momento en el que distintas empresas tecnológicas trabajan en sistemas capaces de interactuar con computadoras, plataformas digitales y otros servicios de manera cada vez más independiente.
La discusión ya no se concentra únicamente en las ventajas que ofrece la inteligencia artificial para áreas como la educación, la medicina, la industria o el trabajo. El debate internacional también comenzó a centrarse en quién controla estas herramientas, qué decisiones pueden tomar por sí mismas y qué ocurre cuando un sistema funciona de manera diferente a lo previsto.
Desde Naciones Unidas reclamaron que gobiernos y empresas tecnológicas trabajen en acuerdos multilaterales para establecer reglas comunes. El objetivo es que el desarrollo de la inteligencia artificial se encuentre acompañado por mecanismos de seguridad, transparencia y respeto por los derechos humanos.
La preocupación también alcanza a la privacidad, la seguridad, el acceso a servicios esenciales y el funcionamiento de las instituciones democráticas.
En este contexto, la ONU plantea que la discusión sobre la inteligencia artificial ya no puede quedar limitada a especialistas y empresas del sector. Las decisiones que se tomen durante los próximos años podrían determinar cómo se utilizarán estas tecnologías y qué límites tendrán.
El desafío, según el organismo internacional, consiste en encontrar un equilibrio entre innovación y seguridad. Mientras la inteligencia artificial avanza rápidamente, la regulación todavía busca adaptarse a un escenario tecnológico que cambia a una velocidad inédita.
Fuentes consultadas: El Sol, Naciones Unidas