Volker Türk pidió acelerar la creación de reglas internacionales para controlar los sistemas de IA más avanzados y advirtió sobre posibles impactos en servicios esenciales, infraestructuras, democracia y seguridad mundial.
El vertiginoso desarrollo de la inteligencia artificial ya no plantea únicamente preguntas sobre empleo, privacidad o tecnología. Para la ONU, el escenario podría ser mucho más amplio: desde el acceso a servicios básicos hasta la seguridad internacional y la protección de los derechos humanos.
La advertencia fue hecha este lunes por Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, quien sostuvo que el avance de esta tecnología puede poner en riesgo derechos fundamentales como la vida, la alimentación, la salud, la privacidad y la seguridad.
Türk señaló que la competencia por desarrollar sistemas de IA cada vez más potentes está elevando riesgos que podrían tener consecuencias a escala global.
Una de las mayores preocupaciones está relacionada con la llamada IA agéntica, una generación de sistemas que puede ejecutar tareas y tomar determinadas decisiones con un nivel de autonomía superior al de las herramientas convencionales.
Según el alto comisionado, los errores o comportamientos inesperados de estos sistemas podrían llegar a afectar servicios esenciales, alterar las comunicaciones y poner en peligro infraestructuras críticas.
El impacto, advirtió, también podría alcanzar a las instituciones democráticas.
En un escenario extremo, poblaciones completas podrían enfrentar interrupciones en servicios como el suministro de agua, la calefacción o el acceso a servicios financieros.
La ONU también puso el foco en el uso militar de estas tecnologías.
Türk afirmó que la inteligencia artificial ya está modificando la manera en que se desarrollan los conflictos armados y puede aumentar tanto su velocidad como su alcance.
La preocupación crece especialmente cuando estos sistemas pueden intervenir en procesos relacionados con armas y decisiones militares de alto impacto, reduciendo las barreras de seguridad que buscan evitar una escalada hacia el uso de armas de destrucción masiva.
Las declaraciones del funcionario de la ONU se producen en medio de un debate cada vez más intenso dentro de la propia industria tecnológica.
Entre quienes han expresado preocupación por el ritmo de desarrollo de los modelos más avanzados están Dario Amodei, director ejecutivo de Anthropic; Sam Altman, CEO de OpenAI; y Elon Musk.
Uno de los principales temores planteados en este debate es que la evolución de sistemas cada vez más capaces termine superando la capacidad humana para controlarlos o anticipar sus consecuencias.
Ante este escenario, Türk reclamó una respuesta coordinada entre gobiernos y compañías tecnológicas.
Su propuesta apunta a utilizar foros multilaterales para establecer mecanismos de gobernanza de la inteligencia artificial que estén sustentados en el derecho internacional y los derechos humanos.
El argumento central es que las decisiones sobre una tecnología con efectos potencialmente globales no pueden quedar concentradas en un solo Estado o en las empresas que la desarrollan.
Para la ONU, el desafío consiste en encontrar un equilibrio en el que la innovación tecnológica pueda avanzar sin convertir la protección de los derechos fundamentales en el costo de ese progreso.
