Más de 200 figuras de renombre, incluidos 10 ganadores del Premio Nobel, investigadores y ejecutivos de empresas líderes en tecnología como Anthropic, Google DeepMind, Microsoft y OpenAI, firmaron una carta en la que exigen establecer un marco regulatorio internacional para la inteligencia artificial (IA).
La misiva fue publicada al inicio de la sesión de la Asamblea General de Naciones Unidas en Nueva York.
Peligros y necesidad de líneas rojas
Los firmantes reconocen que la IA “tiene un inmenso potencial para mejorar el bienestar humano”, pero advierten que su desarrollo actual “presenta peligros sin precedente”.
Entre las propuestas destacan la creación de líneas rojas internacionales, es decir, prohibiciones absolutas sobre usos considerados demasiado riesgosos en cualquier circunstancia, como:
- Delegar el control de arsenales nucleares a sistemas de IA.
- Desarrollar armas letales autónomas.
- Implementar sistemas de vigilancia masiva.
- Establecer mecanismos de puntuación social.
- Usar la IA para ciberataques o suplantación de identidad.
El grupo instó a que los gobiernos adopten estas medidas antes de que termine el próximo año, debido al rápido avance de la tecnología.
Riesgos crecientes
En la carta también se alerta que la IA podría superar las capacidades humanas y escalar riesgos como:
- Pandemias diseñadas.
- Difusión masiva de desinformación.
- Manipulación social.
- Violaciones sistemáticas de los derechos humanos.
Voces destacadas
Entre los firmantes se encuentra Yoshua Bengio, ganador del Premio Turing 2018 y considerado uno de los padres de la inteligencia artificial.
“La carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos. Establecer líneas rojas es un paso crucial para prevenir riesgos inaceptables”, afirmó Bengio.
Board member Prof. @Yoshua_Bengio addressed the UN Security Council debate on AI & peace, alongside Prof. @YejinChoinka (@StanfordHAI, led by Board member Prof. @drfeifei). He highlighted the Briefs on Frontier AI, emphasizing evidence-based insights for responsible governance. pic.twitter.com/TxniL7aFE9
— UN Scientific Advisory Board (@ScienceBoard_UN) September 25, 2025
Con este llamado, investigadores, políticos y líderes tecnológicos buscan que los gobiernos asuman decisiones firmes para regular la autonomía de la IA antes de que se vuelva más difícil su supervisión.
