El avance de la inteligencia artificial debería realizarse con mayor cautela y a un ritmo más lento, ante los riesgos que puede generar el uso indebido de esta tecnología, planteó Dario Amodei, director ejecutivo y cofundador de Anthropic.

En un ensayo publicado este sábado, Amodei propuso un marco de tres pasos para establecer un ritmo más seguro en el desarrollo de los sistemas de IA. Su llamado recibió el respaldo de Sam Altman, jefe de OpenAI, y de Elon Musk, director de xAI.

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”.

La propuesta llega después de que Anthropic difundiera un informe sobre amenazas relacionadas con la IA, en el que documentó el uso de sus modelos Claude para actividades como desarrollo de armas, operaciones cibernéticas, vigilancia y fraude.

Amodei advierte sobre una IA difícil de controlar

La preocupación dentro de la industria aumentó esta semana después de la renuncia del investigador de Anthropic Jacob Coxon, quien afirmó que algunas personas dedicadas al desarrollo de la IA consideran seriamente la posibilidad de que esta tecnología pueda representar una amenaza mortal antes de que termine la década.

Amodei aclaró que su propuesta no implica detener el entrenamiento de modelos ni frenar el progreso tecnológico. Su planteamiento consiste en que las empresas se den el tiempo suficiente para ajustar y proteger sus sistemas antes de avanzar, además de permitir que evaluadores independientes comprueben las medidas de seguridad.

El directivo identificó dos razones principales para pedir una reducción en el ritmo de desarrollo.

1. La automejora de los sistemas

La primera es la llamada “automejora recursiva”, es decir, la capacidad de los sistemas de IA para contribuir a su propio desarrollo.

Según Amodei, esta dinámica ya ha generado “avances drásticos” durante el verano y, si no se mantiene bajo control, podría llegar un momento en que la capacidad de los sistemas supere la posibilidad humana de comprenderlos y controlarlos.

2. Ataques informáticos coordinados

El segundo motivo es el denominado “incidente de Hugging Face de OpenAI”.

Amodei señaló que un grupo de agentes de IA realizó ataques informáticos de manera coordinada sin que existiera una solicitud inicial para llevar a cabo esa actividad. Los agentes incluso habrían actuado “sacrificándose por el bien del grupo”, una situación que, según el directivo, pudo haber provocado daños catastróficos.

También advirtió que se han registrado incidentes similares en otras compañías, incluida Anthropic.

Propone evaluadores externos permanentes

Como parte de su plan de tres etapas, Amodei planteó que las principales empresas de inteligencia artificial incorporen evaluadores externos permanentes.

Estos especialistas tendrían acceso a las herramientas necesarias y a los procesos internos utilizados por las compañías para evaluar los riesgos de sus sistemas.

Anthropic anunció que adoptará unilateralmente este primer paso y permitirá que terceros tengan acceso permanente con un nivel equivalente al de sus empleados.

La propuesta surge después de que Reuters informara que un grupo de agentes de OpenAI tomó el control de una página web alemana y la convirtió en un espacio de comunicación para otros agentes de IA.

De acuerdo con ese reporte, los responsables de OpenAI mantuvieron el incidente en secreto mientras la empresa enfrentaba las consecuencias de una brecha de seguridad ocurrida en julio en el repositorio de código abierto Hugging Face.

Amodei alerta sobre riesgos en los próximos meses

El directivo de Anthropic advirtió que un desarrollo “imprudente” de la IA podría generar riesgos como bioterrorismo o graves problemas económicos.

Incluso planteó como escenario posible que una inteligencia artificial llegue a tomar el control de internet en un periodo de entre seis y 12 meses.

Por ello, consideró necesario establecer medidas de seguridad y regulación que permitan reducir estos riesgos sin impedir que las empresas mantengan su éxito comercial.

“Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”.

Amodei también llamó a las compañías del sector a colaborar voluntariamente para establecer normas comunes, en un momento en que cada vez más legisladores estadunidenses reclaman nuevas reglas para regular los sistemas de inteligencia artificial.

El cofundador de Anthropic ya ha sido señalado anteriormente de caer en el alarmismo debido a sus advertencias sobre el desarrollo de esta tecnología y sus posibles consecuencias.

Sam Altman respalda la propuesta

El planteamiento encontró eco en Sam Altman, máximo responsable de OpenAI, quien coincidió con Amodei en la necesidad de reducir el ritmo de avance de los sistemas de IA.

“Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI”.

Altman destacó particularmente la propuesta de establecer evaluaciones independientes y coincidió en que los evaluadores deberían contar con acceso a nivel de empleado.

“Vamos a hacer lo mismo. Pronto daremos más información”.

También Elon Musk manifestó su respaldo a la postura de Amodei ante los recientes incidentes relacionados con sistemas de inteligencia artificial.

“Darío tiene razón”, afirmó Musk.

Dario is right https://t.co/EwKgqQGaUo

— Elon Musk (@elonmusk) September 12, 2026