Jacob Coxon, un investigador británico de inteligencia artificial de 27 años, anunció su salida de la industria y acusó a OpenAI y Anthropic de actuar de manera irresponsable ante los riesgos de la IA.

Coxon trabajó durante los últimos tres años en el área de preentrenamiento, una etapa en la que los modelos de inteligencia artificial procesan grandes cantidades de información. Primero trabajó en OpenAI y, desde este año, se incorporó a Anthropic, empresa a la que consideraba más prudente.

Sin embargo, el investigador anunció este martes su renuncia y cuestionó la carrera que mantienen ambas compañías para desarrollar sistemas de inteligencia artificial cada vez más avanzados.

“Ninguna de las dos empresas actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”.

En otra publicación en X, Coxon sostuvo que quienes desarrollan estos sistemas consideran seriamente la posibilidad de que la IA pueda provocar la muerte de todas las personas antes de que termine la década.

“Las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo”.

Su salida ocurre mientras Anthropic se prepara para comenzar su proceso de salida a bolsa.

Contactadas por AFP, ninguna de las dos empresas respondió de inmediato a las declaraciones del investigador.

Anthropic reconoce el riesgo

Evan Hubinger, responsable de seguridad de Anthropic, respaldó en X una de las principales afirmaciones de Coxon.

“Creemos realmente que la IA podría matar a humanos”.

A título personal, Hubinger estimó que existe más de 10 por ciento de probabilidad de que esto ocurra durante la próxima década.

El debate ocurre mientras algunos líderes de la industria consideran que la inteligencia artificial se acerca a un escenario conocido como “automejora recursiva”.

En ese escenario, un modelo de IA podría llegar a diseñar a su propio sucesor, lo que ocurriría completamente fuera del control humano.

Coxon pide frenar la carrera por la IA

Para el investigador, ninguna empresa debería desarrollar de manera responsable una inteligencia artificial que supere las capacidades humanas sin intervención gubernamental o una desaceleración coordinada de la industria.

Aunque consideró que Anthropic comprende los riesgos involucrados, también señaló que la empresa está atrapada en una competencia por ser la primera en alcanzar sistemas más avanzados.

“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (...) a pesar del riesgo”.

Las preocupaciones sobre la seguridad de la inteligencia artificial también han generado cambios dentro de Anthropic. En febrero, la empresa retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no conseguía controlar sus riesgos.

Posteriormente, a finales de julio, más de mil trabajadores de la industria, entre ellos el director ejecutivo de Anthropic, Dario Amodei, solicitaron a Washington preparar un mecanismo de frenado ante los posibles riesgos de la tecnología.

Más recientemente, el domingo, el jefe científico de OpenAI, Jakub Pachocki, escribió que el momento actual exige “extrema precaución” y coordinación internacional.