Unos 225 especialistas en inteligencia artificial (IA) y ciberseguridad, entre ellos los reconocidos investigadores Yoshua Bengio y Geoffrey Hinton, exigieron cambios inmediatos en el desarrollo y la implementación de esta tecnología para prevenir incidentes que puedan poner en riesgo sistemas informáticos de otras organizaciones.

En una carta abierta firmada por expertos de 21 países, los investigadores alertaron sobre recientes fallos de seguridad en los que modelos de IA consiguieron salir de sus entornos aislados debido a la falta de protecciones suficientes, lo que puso en riesgo sistemas externos.

Los firmantes calificaron estos episodios como un posible incumplimiento de las prácticas habituales de ciberseguridad y señalaron que podrían haberse evitado mediante procedimientos de protección más sólidos.

Advierten sobre riesgos para infraestructuras importantes

Los especialistas sostienen que estos incidentes evidencian la necesidad de mejorar tanto el alineamiento de la inteligencia artificial, que busca que los modelos se comporten de manera previsible y acorde con los objetivos establecidos, como las tecnologías utilizadas para mantenerlos aislados de otros sistemas.

En el documento, advirtieron que, si las prácticas actuales no cambian, los futuros incidentes podrían causar daños mucho mayores a infraestructuras importantes.

Además de Bengio, considerado uno de los pioneros de la IA, y Hinton, entre los firmantes se encuentra Stuart Russell, reconocido por su trabajo en inteligencia artificial.

Entre las medidas propuestas destacan una mayor inversión en investigación sobre seguridad y el uso más amplio de tecnologías de aislamiento. A corto plazo, recomiendan aplicar mecanismos robustos, incluido el air gap, una medida que consiste en mantener un sistema desconectado de Internet y de otras redes, especialmente cuando se trata de modelos con capacidades para realizar operaciones cibernéticas.

La advertencia se produce después de una serie de incidentes en los que sistemas de inteligencia artificial vinculados con OpenAI, Anthropic y Meta habrían salido de sus entornos de prueba para acceder a sistemas de otras organizaciones.

Uno de los episodios más graves descritos en la información ocurrió durante pruebas con dos modelos de OpenAI, que consiguieron acceder a Internet y entrar en Hugging Face, una plataforma para alojar y compartir modelos de inteligencia artificial.

Madrid reúne a especialistas en IA, neurociencia y robótica

Mientras continúa el debate sobre los riesgos de esta tecnología, Madrid será sede de un encuentro internacional dedicado a estudiar la relación entre el cerebro humano y las máquinas.

Hasta 150 especialistas en neurociencia, inteligencia artificial, medicina y robótica se reunirán desde este miércoles y hasta el 16 de octubre en la sede central del Consejo Superior de Investigaciones Científicas (CSIC), durante la Conferencia Internacional de Inferencia Activa (IWAI).

El evento es organizado por el Grupo de Neuro Inteligencia Artificial y Robótica del Centro de Neurociencia Cajal del CSIC y tiene como objetivo presentar los avances en el estudio matemático del cerebro.

La inauguración estará a cargo del vicepresidente del CSIC, José María Martell, junto con Pablo Lanillos, responsable del grupo organizador, de acuerdo con el programa oficial.

Durante las jornadas, los participantes abordarán cuestiones como si el cerebro humano funciona como una máquina capaz de anticipar el futuro, si es posible desarrollar robots que operen de manera similar al cerebro y qué aplicaciones tienen los modelos matemáticos para comprender la actividad cerebral.

Investigadores internacionales compartirán sus avances

Entre los invitados destaca Rajesh P. N. Rao, director del Centro de Neurotecnología de la Universidad de Washington, especializado en neurociencia computacional e interfaces cerebrales.

También participará Karl Friston, del University College de Londres, reconocido por sus investigaciones sobre modelado cerebral y neuroimagen, así como Tadahiro Taniguchi, profesor de la Universidad de Tokio que trabaja en la generación de modelos para el desarrollo de robots humanoides.

La representación española incluirá a Liset Menéndez de la Prida, directora del Centro de Neurociencias Cajal del CSIC y especialista en circuitos neuronales y memoria, además de Carme Torras, matemática, escritora e investigadora del CSIC y de la Universidad Politécnica de Cataluña, distinguida con el Premio Nacional de Investigación y especializada en inteligencia artificial y robótica.

De acuerdo con los organizadores, la conferencia busca compartir conocimientos y debatir sobre los fundamentos de la percepción, el comportamiento y la inteligencia humana, así como sobre su aplicación en las máquinas.

Esta edición se celebra en Madrid, después de que las dos anteriores tuvieran lugar en Montreal, Canadá, y Oxford, Reino Unido.