Microsoft presentó un nuevo código de conducta para regular el comportamiento de sus modelos de inteligencia artificial, en un momento en que aumentan las preocupaciones sobre los riesgos y posibles usos indebidos de esta tecnología.

La norma fue publicada por la división de inteligencia artificial de la compañía y, de acuerdo con la información difundida, Microsoft es el único de los grandes desarrolladores de IA que ha establecido públicamente una regla de este tipo.

Microsoft apuesta por una “IA humanista”

El documento se basa en el concepto que la empresa denomina “IA humanista”, cuyo objetivo es desarrollar sistemas que permanezcan bajo control de las personas y que no actúen de manera autónoma.

La compañía resume esta filosofía en una idea central:

“Las personas importan más que la IA”.

Microsoft relacionó la publicación del código con las preocupaciones actuales sobre seguridad. Como ejemplo, mencionó las recientes campañas coordinadas de hackeo a gran escala realizadas con ayuda de agentes de inteligencia artificial, que considera una señal de que la industria no puede retrasar la adopción de medidas de seguridad.

El código será aplicado a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada por Microsoft durante años.

Empresas de IA se reunirán con el rey Carlos III

Mientras Microsoft establece sus propias reglas, el rey Carlos III recibirá en Escocia a representantes de algunas de las principales empresas de inteligencia artificial para analizar las posibles aportaciones de esta tecnología a la sociedad.

La fecha del encuentro todavía no ha sido anunciada.

De acuerdo con fuentes cercanas a la reunión, Google DeepMind estará representada por su director, Demis Hassabis, mientras que OpenAI enviará a su directora financiera, Sarah Friar.

También se espera la participación de representantes de Nvidia y Anthropic.

Thales pide mayor responsabilidad a los gobiernos

El debate sobre la regulación también alcanzó al sector de defensa y tecnología.

Patrice Caine, director general del grupo francés Thales, pidió a los gobiernos asumir sus responsabilidades para establecer reglas sobre inteligencia artificial, mientras aumentan las advertencias sobre el rápido desarrollo de esta tecnología.

Durante una conferencia tecnológica de la empresa en Londres, Caine señaló que existen herramientas técnicas para mantener la IA bajo control, aunque consideró que por sí solas no son suficientes.

“Existen medios, desde el punto de vista técnico, para mantener este tipo de tecnología bajo control, pero no es suficiente”, declaró.

China advierte sobre riesgos para la seguridad nacional

En China, el jefe de los servicios de inteligencia, Chen Yixin, también advirtió sobre los riesgos que representa la inteligencia artificial para la seguridad nacional.

El funcionario señaló que potencias extranjeras podrían utilizar esta tecnología para amenazar el orden social del país.

En un artículo, Chen afirmó que “fuerzas hostiles” están utilizando de manera indebida herramientas de inteligencia artificial generativa para “fabricar rumores políticos y difundir información perjudicial”.

Las distintas advertencias coinciden con un debate internacional cada vez más amplio sobre cómo desarrollar la inteligencia artificial sin perder el control sobre sus posibles usos y riesgos.