Más de 700 científicos, políticos y celebridades, entre ellos el príncipe Enrique y Meghan Markle, firmaron una carta para exigir que se detenga el desarrollo de una inteligencia artificial (IA) capaz de superar las capacidades humanas.
La iniciativa fue lanzada por el Future of Life Institute, una organización sin fines de lucro con sede en Estados Unidos que advierte sobre los riesgos éticos y sociales de la IA.
“Debe detenerse el desarrollo de una superinteligencia hasta que exista consenso científico sobre cómo construirla de manera segura y controlada, y cuente con el apoyo de la población”, señala el manifiesto.
Científicos y líderes tecnológicos entre los firmantes
Entre los firmantes se encuentran pioneros de la IA moderna, como:
- Geoffrey Hinton, Nobel de Física 2024.
- Stuart Russell, profesor en la Universidad de California, Berkeley.
- Yoshua Bengio, profesor de la Universidad de Montreal.
También apoyan la iniciativa Richard Branson, fundador de Virgin; Steve Wozniak, cofundador de Apple; así como figuras políticas como Steve Bannon y Susan Rice.
El documento cuenta además con el respaldo del asesor del Vaticano en IA, Paolo Benanti, y del cantante will.i.am.
Riesgos de la “superinteligencia”
La carta critica que las principales compañías tecnológicas estén enfocadas en crear una Inteligencia Artificial General (IAG) y eventualmente una superinteligencia, que superaría todas las habilidades intelectuales humanas.
El director ejecutivo de OpenAI, Sam Altman, ha estimado que este avance podría lograrse en menos de cinco años. Sin embargo, expertos advierten que su desarrollo sin regulación adecuada podría ser peligroso.
“Da igual si ocurre dentro de dos o quince años; construir algo así es inaceptable”, afirmó Max Tegmark, presidente de Future of Life Institute.
“Podemos impulsar herramientas de IA que ayuden a curar enfermedades, pero no una que escape a nuestro control”, añadió.
Con esta petición, los firmantes buscan abrir un debate global sobre la necesidad de establecer límites éticos y normativos antes de avanzar hacia una inteligencia artificial que rebase a la humana.