Los líderes de IA informarán al ONU ante advertencias de posible pérdida de control

Por Michelle Nichols, John Irish y Courtney Rozen

NACIONES UNIDAS, 23 sep (Reuters) - Directivos de OpenAI, Anthropic ‌y Hugging Face informarán este miércoles al Consejo de Seguridad de la ONU, en medio de advertencias de que las tecnologías de inteligencia artificial, cada vez más ​potentes, podrían pronto mejorar por sí mismas, escapar al control humano y amenazar la seguridad internacional.

El director ejecutivo de OpenAI, Sam Altman, el director ejecutivo de Anthropic, Dario Amodei, y el cofundador de Hugging Face, Clément Delangue, tienen previsto informar al Consejo, compuesto por 15 miembros, durante la reunión anual de la Asamblea General de ​las Naciones Unidas, en la que se dan cita los líderes mundiales.

Altman tiene previsto instar a los líderes mundiales a adoptar criterios de referencia para medir las capacidades de la IA y evaluar las medidas de ​seguridad que las empresas establecen al desarrollar la tecnología, según dijo el martes ⁠un ejecutivo de OpenAI a los periodistas.

También está previsto que intervengan los miembros del Consejo, entre los que se encuentran Estados Unidos y China, principales ‌rivales en el ámbito de la IA. El ministro de Asuntos Exteriores francés, Jean-Noël Barrot, presidirá la reunión.

Un diplomático europeo, que habló bajo condición de anonimato, dijo que el principal objetivo de la reunión era poner de relieve los riesgos prácticos de que ​la IA se salga de control de formas que afecten ‌a la seguridad internacional y a la seguridad de los distintos Estados.

"Se trata de cuestiones que entran de lleno ⁠en el mandato del Consejo de Seguridad", señaló el diplomático. "La pregunta clave es si algún día podríamos enfrentarnos a una situación en la que los algoritmos, al interactuar entre sí, desencadenen una guerra. Ese es, en realidad, el quid de la cuestión".

Antes de la reunión entre el presidente de Estados Unidos, Donald Trump, y el ⁠líder chino, Xi Jinping, que ‌tendrá lugar este jueves en Washington, EEUU y China han debatido la creación de un sistema de notificación de objetivos y amenazas ⁠comunes que abarque los incidentes relacionados con la IA que alcancen un nivel de seguridad nacional.

TRUMP QUIERE FOMENTAR LA IA, NO FRENARLA

Trump dijo el martes ante los ‌líderes mundiales en la Asamblea General de la ONU que "rechaza cualquier intento de construir un plan globalista para controlar" la IA, calificando la ⁠tecnología de asombrosa, aunque señaló que Estados Unidos actuaría con cautela.

"Ahora mismo llevamos una gran ventaja sobre China y ⁠sobre todos los demás, y vamos ‌a mantener esa situación", dijo Trump. "No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial".

"Vamos a fomentarla, no a frenarla. La ​vamos a vigilar de cerca a través del Departamento de Justicia", añadió.

El secretario general de ‌la ONU, António Guterres, ha advertido de que el rápido avance de la inteligencia artificial plantea riesgos que no pueden ignorarse, lo que le sitúa en desacuerdo con Trump.

Guterres lleva mucho tiempo ​abogando por una gobernanza global de la IA y, en 2023, creó un órgano consultivo de 39 miembros con un mandato de un año, entre los que se encontraban ejecutivos de empresas tecnológicas, responsables gubernamentales y académicos de países como Estados Unidos, Rusia y Japón.

La Asamblea General de la ONU, integrada por 193 ⁠miembros, creó a su vez el Panel Científico Internacional Independiente el año pasado. Yoshua Bengio, un canadiense considerado uno de los "padrinos de la IA" y copresidente del panel, también informará al Consejo de Seguridad.

El Consejo de Seguridad se reunió por primera vez para tratar los riesgos de la IA en 2023, cuando China dijo que la tecnología no debía convertirse en un "caballo desbocado" y Estados Unidos advirtió contra su uso para censurar o reprimir a la población. El entonces secretario de Estado de Estados Unidos, Antony Blinken, presidió una reunión del Consejo de Seguridad sobre la IA en 2024.

(Reporte de Michelle Nichols, John Irish y Courtney Rozen; edición ​de Howard Goller; edición en español de Patrycja Dobrowolska)