Legisladores EEUU piden nuevas normas sobre IA tras advertencias de seguridad sobre Anthropic

Por Courtney Rozen

10 sep (Reuters) - Los legisladores estadounidenses pidieron esta semana el establecimiento de nuevas normas para ‌regular la inteligencia artificial, después de que un investigador de Anthropic hizo públicas sus preocupaciones sobre la posibilidad de que esta tecnología escape al control humano.

La reacción ha sido más ​amplia que la generada por declaraciones anteriores de miembros del personal de OpenAI y Anthropic sobre cuestiones de seguridad, y ha suscitado comentarios de legisladores que no suelen participar de forma enérgica en los debates sobre cómo regular la IA.

Las declaraciones de los legisladores se produjeron en respuesta a las preocupaciones planteadas esta semana por el investigador de Anthropic ​Jacob Coxon, quien acusó a OpenAI y a Anthropic de avanzar a toda velocidad en el sector de la IA sin actuar de forma responsable.

Coxon anunció que abandona el sector de la IA, y sus acusaciones se difundieron ​rápidamente en la red social X. Más tarde, el científico de Anthropic Evan Hubinger se sumó ⁠al debate, afirmando que Coxon tenía "razón". 

"Realmente creemos de todo corazón que la IA podría acabar con toda la humanidad", escribió Hubinger en X.

OpenAI dijo el miércoles ‌que está presionando en favor del establecimiento de requisitos nacionales obligatorios de seguridad en materia de IA en Estados Unidos, ante la preocupación de que la tecnología pueda acelerar su propio desarrollo, después de que algunos de sus propios agentes de IA explotaron vulnerabilidades tas salir de ​sus entornos de prueba.

Varios incidentes de este tipo, en los que ‌modelos de IA de distintos desarrolladores accedieron a sistemas externos durante las pruebas, han dado lugar a peticiones de una ⁠normativa de seguridad más estricta.

Los demócratas encabezaron las peticiones de nuevas normas sobre IA, a las que se sumó un número menor de republicanos.

Entre los republicanos se encuentra el senador de Texas Ted Cruz, que preside una comisión encargada de supervisar el Departamento de Comercio, organismo que cuenta con investigadores internos especializados en seguridad de la IA.

En el programa ⁠de televisión "The View", Cruz se refirió ‌a una legislación para regular los "riesgos catastróficos" de la IA, indicando que está trabajando en un proyecto de ley junto con el líder ⁠de la mayoría del Senado, John Thune, y la demócrata Amy Klobuchar.

Thune dijo a Reuters a fines de julio que lleva "bastante tiempo" trabajando en la legislación, pero no dio más ‌detalles sobre cuándo estaría lista para su presentación pública.

El diputado Nathaniel Moran, que representa a Texas y forma parte de la comisión de la Cámara ⁠de Representantes que estudia el Partido Comunista Chino, afirmó en una publicación en X que "el Congreso no puede ignorar las ⁠realidades de la IA".

La diputada Anna Paulina ‌Luna, en otra publicación en X, instó al presidente de la Cámara de Representantes, Mike Johnson, a convocar una "sesión especial sobre IA". La Cámara de Representantes se encuentra esta semana ​en receso y tiene previsto reanudar sus sesiones la próxima semana.

El senador republicano Josh Hawley, ‌que preside una subcomisión encargada de la supervisión de la gestión de desastres, envió el miércoles una carta a OpenAI solicitando detalles sobre la revelación que hizo en julio de que uno de sus ​agentes de IA violó su entorno de pruebas y atacó a la plataforma de IA Hugging Face.

Ni OpenAI ni Hugging Face —que Nvidia está adquiriendo por casi 13.000 millones de dólares— respondieron de inmediato a las solicitudes de comentarios de Reuters. Varios legisladores han enviado en las últimas semanas solicitudes similares a OpenAI para obtener más información.

La lista de demócratas ⁠que han pedido esta semana nuevas normas sobre IA incluye a la senadora Patty Murray. También se han sumado a la iniciativa senadores demócratas que se perfilan como posibles candidatos a la presidencia en 2028, entre ellos Chris Murphy, de Connecticut, y Mark Kelly, de Arizona.

"Washington tiene que despertar y tomarse esto en serio", publicó Kelly en X, refiriéndose a los riesgos de la tecnología de IA.

El senador demócrata Richard Blumenthal, de Connecticut, envió una carta al presidente ejecutivo de OpenAI, Sam Altman, en relación a los informes que indican que los agentes de OpenAI participaron en intentos más amplios de eludir las medidas de seguridad, incluso usando sitios web públicos para comunicarse y coordinarse.

(Reporte de Anhata ​Rooprai en Bengaluru; editado en español por Carlos Serrano)