Congresistas demócratas presionan a Anthropic y OpenAI por los agentes de IA rebeldes

Por Courtney Rozen

WASHINGTON, 10 ago (Reuters) - Una coalición ‌de legisladores demócratas de la Cámara de Representantes de Estados Unidos pidió a ​los presidentes ejecutivos de Anthropic, Dario Amodei, y OpenAI, Sam Altman, que expliquen cómo se escaparon sus sistemas de inteligencia artificial de los límites establecidos durante ​una prueba de seguridad.

Asimismo, añadieron que el Congreso debería celebrar audiencias sobre los incidentes, según las cartas ​enviadas por los congresistas a las compañías ⁠el lunes.

OpenAI y Anthropic revelaron en julio que sus agentes de IA ‌se salieron de sus entornos y habían pirateado los sistemas de otras empresas durante unas pruebas de ciberseguridad.

Veintinueve legisladores, encabezados por ​los diputados Greg Casar ‌y Doris Matsui, presionaron a OpenAI para que explicara ⁠cómo se supervisan sus agentes de IA durante las pruebas y si los modelos rebeldes eludieron los controles de seguridad de la empresa.

Los congresistas citaron un ⁠informe de Reuters que ‌indicó que hubo casos en los que los sistemas de ⁠supervisión se desconectaron durante pruebas anteriores de los modelos de OpenAI. En ‌otra carta, 22 legisladores pidieron a Anthropic que detalle los protocolos ⁠de seguridad implementados desde que sus agentes irrumpieron en los ⁠sistemas de tres ‌empresas.

"Estos incidentes de ciberseguridad, profundamente preocupantes, podrían tener graves implicaciones para la seguridad ​nacional de Estados Unidos", escribieron los legisladores ‌en su mensaje a Anthropic.

Las cartas, publicadas el lunes, forman parte de un debate cada vez ​más amplio en Washington sobre hasta qué punto se debe regular de forma estricta un sector de la IA en rápida evolución que, en ⁠gran medida, ha operado sin nuevas normas federales.

El Gobierno del presidente Donald Trump se ha pronunciado muy poco en público sobre los "agentes rebeldes" de Anthropic y OpenAI. El viernes, el mandatario criticó las propuestas del Congreso para regular la IA, afirmando que los legisladores quieren regular el sector "hasta acabar con él".

(Editado en ​español por Carlos Serrano)