Gobierno EEUU dice a empresas IA que no someterá a pruebas de seguridad a modelos de código abierto

Por Courtney Rozen

WASHINGTON, 4 ago (Reuters) - El Gobierno ‌de Donald Trump comunicó el martes a los desarrolladores de IA que ​no someterá los modelos de IA de código abierto a pruebas de seguridad voluntarias, según dos fuentes familiarizadas con las conversaciones.

Los modelos abiertos, entre ​los que se incluyen Nemotron de Nvidia y Llama de Meta, son sistemas de IA cuyos ​componentes básicos son de acceso público. Los ⁠modelos cerrados están controlados por empresas concretas.

Los principales desarrolladores estadounidenses de ‌modelos cerrados son OpenAI, Google y Anthropic.

La Casa Blanca debatió las normas de pruebas, aún no publicadas, con personal ​de Meta, Anthropic, Google, ‌Nvidia y OpenAI, según cinco fuentes familiarizadas con la ⁠reunión.

Anthropic y OpenAI revelaron en los últimos días que sus herramientas de IA habían vulnerado los sistemas de otras empresas, lo que ha suscitado preocupación ⁠entre los parlamentarios ‌estadounidenses sobre si los modelos de IA, cada vez más ⁠capaces, podrían utilizarse para llevar a cabo o facilitar ciberataques.

El Gobierno ‌afirmó en junio que las pruebas serían voluntarias y estarían ⁠diseñadas para modelos de IA con sofisticadas capacidades de ⁠piratería informática. Tanto OpenAI ‌como Anthropic cuentan con modelos dotados de capacidades avanzadas de ciberseguridad.

Cinco senadores ​demócratas instaron el martes a Trump ‌a colaborar con el Congreso para aprobar una ley que haga permanentes las pruebas de ​los modelos de IA más avanzados fabricados en Estados Unidos, denominados "modelos de vanguardia".

"Estados Unidos no puede permitirse crear un entorno normativo en ⁠el que los sistemas de IA estadounidenses más avanzados estén sujetos a restricciones opacas y caso por caso, mientras que las alternativas chinas parecen más baratas, de más fácil acceso y más predecibles a la hora de implementarlas", afirmaron los senadores en la carta.

(Reporte de Courtney Rozen; Editado en ​español por Javier Leira)