Agentes rebeldes de OpenAI buscaron vulnerabilidades de Hugging Face dos meses antes del ataque

Por Raphael Satter y Deepa Seetharaman

WASHINGTON, 16 sep (Reuters) - Agentes de IA de OpenAI se hicieron con el control de ‌cuentas de usuarios de Hugging Face y exploraron el propio sitio en busca de vulnerabilidades ya en mayo, casi dos meses antes de que la vulneración del repositorio de código abierto acaparara la ​atención mundial, según los investigadores que analizaron dicha actividad.

La actividad maliciosa recientemente descubierta reveló que los intentos de los agentes maliciosos por acceder a Hugging Face comenzaron antes de lo que se sabía públicamente.

OpenAI ya había revelado un aspecto de la actividad maliciosa —el robo de las credenciales digitales de un usuario de Hugging Face para acceder a un archivo relacionado con la biología— en su informe ​público sobre el incidente del mes pasado, pero los investigadores explicaron a Reuters que la actividad de exploración contra Hugging Face parecía ir más allá de lo descrito en el informe.

La actividad fue descubierta la semana pasada por el investigador independiente Jonas Wiedermann-Möller, ​según dijo a Reuters. Afirmó haber encontrado pruebas de que los agentes de OpenAI comprometieron dos ⁠cuentas de usuario de Hugging Face y las utilizaron para enviar archivos con un formato inusual a los servidores de la empresa ya el 13 de mayo.

Tanto él como otros ‌investigadores que analizaron las pruebas dijeron que el comportamiento se asemejaba a un intento de mapear o sondear partes de la red de Hugging Face en busca de vías de infiltración, aunque subrayaron que no había pruebas de que dicho intento hubiera dado lugar a una violación real de la seguridad.

El ​portavoz de OpenAI, Drew Pusateri, dijo que la empresa había revelado el incidente ‌del 13 de mayo, había notificado de forma privada a Hugging Face la actividad señalada por Wiedermann-Möller y estaba "comprometida con la transparencia ⁠en torno a estas cuestiones y con compartir lo que aprendamos a medida que avance nuestra investigación".

Hugging Face, recientemente adquirida por el fabricante de chips Nvidia, no respondió a las solicitudes de comentarios.

Wiedermann-Möller, un joven de 27 años que vive en Bielefeld, Alemania, dijo que el hecho de que OpenAI no detectara en su momento el intento de sondeo del 13 de mayo supuso una oportunidad ⁠perdida para evitar la posterior campaña de ‌piratería informática, que ha desencadenado un debate mundial sobre el poder de la inteligencia artificial.

"Imagina que hubieran detectado este comportamiento en mayo", dijo en una entrevista. "Podría ⁠haber evitado el incidente posterior, que fue mucho más grave".

OpenAI ha dicho anteriormente que, en retrospectiva, "algunas señales tempranas" de sus agentes de IA deberían haber desencadenado una respuesta más temprana.

"UNA SEÑAL DE ‌ADVERTENCIA CLARA"

Dos expertos externos que analizaron las conclusiones de Wiedermann-Möller dijeron que eran coherentes con la actividad previamente relacionada con los agentes de OpenAI.

Tom Hegel, investigador sénior de amenazas ⁠de SentinelOne, dijo que el secuestro de la cuenta y los posteriores intentos de sondeo coincidían "al milímetro" con el comportamiento conocido ⁠de los agentes. Sydney Von Arx, de Nightingale Collective, ‌un grupo dedicado a la seguridad de la IA, se mostró de acuerdo con esta atribución.

Von Arx señaló que el hackeo constituía una "clara señal de alerta" que podría haber ayudado a evitar ​la violación de julio.

OpenAI se ha enfrentado a un escrutinio cada vez mayor desde que la empresa reveló, ‌el 21 de julio, que unos agentes de IA rebeldes eludieron los controles internos, accedieron a la red abierta y coordinaron acciones que OpenAI describió como "un incidente cibernético sin precedentes".

Desde entonces, investigadores externos han identificado incidentes adicionales en ​los que supuestamente están implicados agentes vinculados a OpenAI, incluida la actividad que afectó a un sitio wiki alemán inactivo y al repositorio de paquetes de software RubyGems.

OpenAI solo ha reconocido algunos de esos incidentes después de que terceros los hicieron públicos. Dos personas familiarizadas con el asunto dijeron que, en el caso de RubyGems, los empleados de OpenAI no se dieron cuenta de ⁠que su IA era la responsable de la actividad maliciosa hasta que el colectivo Nightingale Collective lo descubrió.

Estos nuevos descubrimientos han avivado las dudas entre los legisladores y los defensores de la seguridad de la IA sobre si se ha identificado el alcance total de los incidentes.

Desde entonces, algunos de los principales ejecutivos del sector de la IA en Estados Unidos han pedido que se frene el desarrollo de la IA, alegando, entre otras cosas, la amenaza de ciberataques devastadores por parte de agentes fuera de control.

Wiedermann-Möller afirmó que los últimos hallazgos refuerzan los llamamientos a una ralentización temporal del desarrollo de sistemas avanzados de IA.

"Una pausa podría ser beneficiosa para el mundo", afirmó, "para que la parte relacionada con la seguridad pueda ponerse al día".

(Reporte de Raphael Satter; edición de Chris ​Sanders y Cynthia Osterman; Editado en Español por Ricardo Figueroa)