Anthropic pone sus modelos de IA más potentes a disposición de más equipos de seguridad

6 oct (Reuters) - Anthropic está ampliando un programa que permite a ‌profesionales de la ciberseguridad debidamente acreditados probar sus modelos de IA más potentes con menos medidas de ​seguridad, después de que su iniciativa "Project Glasswing" ayudara a descubrir más de 100.000 vulnerabilidades de software este año.

Sus socios en el marco de Glasswing, una iniciativa destinada a proteger el software más crítico del mundo, ​detectaron al menos 129.000 vulnerabilidades verificadas entre abril y julio. El propio escáner de código abierto de Anthropic detectó otras 5.500 entre abril ​y octubre.

Hasta la fecha, más de 33.000 han sido ⁠clasificadas como críticas o de gravedad alta.

Anthropic ha señalado que es probable que estas cifras estén ‌por debajo de la realidad y espera que el impacto real sea al menos cinco veces mayor, ya que los datos proceden de una encuesta realizada a un ​número limitado de socios.

El renovado Programa ‌de Verificación Cibernética (CVP, por sus siglas en inglés), anunciado el martes, combina ⁠dos programas que Anthropic ha llevado a cabo durante los últimos seis meses.

El primero, Glasswing, ofrecía a las organizaciones encargadas de proteger software crítico acceso a Claude Mythos, la familia de modelos de Anthropic con ⁠mayor capacidad cibernética. El ‌segundo, el CVP original, proporcionaba a equipos de seguridad acreditados un acceso con restricciones ⁠a los modelos Claude Opus y Sonnet.

La presentación en abril por parte de la empresa de la ‌versión preliminar de Claude Mythos suscitó el temor de que la inteligencia artificial pudiera piratear ⁠el software antes de que este hubiera sido protegido.

El nuevo programa cuenta ⁠con tres niveles, cada uno ‌con sus propios requisitos de verificación y controles de seguridad. Los tres incluyen acceso a Claude Opus ​5.5, Sonnet 5.5, Mythos 5.1 y futuros modelos.

El nivel "Defensa" ‌abarca tareas como la respuesta a incidentes y el análisis de malware. Pueden solicitarlo equipos de seguridad, operadores de infraestructura crítica, responsables ​del mantenimiento de software de código abierto e investigadores con un historial de vulnerabilidades notificadas.

El nivel "Red Team" añade pruebas de penetración autorizadas y simulacros de ataque, pero solo pueden solicitarlo las organizaciones.

El nivel "Specialized" ⁠es el que presenta menos restricciones y está reservado a un pequeño grupo de organizaciones autorizadas para probar sistemas críticos para la seguridad, como redes eléctricas, sistemas de vuelo e infraestructuras de transferencias interbancarias.

Anthropic evalúa a cada miembro junto con el Gobierno de Estados Unidos, y los miembros actuales de Glasswing pasarán a formar parte de este nivel.

(Reporte de Anzar Mehraj en Bangalore y Jeffrey Dastin en San Francisco; ​edición en Español de Manuel Farías)