Anthropic advierte que actitudes de gobiernos podrían dañar relaciones con clientes, muestra documento

Por Echo Wang y Milana Vinn

NUEVA YORK, 2 oct (Reuters) - Anthropic advirtió que las actitudes de ‌los gobiernos hacia la empresa y su tecnología podrían tener implicaciones más amplias para su negocio, incluidas sus relaciones con clientes y socios comerciales, según un folleto ​de salida a bolsa al que tuvo acceso Reuters.

Las empresas suelen advertir que los cambios en las políticas podrían afectar a su negocio, especialmente en el caso de los contratistas del Gobierno.

Por ejemplo, SpaceX señaló en su solicitud de salida a bolsa que mantener unas relaciones sólidas con las agencias gubernamentales de Estados Unidos es ​fundamental para su negocio y advirtió de que cualquier deterioro de dichas relaciones podría perjudicar de forma significativa su capacidad para conservar los negocios existentes y conseguir nuevas oportunidades.

La información facilitada por Anthropic parece más amplia, ​ya que sugiere que las percepciones de los gobiernos sobre la empresa y ⁠su conducta podrían ir más allá de sus relaciones directas y afectar a clientes, socios, otras relaciones comerciales e incluso a la civilización.

El documento ‌advierte que la IA avanzada podría suponer "riesgos catastróficos o existenciales para la humanidad", una advertencia extraordinaria por parte de una empresa que planea una salida a bolsa que podría valorarse en 2 billones de dólares gracias a la capacidad de la empresa para ​obtener beneficios de esa misma tecnología.

La empresa ha señalado que ‌los ingresos procedentes de contratos con organismos gubernamentales representan menos del 1% de su facturación anual.

La empresa se ha ⁠convertido en un foco de preocupación por los riesgos que conllevan el rápido avance, la intensa competencia global y la limitada supervisión de las tecnologías de IA.

La cuestión general de la seguridad de la IA ha saltado a la palestra pública recientemente con el llamamiento del director ejecutivo de Anthropic, Dario Amodei, para que el ⁠sector ralentice su desarrollo, tras ‌los repetidos casos de actividades de ataques informáticos por parte de los denominados agentes de IA autónomos fuera de control.

Amodei se reunió ⁠el domingo pasado a cenar con el presidente de Estados Unidos, Donald Trump, en un momento en que han aumentado los llamamientos a una mayor regulación de ‌la IA.

Trump ha rechazado en gran medida esos llamamientos, aunque la Comisión Federal de Comercio está llevando a cabo una investigación que abarca ⁠todo el sector de las empresas de IA, incluida Anthropic, informó Reuters el miércoles.

En el folleto de salida ⁠a bolsa, Anthropic citó varias interacciones con ‌el Gobierno de Estados Unidos durante el último año como ejemplos de acciones que podrían perjudicar a su negocio.

El documento indica que, en febrero, el presidente ordenó ​a las agencias federales que dejaran de utilizar los modelos de la empresa y que ‌el Departamento de Defensa de Estados Unidos calificó a Anthropic como un riesgo para la seguridad nacional en la cadena de suministro.

"La empresa podría sufrir pérdidas sustanciales de ingresos o interrupciones ​en su actividad atribuibles a estos acontecimientos", señaló Anthropic.

Anthropic también señaló que, en junio, el Departamento de Comercio de Estados Unidos impuso restricciones de exportación a nivel mundial sobre sus modelos Fable 5 y Mythos 5, lo que llevó a la empresa a desactivar dichos modelos para todos los clientes con el fin ⁠de garantizar el cumplimiento de la normativa.

Aunque el Departamento de Comercio levantó posteriormente dichas restricciones y Anthropic volvió a poner en funcionamiento los modelos, la empresa advirtió de que podrían producirse medidas similares en el futuro.

Tales medidas podrían dar lugar a "un daño significativo a la reputación, incluida una cobertura mediática adversa, el escrutinio público y percepciones negativas entre los clientes actuales y potenciales, socios, empleados e inversores", independientemente del resultado final.

La empresa añadió que la venta a organismos públicos conlleva riesgos adicionales, entre ellos cambios en la opinión del Gobierno sobre Anthropic o su tecnología.

(Reporte de Echo Wang y Milana Vinn en Nueva York; edición de Colin Barr ​y David Gaffen; Editado en Español por Ricardo Figueroa)