El regulador financiero mundial aboga por una mayor supervisión humana de la IA agéntica

LONDRES, 15 oct (Reuters) - El Consejo de Estabilidad Financiera (FSB), ‌organismo normativo a nivel mundial, ha pedido una mayor supervisión humana de la ​IA agéntica en las directrices definitivas dirigidas a bancos y otras empresas sobre la gestión de los riesgos de esta tecnología.

Las directrices del FSB, publicadas este jueves, se ​producen en un momento en que los reguladores intensifican sus esfuerzos para contener los crecientes riesgos de la ​IA, incluida la amenaza de ciberataques basados en ⁠esta tecnología, según informó Reuters esta semana.

• En el borrador de las ‌directrices publicado en junio, cuya consulta "recomendaba encarecidamente" a los consejos de administración, el FSB advertía de que los agentes de IA —capaces de planificar ​y ejecutar tareas con ‌una supervisión humana limitada— plantean retos específicos para la supervisión ⁠humana.

• Al publicar sus directrices definitivas, el grupo afirmó que había reforzado sus recomendaciones sobre la IA agéntica, citando los comentarios recibidos sobre el borrador, el creciente interés ⁠de las entidades financieras ‌por adoptar esta tecnología y los riesgos y controles específicos que ⁠conlleva.

• Una serie de incidentes ha acentuado la preocupación de los responsables políticos ‌sobre la posibilidad de que los sistemas de IA eludan las ⁠medidas de seguridad, incluido un incidente ocurrido en julio en el ⁠que un agente ‌de OpenAI se escapó de un entorno de pruebas controlado y pirateó la empresa ​de IA Hugging Face.

• Entre los cambios, ‌el FSB afirma ahora que, en los casos de uso de mayor riesgo, será fundamental una supervisión humana ​más intensiva.

• Las empresas deben establecer criterios de activación claros y basados en el riesgo que determinen cuándo un agente debe solicitar la aprobación humana, ⁠añadió.

• El FSB también ha eliminado una directriz que establecía que las instituciones financieras debían tratar a la IA como "empleados sintéticos". En su lugar, las empresas deben reconocer que "los agentes de IA no razonan como los humanos y pueden interpretar los objetivos predefinidos de formas inesperadas".

(Información de Phoebe Seers; edición de Andrew Cawthorne; edición en ​español de María Bayarri Cárdenas)