Olah de Anthropic dice que la IA debe ser dirigida desde fuera de grandes tecnológicas

CIUDAD DEL VATICANO, 25 mayo (Reuters) - Chris Olah, cofundador de Anthropic, ‌dijo el lunes que el desarrollo de la inteligencia artificial no puede dejarse exclusivamente en manos de las ​empresas tecnológicas, e instó a una mayor supervisión por parte de los líderes religiosos, los gobiernos y la sociedad civil.

En su intervención durante la presentación de la primera encíclica del papa León XIV sobre inteligencia artificial, ​Olah señaló que existe "una posibilidad real" de que la IA sustituya al trabajo humano "a gran escala".

"Si eso ocurre, apoyar a las personas desplazadas será ​un imperativo moral de proporciones históricas", dijo, sentado junto ⁠al Santo Padre.

Añadió que empresas como la suya operan bajo fuertes presiones comerciales, geopolíticas y personales ‌que pueden entrar en conflicto con los intereses generales de la sociedad.

"Todos los laboratorios de vanguardia en IA... operan dentro de un conjunto de incentivos y limitaciones que a ​veces pueden entrar en conflicto con ‌hacer lo correcto", dijo, añadiendo que incluso los investigadores bienintencionados siguen estando influenciados ⁠por esas fuerzas.

Olah señaló que esto hacía imprescindible el escrutinio externo.

Anthropic es una empresa con sede en Estados Unidos que produce las herramientas de IA Claude. Ha chocado con la administración del presidente Donald Trump, sobre ⁠todo al insistir en medidas ‌de protección que restrinjan cómo se pueden utilizar sus modelos con fines militares, como ⁠el apuntado autónomo de armas o la vigilancia interna.

Olah acogió con satisfacción el compromiso de la Iglesia ‌con esta tecnología en rápido desarrollo, afirmando que las cuestiones éticas que plantea la IA ⁠van mucho más allá de la ingeniería.

"Las cuestiones que plantea la IA trascienden ⁠a la comunidad investigadora en ‌este campo", afirmó, y pidió "críticas serias y reflexivas" que puedan cuestionar a las empresas y ayudar a orientar ​la creación de nuevos y potentes sistemas en una ‌dirección positiva.

Olah destacó tres áreas que, según él, requerían atención urgente: el riesgo de una pérdida generalizada de puestos de trabajo, la ​necesidad de garantizar que los beneficios de la IA se extiendan a todo el mundo y la cuestión sin resolver de cómo interpretar el comportamiento de los sistemas, cada vez más complejo y a ⁠veces opaco.

"El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial?", preguntó Olah.

El evento del lunes supuso una inusual convergencia entre el sector tecnológico y la Iglesia católica, que ha tratado de posicionarse como una voz moral sobre las implicaciones de los rápidos avances en IA.

(Reporte de Giselda Vagnoni y Joshua McElwee; edición de Crispian Balmer; ​Editado en Español por Ricardo Figueroa)