Rey Carlos advierte a líderes del sector de la IA sobre “peligros existenciales” en cita en Escocia

Por Gerhard Mey

CUMNOCK, Escocia, 17 sep (Reuters) - El rey Carlos ‌advirtió el jueves a los líderes del sector de la inteligencia artificial sobre los "peligros existenciales" ​que supone que esta tecnología caiga en manos equivocadas, con consecuencias potencialmente catastróficas, y afirmó que es necesario establecer medidas de seguridad antes de que sea "demasiado tarde". 

El monarca británico recibió ​en Escocia a los cofundadores de Nvidia y Google DeepMind, junto con líderes de OpenAI y Anthropic, en un momento ​en que crece la preocupación por que los ⁠esfuerzos en materia de seguridad de la IA vayan a la zaga del desarrollo ‌de sistemas cada vez más potentes.

En las últimas semanas, el debate se ha centrado en si el sector puede y debe autorregularse, lo que ha ​suscitado intervenciones de figuras mundiales ‌como el papa León XIV, el rey Carlos y el presidente ⁠de Estados Unidos, Donald Trump. 

Carlos afirmó que la IA tiene el potencial de mejorar y salvar vidas, sobre todo en las ciencias de la vida y la medicina. Sin embargo, sus ⁠creadores advierten cada vez ‌más de que podría desarrollar capacidades más oscuras, "quizá incluso para quitar la ⁠vida", añadió.

"Parece urgente considerar de forma adecuada los peligros existenciales de que estas tecnologías caigan ‌en manos equivocadas y se usen de formas potencialmente catastróficas", declaró a los ⁠líderes reunidos en su finca de Dumfries House. "Sin duda, necesitamos medios ⁠de control suficientes antes ‌de que sea demasiado tarde, ¿no?".

Entre los asistentes se encontraban el fundador y presidente ejecutivo de ​Nvidia, Jensen Huang; el fundador y presidente de ‌Google DeepMind, Demis Hassabis; la presidenta financiera de OpenAI, Sarah Friar, y el ministro británico de Inteligencia Artificial, Kanishka ​Narayan.

También se esperaba la presencia de Paolo Benanti, asesor del papa que ha instado a los gobiernos a frenar el desarrollo de la IA. 

El Palacio de Buckingham dijo que ⁠en los debates se analizará si un conjunto de principios compartidos podría orientar la futura aplicación de la IA, "no solo como motor de capacidad y eficiencia, sino como herramienta que defienda la dignidad humana y contribuya al florecimiento tanto de las personas como del planeta".

(Reporte adicional de William James, en Londres; escrito por Kate Holton y Paul Sandle, en Londres; editado ​en español por Carlos Serrano)