Bill Gates se suma a los llamados sobre medidas de protección frente a la IA

Por Idrees Ali y Trevor Hunnicutt

WASHINGTON/CHICAGO, 27 sep (Reuters) - La inteligencia artificial requiere medidas de ‌protección que vayan más allá de la autorregulación, afirmó el cofundador de Microsoft, Bill Gates, en una entrevista emitida el domingo, en la que pidió ​que se apruebe una ley en el Congreso.

"Es necesario que las fuerzas del orden y los políticos se sumen al debate sobre cómo deben ser esas medidas de seguridad y ese control", afirmó Gates en una entrevista grabada para el programa Meet the Press de la NBC. "Y eso tiene que ​ser obligatorio".

Se ha producido una repentina oleada de apoyo a la intervención federal después de que OpenAI anunciara en julio que un agente autónomo de IA se rebeló durante una prueba de ​seguridad y pirateó otra empresa, eludiendo el control humano. Gates se sumó a ⁠ese coro, afirmando que el Gobierno debe intervenir.

"Nadie cree que la autorregulación sea suficiente", afirmó.

En una inusual muestra de unidad, los directores ‌ejecutivos de las empresas rivales Anthropic, OpenAI, DeepMind, de Google, Microsoft y xAI han pedido que se frene el desarrollo de sistemas de IA cada vez más capaces.

Sin embargo, el presidente de Estados Unidos, Donald Trump, y otros detractores ​de una mayor regulación de la IA sostienen que las ‌nuevas restricciones gubernamentales no harían más que dar ventaja a China en la revolución de la IA. ⁠Trump ha desestimado las peticiones de nuevas leyes sobre la IA.

Gates argumentó que las medidas de protección no supondrían un obstáculo drástico para el sector y que los riesgos de no aplicarlas son reales.

"No es ningún infundio en absoluto", declaró a la NBC.

Gates ha manifestado que quiere reunirse con Trump ⁠para hablar sobre la IA.

"Espero ‌que, dada mi trayectoria profesional en este campo, el hecho de que yo explique lo singular y diferente que es ⁠esto y lo preocupado que estoy sirva para complementar lo que él está escuchando de otras personas", afirmó Gates.

Se espera que el director ejecutivo ‌de Anthropic, Dario Amodei, cene con Trump el domingo, según una fuente familiarizada con el asunto. Axios ya había informado de ⁠la cena.

Ni Anthropic ni la Casa Blanca respondieron de inmediato a una solicitud de comentarios.

"El presidente Trump ⁠ha sido claro: Estados Unidos liderará el ‌mundo en materia de superinteligencia, al tiempo que protegerá a los consumidores estadounidenses", afirmó un funcionario de la Casa Blanca.

Las advertencias sobre los riesgos ​de la IA no son nuevas. Sin embargo, este mes han cobrado mayor urgencia ‌después de que investigadores de los principales laboratorios de IA asignaran tanto un plazo como una probabilidad a esas preocupaciones.

El exinvestigador de Anthropic Jacob Coxon advirtió de que la ​IA podría acabar con todos nosotros a finales de esta década, lo que llevó a los legisladores estadounidenses a reclamar nuevas normas para regular esta tecnología. Evan Hubinger, responsable de ciencia de alineación de Anthropic, se hizo eco de la advertencia de Coxon y afirmó que había más ⁠de un 10% de probabilidades de que se produjera un suceso de este tipo en la próxima década.

Algunos responsables políticos han propuesto imponer un "interruptor de emergencia" que permitiría a las autoridades federales detener los modelos de IA. Gates afirmó que, aunque no se oponía a algún tipo de interruptor de emergencia, éste no sería suficiente si no se implementaran también otras medidas de seguridad.

Estados Unidos y China acordaron iniciar un diálogo sobre la IA tras la reciente visita del presidente Xi Jinping a Washington.

(Reporte de Idrees Ali y Trevor Hunnicutt en Chicago; información adicional de Arathy Somasekhar; edición de ​Mark Porter. Editado en español por Natalia Ramos)