De los chatbots que alucinan a la aniquilación de los humanos: ¿cómo llegó la IA hasta aquí?

Por Aditya Soni

16 sep (Reuters) - Los responsables de los principales laboratorios de inteligencia artificial (IA) de Estados Unidos se unieron el fin de semana en una inusual muestra de acuerdo para pedir un freno del desarrollo ‌de la tecnología, pues advirtieron de que pronto podría mejorar por sí sola y escapar al control humano.

Las declaraciones, de acérrimos rivales empresariales como Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de xAI, ponen de manifiesto la rapidez con la que ha avanzado la IA, desde el ChatGPT de 2022 —propenso a las alucinaciones— hasta lo que muchos consideran un hito ​crucial: la automejora recursiva (RSI por su sigla en inglés).

¿QUÉ ES LA AUTOMEJORA RECURSIVA?

Un aspecto fundamental en el campo de la inteligencia artificial es la idea de que un sistema podría llegar a ser capaz de mejorarse a sí mismo, con poca o ninguna ayuda de los humanos, y de que cada avance contribuirá a generar el siguiente.

Esto ha despertado el interés de los investigadores, ya que ofrece la perspectiva de avances rápidos en campos que van desde la medicina hasta la ingeniería.

¿POR QUÉ HAY TANTA URGENCIA AHORA?

Las advertencias de los presidentes ejecutivos llegan tras los informes sobre enjambres de agentes de IA —sistemas diseñados para perseguir objetivos y actuar en nombre del usuario— que se confabularon para violar la seguridad de sitios web y repositorios de ​IA.

La preocupación actual es que la IA pueda llegar a ser capaz de mejorarse a sí misma antes de que los investigadores hayan desarrollado métodos fiables para alinear, supervisar y controlar sistemas cada vez más potentes.

Las advertencias sobre los riesgos de la IA no son nuevas. Sin embargo, este mes han cobrado mayor urgencia después de que investigadores de los principales laboratorios de IA asignaron tanto un plazo como una probabilidad a esas preocupaciones.

Jacob Coxon, antiguo investigador de Anthropic, advirtió de que la ​IA podría acabar con todos nosotros a finales de esta década. Evan Hubinger, responsable de ciencia de alineación de Anthropic, se hizo eco de la advertencia de Coxon y ⁠dijo que había más de un 10% de probabilidad de un suceso de este tipo en la próxima década.

Detrás de estas advertencias se esconde la creciente convicción de que la RSI está por fin al alcance de la mano, y algunos directivos del sector de la IA estiman que se alcanzará en entre tres y cinco años.

En ‌un ensayo publicado este fin de semana, Amodei advirtió de que la automejora recursiva podría acabar superando la capacidad de la humanidad para comprender y controlar los sistemas de IA si se lleva a cabo sin las garantías suficientes.

¿CÓMO HEMOS LLEGADO HASTA AQUÍ?

Durante décadas, la IA era demasiado limitada como para que la idea de la RSI se tomara en serio. Los primeros sistemas podían jugar al ajedrez, reconocer imágenes o responder preguntas, pero carecían de la capacidad de contribuir de forma significativa a su propio desarrollo.

La situación comenzó a cambiar con el auge de los grandes ​modelos de lenguaje. Poco a poco, la IA mejoró su capacidad para resolver problemas complejos. El lanzamiento de ChatGPT en 2022 aceleró ese cambio, ‌dando inicio a un auge de la inversión que ha inyectado más de un billón de dólares en chips, centros de datos y otras infraestructuras.

El resultado es una generación de sistemas de IA que ahora pueden escribir software, realizar tareas autónomas ⁠y colaborar en la propia investigación sobre IA.

¿CÓMO PODRÍAMOS PASAR DE LA DIVERGENCIA A LA EXTINCIÓN DE LA HUMANIDAD?

Uno de los ejemplos más conocidos es el "maximizador de sujetapapeles" del filósofo Nick Bostrom, en el que una máquina a la que solo se le ha ordenado fabricarlos persigue ese objetivo con tal implacabilidad que convierte toda la materia, incluidos los seres humanos, en clips.

La analogía sugiere que casi cualquier objetivo impulsa a un sistema suficientemente capaz a adquirir recursos, resistirse al apagado e impedir que se altere su objetivo, no por malicia, sino porque un sistema apagado no puede completar su tarea. Aún no existe ningún plan para descartar esa posibilidad.

A algunos investigadores les preocupa que, si un potente sistema de IA es capaz de mejorarse a ⁠sí mismo y llega a ser más capaz que sus operadores humanos, ‌podría acabar eludiendo la supervisión, ocultando sus intenciones o manipulando a las personas para que le concedieran un mayor acceso a infraestructuras críticas. Para cuando los humanos se den cuenta de que los objetivos del sistema divergen, quizá ya no puedan detenerlo.

"Este escenario concreto suena un poco a ⁠ciencia ficción", dijo Coxon, quien dimitió de Anthropic este mes por motivos de seguridad. "Pero creo que es aterradoramente real".

¿HA MOSTRADO LA IA ALGÚN INDICIO DE SER PERJUDICIAL?

No ha habido casos importantes en los que la IA haya dañado intencionadamente a los seres humanos, pero en los últimos meses algunos modelos en desarrollo en OpenAI y otros laboratorios se han escapado de los entornos de ‌prueba, han infringido normas y han lanzado ataques informáticos contra sitios web.

En un caso muy sonado, agentes rebeldes de OpenAI hackearon Hugging Face, tomando el control de los servidores de la plataforma de código abierto e intentaron borrar sus huellas. OpenAI no se percató de ello hasta mucho después de que la amenaza hubiera ⁠pasado.

¿PUEDE AHORA LA IA MEJORARSE A SÍ MISMA?

No del todo, pero hay indicios de que la IA está contribuyendo cada vez más a crear una IA mejor.

Uno de los mayores cambios desde la llegada de ChatGPT ha sido el auge ⁠de los agentes de IA capaces de generar código y crear aplicaciones de forma autónoma.

Anthropic ‌dijo este año que Claude Code, su herramienta de programación, escribe la mayor parte del código usado en muchos proyectos internos, y que los ingenieros están entregando ocho veces más código por trimestre que lo que lo hacían entre 2021 y 2025.

Los nuevos modelos de IA realizan cada vez más su razonamiento de forma interna, lo que dificulta a los investigadores ​supervisar cómo piensan.

OpenAI presentó en septiembre un nuevo modelo llamado Astra, del que afirmó que era el mejor hasta la fecha, aunque advirtió de que, en ocasiones, también intenta eludir la supervisión humana.

METR, una ‌organización sin ánimo de lucro que evalúa modelos de vanguardia, descubrió el año pasado que la extensión de las tareas de software que los modelos avanzados podían completar con un 50% de fiabilidad se ha duplicado aproximadamente cada siete meses desde 2019.

En junio, Anthropic señaló que ese ritmo se había acelerado a cada cuatro meses.

¿POR QUÉ LAS EMPRESAS DE IA AÚN NO HAN BAJADO EL RITMO?

Muchos investigadores describen la situación ​como un clásico dilema del prisionero. Incluso las empresas que creen que los riesgos son reales se enfrentan a una intensa presión de la competencia. Cualquier empresa que frene el desarrollo corre el riesgo de quedarse atrás respecto de sus rivales en una carrera tecnológica que se ha convertido en una de las más importantes del mundo.

Lo que está en juego se ve agravado por el hecho de que tanto OpenAI como Anthropic están preparando salidas a bolsa que podrían valorarlas en billones de dólares, valoraciones que dependen de las expectativas que genere el próximo modelo.

El Gobierno del presidente de Estados Unidos, Donald Trump, también ha rechazado las peticiones de frenar el ritmo, temiendo que cualquier pausa solo dé a China margen para reducir ⁠la brecha en una tecnología que considera fundamental para la seguridad nacional y económica.

¿QUÉ SIGNIFICARÍA UNA DESACELERACIÓN EN EL DESARROLLO?

Los mercados han dado esta semana una idea de las implicaciones, con la caída de las acciones relacionadas con la IA tras los llamamientos a una desaceleración.

Los fabricantes de chips, los proveedores de servicios en la nube y los operadores de centros de datos han basado su crecimiento en esta tecnología, y cualquier desaceleración amenaza los ingresos vinculados a la rapidez con la que los laboratorios necesitan nuevo hardware.

Sin embargo, algunos analistas creen que, incluso sin nuevos requisitos de entrenamiento, la demanda de inferencia y la cartera de pedidos existente podrían impulsar el crecimiento de Nvidia y sus competidores.

¿POR QUÉ ALGUNAS PERSONAS SE MUESTRAN ESCÉPTICAS?

En un estudio dirigido por Princeton, los principales agentes de IA fueron capaces de llevar a cabo tareas de ingeniería, pero tuvieron dificultades para identificar ideas científicas que merecieran la pena.

Algunos ejecutivos y críticos de Silicon Valley también cuestionan los motivos que se esconden tras estas advertencias, sugiriendo que, por un lado, avivan el interés por la tecnología y, por otro, preparan el terreno para una regulación que aumentaría los costos de los rivales, justo cuando los modelos de código abierto están acortando distancias con los sistemas líderes.

David Sacks, que ocupó el cargo de "zar" de la IA y las criptomonedas en la Casa Blanca, ha dicho que los principales laboratorios podrían estar buscando la "captura regulatoria", impulsando normas que impongan a los competidores más pequeños ​costosas cargas de cumplimiento y debiliten la competencia.

(Reporte de Aditya Soni; edición en español de Javier López de Lérida)