Florida se convierte en el primer estado en demandar a OpenAI por riesgos para la seguridad infantil

Por Diana Novak Jones

1 jun (Reuters) - Florida demandó el lunes ‌a OpenAI y a CEO, Sam Altman, de falsear la seguridad de su plataforma ChatGPT, ​señalando que la empresa ha perjudicado a los niños al dar información a autores de tiroteos en centros educativos, ofrecer orientación sobre autolesiones y crear adicción entre los usuarios jóvenes.

Florida se ​convierte así en el primer estado en emprender acciones legales contra la empresa.

El fiscal general de Florida, James Uthmeier, presentó ​la demanda ante un tribunal estatal de Florida. ⁠En ella se citaba un tiroteo ocurrido el año pasado en una universidad de ‌Tallahassee y una serie de sucesos en otros estados en los que ChatGPT supuestamente proporcionó información a personas que posteriormente cometieron actos violentos.

En una rueda ​de prensa, Uthmeier afirmó que ‌el estado había nombrado personalmente a Altman porque había sido "fundamental" a ⁠la hora de impulsar algunas de las funciones de ChatGPT que, según dijo, habían sido las más perjudiciales.

"Hay personas que están resultando heridas, los padres están siendo engañados, y ellos deben ⁠pagar por ello", ‌declaró Uthmeier a periodistas.

La demanda reclama una indemnización de hasta miles de millones ⁠de dólares, según Uthmeier, además de una orden judicial que obligue a la empresa ‌a cambiar la forma en que interactúa con los usuarios jóvenes.

Un portavoz de ⁠OpenAI no respondió de inmediato a una solicitud de comentarios.

OpenAI ha afirmado ⁠que entrena a sus ‌modelos para que rechacen solicitudes que puedan "facilitar de manera significativa la violencia", y notifica a ​las fuerzas del orden cuando las conversaciones sugieren "un ‌riesgo inminente y creíble de daño a terceros", con la ayuda de expertos en salud mental para evaluar los ​casos dudosos.

Uthmeier anunció en abril que iba a iniciar una investigación penal sobre el papel de ChatGPT en un tiroteo masivo ocurrido en 2025 en la Universidad Estatal ⁠de Florida, después de que los fiscales revisaran los registros de chat entre el presunto autor de los disparos y el programa.

Las empresas de IA se enfrentan a una creciente oleada de demandas que las acusan de no haber impedido interacciones con chatbots que, según los demandantes, contribuyen a la autolesión, las enfermedades mentales y la violencia.

(Reporte de Diana Novak Jones; Editado ​en español por Juana Casas)