Dos menores en EEUU demandan a xAI alegando que Grok generó imágenes sexuales de ellas

Por Mrinmay Dey

17 mar (Reuters) - Tres demandantes del estado ‌de Tennessee, en Estados Unidos, entre ellas dos menores, demandaron el lunes a xAI, empresa ​de Elon Musk, alegando que diseñó a sabiendas su generador de imágenes Grok para permitir a los usuarios crear contenido sexual explícito utilizando fotos reales de otras personas.

La demanda, presentada ​ante el tribunal federal de San José, en California, solicita que se le conceda el estatus de demanda colectiva ​a las personas de Estados Unidos que fueran "razonablemente ⁠identificables" en imágenes o vídeos sexuales generados por Grok a partir de imágenes ‌reales de sí mismas.

La empresa de inteligencia artificial no respondió de inmediato a una solicitud de comentarios de Reuters.

Tras la polémica suscitada por el ​contenido sexual explícito generado por ‌el chatbot, xAI dijo en enero que había bloqueado en todos los ⁠usuarios la posibilidad de editar imágenes de "personas reales con poca ropa" y de generar imágenes de personas con poca ropa en "jurisdicciones donde es ilegal".

* Desde entonces, Estados y organismos reguladores ⁠de todoel mundo también ‌han iniciado investigaciones, impuestoprohibiciones y exigido medidas de seguridad en un esfuerzo ⁠cadavez mayor por frenar el material ilegal y ofensivo. * La demanda alega que xAI ‌no instaló medidas de seguridadpara evitar que sus sistemas generaran contenido sexual ⁠en elque participaran menores. Las tres demandantes eran menores deedad en ⁠el momento en que ‌se generaron las imágenes. * Las demandantes alegan que sus imágenes reales fueronalteradas digitalmente para convertirlas en ​contenido explícitoy luego publicadas en línea en ‌plataformas, lo que les causóangustia emocional y les supuso un agravio público. * Solicitan una indemnización por daños y perjuicios ​sinespecificar, el pago de las costas judiciales y una ordenjudicial que obligue a xAI a poner fin a las supuestasprácticas. * "Se trata de niñas cuyas fotografías escolares yfamiliares ⁠se convirtieron en material de abuso sexualinfantil", dijo en un comunicado la abogada de las demandantes,Annika Martin, de Lieff Cabraser Heimann & Bernstein. "Elon Musky xAI diseñaron deliberadamente Grok para producir contenidosexualmente explícito con fines lucrativos, sin tener en cuentaa los niños y adultos que se verían perjudicados".

(Información de Mrinmay Dey desde Ciudad de México; edición de Edwina Gibbs; edición en ​español de Jorge Ollero Castela)