Grok dice que fallos de seguridad resultaron en imágenes de “menores con escasa ropa” en X

2 ene (Reuters) - Grok, el chatbot de inteligencia artificial de la firma xAI de Elon Musk, afirmó ‍el viernes que fallos en las medidas de seguridad generaron "imágenes de menores con escasa ropa" en la red social X y que ‌se están introduciendo mejoras para evitarlo.

Las capturas de pantalla compartidas por los usuarios en X mostraron la pestaña de ​medios públicos de Grok llena de imágenes que, según ⁠los usuarios, fueron alteradas cuando subieron fotos y pidieron al bot que las interviniera.

"Hay casos aislados en ⁠los que los ‍usuarios solicitaron y recibieron imágenes de IA que ⁠mostraban a menores con escasa ropa", dijo Grok en una publicación en X. "xAI tiene salvaguardas, pero hay mejoras en curso ​para bloquear tales solicitudes por completo".

"Como se ha señalado, hemos identificado lapsos en las salvaguardas y los estamos arreglando con ⁠urgencia: el CSAM es ilegal y está prohibido", dijo ​Grok, refiriéndose a Material de Abuso Sexual Infantil ​por su acrónimo ​en inglés.

Grok no dio más detalles.

En otra respuesta a un ​usuario en X el jueves, ⁠Grok dijo que la mayoría de los casos podían evitarse mediante filtros avanzados y monitorización, aunque afirmó que "ningún sistema es 100% infalible", añadiendo que xAI está priorizando las mejoras y revisando ‌los detalles compartidos por los usuarios.

Cuando Reuters se puso en contacto con xAI para pedirle un comentario sobre el asunto por correo electrónico, respondió con el mensaje "Los medios tradicionales mienten".

(Reporte de Arnav Mishra y Akash Sriram en Bengaluru; editado en español ‌por Carlos Serrano)