China publica un proyecto para regular la IA que interactúa como los humanos

PEKÍN, 27 dic (Reuters) - El regulador cibernético de China publicó el sábado un proyecto de normas, abiertas a comentarios ‍del público, que reforzaría la supervisión de los servicios de inteligencia artificial (IA) diseñados para simular personalidades humanas e involucrar a los usuarios en interacciones ‌emocionales.

La medida destaca el esfuerzo de Pekín por dar forma al rápido despliegue de la IA orientada al consumidor con el ​refuerzo de los requisitos éticos y de seguridad.

Las normas propuestas se ⁠aplicarían a los productos y servicios de IA ofrecidos al público en China que presenten rasgos de personalidad, patrones ⁠de pensamiento y estilos ‍de comunicación humanos simulados, e interactúen emocionalmente con los ⁠usuarios a través de texto, imágenes, audio, vídeo u otros medios.

El proyecto establece un enfoque regulador que obligaría a los proveedores a advertir a ​los usuarios contra el uso excesivo y a intervenir cuando los usuarios muestren señales de adicción.

Según la propuesta, los proveedores de servicios tendrían ⁠que asumir responsabilidades de seguridad durante todo el ciclo de ​vida del producto y establecer sistemas de revisión de ​algoritmos, seguridad de ​datos y protección de la información personal.

El proyecto también se centra en ​los posibles riesgos psicológicos.

Los proveedores tendrían ⁠que identificar los estados de los usuarios y evaluar sus emociones y su nivel de dependencia del servicio. En caso de que los usuarios muestren emociones extremas o comportamientos adictivos, los proveedores deberán tomar las medidas ‌necesarias para intervenir.

Las medidas fijan líneas rojas en materia de contenidos y conducta, estableciendo que los servicios no deben generar contenidos que pongan en peligro la seguridad nacional, difundan rumores o promuevan la violencia o la obscenidad.

(Reporte de Liangping Gao y Ryan Woo; edición en español de ‌Javier López de Lérida)