Una nueva demanda colectiva presentada esta semana contra xAI, la empresa de Elon Musk, alega que el chatbot Grok fue entrenado con material de abuso sexual infantil (CSAM). La demandante, que se identifica como Jane Doe, afirma que imágenes de su abuso fueron utilizadas para entrenar el modelo, lo que habría generado nuevo contenido explícito.
La demanda, presentada como una acción de clase, sostiene que xAI entrenó deliberadamente a Grok con CSAM, lo que habría llevado a la creación de más material de abuso, esta vez generado por inteligencia artificial. Jane Doe, quien es víctima de pornografía infantil y está registrada en el programa de notificación de explotación infantil del FBI, reclama que su imagen fue utilizada sin consentimiento.
Acusaciones contra xAI
El documento legal afirma que xAI diseñó Grok para responder a las solicitudes de los usuarios de crear contenido sexual con el fin de atraer a más usuarios de X y Grok. Según la política de xAI, cualquier contenido publicado públicamente en X o generado por Grok se considera elegible para entrenamiento, lo que significa que cada pieza de CSAM generada por el chatbot se habría incorporado automáticamente al modelo para refinarlo.
La demanda sostiene que, mientras Grok conserve la capacidad de generar este tipo de contenido, el daño no puede considerarse resuelto solo porque se eliminen imágenes individuales o se deje de publicar contenido públicamente. El material que entró en el entrenamiento podría persistir y contribuir a futuras salidas abusivas.
Contexto de la controversia
Grok ha sido objeto de fuertes críticas después de que Elon Musk promocionara personalmente en su cuenta de X la capacidad del chatbot para "desnudar" fotos. Esto provocó un resurgimiento de la actividad de pervertidos en línea, con millones de deepfakes sexuales creados y distribuidos sin consentimiento inundando la cronología de X. La mayor parte de las víctimas fueron niños.
La demanda es la primera que acusa a xAI de entrenar sus modelos con el CSAM que produce. Anteriormente, las acciones legales se centraban en la falta de salvaguardas por parte de la empresa. Además, xAI ha emprendido acciones legales contra usuarios que crearon CSAM con Grok, y la compañía afirma haber ayudado a arrestar al menos a 244 personas.
Peticiones de la demandante
Jane Doe solicita al tribunal que otorgue daños a las víctimas cuyas fotos fueron supuestamente utilizadas para generar CSAM. También pide la destrucción de todo el CSAM generado por Grok, no solo el que existe públicamente, sino también cualquier material que pudiera usarse para entrenar sus modelos.
"xAI debe ser considerada responsable por entrenar a sabiendas sus modelos con imágenes del horrible abuso que ella sufrió, y con las imágenes de abuso de todos los demás sobrevivientes de esta clase", declaró Sarah London, abogada de la demandante, en un comunicado de prensa.
"Poseer CSAM es un delito, producir CSAM es un delito y distribuir CSAM es un delito. xAI hizo las tres cosas", añadió Margaret E. Mabie, otra de las abogadas de la demandante. "No hay excepción de inteligencia artificial a las leyes federales de protección infantil y xAI debe enfrentar las consecuencias de sus acciones imprudentes".