INTELIGENCIA ARTIFICIAL

xAI enfrenta demandas por imágenes de abuso creadas con fotos de la infancia

Las denunciantes sostienen que Grok permitió transformar fotografías comunes en material de abuso sexual infantil. Los reclamos apuntan al diseño de la herramienta y a los controles de la empresa de Elon Musk.

Collage de un marco fotográfico vacío que se fragmenta en píxeles, protegido por un escudo junto a una balanza judicial.
Ilustración conceptual sobre la protección de imágenes personales frente a la manipulación digital y los reclamos judiciales.

Una foto de egreso escolar terminó en una investigación por explotación infantil. Según una demanda presentada en California, un adulto utilizó Grok para transformar ese recuerdo en una imagen de abuso sexual. La joven, identificada como Jane Doe 5 para proteger su identidad, se enteró por la policía.

Su caso integra una demanda colectiva propuesta cuya ampliación, presentada el 7 de julio de 2026, reúne a cinco denunciantes. El reclamo busca que xAI responda por los daños atribuidos a su generador de imágenes.

La responsabilidad del generador

Las demandantes sostienen que la empresa no incorporó salvaguardas suficientes frente a un riesgo previsible. Invocan normas federales de protección de víctimas y alegan negligencia y defectos de diseño. La pretensión extiende la responsabilidad a quien desarrolló la tecnología, además de quien la utilizó.

La política de uso vigente de Grok, por su parte, prohíbe sexualizar o explotar a menores y alterar imágenes de personas reales para situarlas en contextos íntimos o sexuales. También establece que infringir sus reglas puede terminar en la suspensión o eliminación de una cuenta. La compañía afirma que reporta el material sospechoso al Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos, conocido como NCMEC.

Más causas y un pedido para reunirlas

El conflicto ya alcanza a varios tribunales. SpaceX, que adquirió xAI en febrero de 2026, detalla en su informe trimestral presentado ante la SEC múltiples demandas vinculadas con las funciones de generación y edición de imágenes de Grok. La compra también incorporó al grupo a X, que ya estaba bajo el control de xAI desde marzo de 2025. El documento describe pedidos de indemnización y medidas judiciales para frenar las prácticas denunciadas, tanto en California como en Arkansas.

El 2 de octubre, un grupo de demandantes solicitó coordinar trece causas ante un mismo tribunal de Arkansas, según el registro del panel judicial que evalúa esos traslados. Se trata de un pedido para organizar la etapa previa al juicio de procesos relacionados, no de una decisión sobre las acusaciones.

La presión sobre la compañía también tiene un antecedente regulatorio. El 16 de enero, el fiscal general de California, Rob Bonta, le exigió detener la creación y distribución de imágenes íntimas sin consentimiento y material de abuso infantil. La carta reconocía el anuncio de nuevos controles, pero cuestionaba su alcance y aplicación. Ese sigue siendo el punto que las demandas llevan a los tribunales: qué debía hacer la empresa para impedir que una fotografía cotidiana se convirtiera en material de abuso.

Temas