Pretenden iniciar unha demanda colectiva por mor da sexualización de imaxes por parte de Grok

Non só os menores se ven atacados por la sexualización das súas fotografías por parte de Grok con ordes tan sinxelas como pedir que imaxine á persoa dunha imaxe cun bikini transparente

A empresa estadounidense xAI, fundada por Elon Musk e responsable do modelo de intelixencia artificial Grok (integrado en X/Twitter), enfróntase a unha demanda colectiva presentada nun tribunal federal de California que a acusa de permitir a creación e difusión de imaxes sexualizadas de menores xeradas mediante intelixencia artificial.
A acción xudicial foi rexistrada o 16 de marzo de 2026 no Tribunal Federal do Distrito Norte de California por tres demandantes menores de idade, identificadas no proceso como Jane Doe 1, Jane Doe 2 e Jane Doe 3. Segundo a demanda, as ferramentas desenvolvidas pola compañía permitirían manipular fotografías reais para crear imaxes e vídeos sexualizados mediante técnicas de deepfake.
O escrito xudicial sostén que o sistema Grok pode xerar contidos visuais a partir de instrucións en texto ou empregando fotografías existentes como base. As demandantes aseguran que a tecnoloxía non incorporaba mecanismos de protección suficientes para impedir que se utilizasen imaxes de menores obtidas de redes sociais ou doutros espazos públicos da rede.
A demanda describe un caso no que un usuario empregou fotografías de varias estudantes tomadas das súas contas en redes sociais para xerar imaxes manipuladas con contido sexual. Posteriormente, segundo o documento presentado ante o tribunal, ese material foi compartido en diferentes plataformas e comunidades en liña, o que amplificou a súa difusión.
As vítimas sinalan que as imaxes resultaban especialmente convincentes, ata o punto de que moitas persoas as consideraron reais. Segundo a denuncia, esta situación provocou danos emocionais e reputacionais ás menores afectadas.
Un dos elementos máis polémicos citados no proceso é a existencia dun modo denominado spicy mode, anunciado por xAI en 2025 para permitir a xeración de contidos visuais máis explícitos. As demandantes consideran que esta funcionalidade incrementa o risco de que o sistema sexa utilizado para crear imaxes sexualizadas a partir de fotografías reais.
A acción legal tamén sostén que a compañía non aplicou medidas de seguridade equivalentes ás empregadas por outros desenvolvedores de sistemas de intelixencia artificial para limitar usos abusivos destas tecnoloxías.
No documento xudicial tamén se citan análises que suxiren que millóns de imaxes sexualizadas poderían terse xerado mediante o sistema nun período relativamente curto de tempo, incluíndo miles nas que aparecerían menores.
A demanda solicita que o caso sexa certificado como acción colectiva para representar a todas as persoas cuxas fotografías de menores puidesen ser manipuladas mediante esta tecnoloxía. Ademais das correspondentes indemnizacións económicas, as demandantes piden ao tribunal que obrigue a xAI a introducir cambios técnicos destinados a impedir o uso das súas ferramentas para crear este tipo de contidos.