xAI demanda un usuario de Grok por usar a IA para crear imaxes sexualizadas

xAI, a empresa de intelixencia artificial fundada por Elon Musk, presentou unha demanda contra un home de Carolina do Sur (EE.UU.) acusado de empregar Grok para xerar material de abuso sexual infantil e imaxes sexualizadas sen consentimento mediante intelixencia artificial. Trátase dun dos primeiros procedementos xudiciais impulsados por unha compañía de IA contra un dos seus propios usuarios por un suposto uso delituoso da plataforma.
A demanda foi presentada o martes nun tribunal federal de Texas contra Terry Harwood, detido en febreiro por presuntos delitos de explotación sexual de menores. Segundo xAI, o acusado incumpriu as condicións de uso de Grok ao cargar imaxes non sexuais de adultos e menores co obxectivo de transformalas en contidos sexualmente explícitos mediante técnicas de deepfake. O escrito tamén sostén que xerou imaxes sexualizadas de adultos sen o seu consentimento.
O texto presentado ante o tribunal solicita unha indemnización por danos e prexuízos, sen concretar a súa contía, ademais dunha orde xudicial que prohiba de forma permanente ao demandado volver utilizar Grok.
Segundo recolle a demanda, «as accións do demandado constituíron un plan deliberado para converter a ferramenta da demandante nun instrumento para fins criminais, expoñendo vítimas reais a un dano profundo e duradeiro, ao tempo que sometía a demandante a importantes riscos legais e reputacionais».
Na demanda, xAI asegura que aplica medidas para combater estes abusos mediante a suspensión e cancelación de contas e a comunicación dos casos sospeitosos ao National Center for Missing & Exploited Children (NCMEC). A empresa afirma que durante 2026 suspendeu 52.222 contas e remitiu 73.604 informes ao organismo estadounidense, actuacións que, segundo sostén, contribuíron a polo menos 244 detencións.
Cómpre salientar que as afirmacións de xAI chocan frontalmente coas denuncias de numerosos organismos de todos o mundo e numerosas investigacións abertas sobre o rol que xogou a compañía de Elon Musk na proliferación de imaxes ilegais creadas coa axuda de Grok, resultando moi irresponsable por parte da compañía pór unicamente en mans dos usuarios a responsabilidade dunhas prácticas que incluso hoxe seguen a promover. De atender a estes argumentos, a suposta política de tolerancia cero en X e a denuncia presentada en Carolina do Sur non serían máis que un xeito de protexerse ante accións xudiciais e lexislativas que poderían desembocar en sancións que poderían ir máis aló do económico.