Grok facilita a creación de contido sexualizado

Pese a suspender algunhas das contas que solicitaron imaxes que poderiamos considerar pornografía infantil, boa parte desas imaxes continúan visibles en X, vulnerando a lexislación

Os escándalos pola falla de control nos contidos por parte das plataformas en liña de Elon Musk están lonxe de ser unha cousa do pasado, e nos últimos días tiveron que recoñecer fallos nos sistemas de protección de Grok que permitiron a xeración e publicación en X de imaxes sexualizadas de menores (e de particulares que non deron consentimento), un feito que vulnera tanto a súa propia política de uso aceptable como a lexislación vixente.
Segundo explicou o propio sistema nunha serie de mensaxes, as imaxes foron creadas en resposta a solicitudes de usuarios nos últimos días e xa foron retiradas da plataforma, destacando que o material de abuso sexual infantil é «ilegal e totalmente prohibido».
A proliferación deste tipo de contidos xerados por IA preocupa especialmente ás organizacións dedicadas á protección da infancia. A Internet Watch Foundation (IWF), entidade sen ánimo de lucro especializada na detección de material de abuso sexual infantil na Rede, informou dun incremento do 400 % nas imaxes deste tipo creadas con IA durante o primeiro semestre de 2025. Segundo a organización, o material está a volverse cada vez máis realista e extremo, ata o punto de cualificar a súa evolución como «arrepiante».
Para a Internet Watch Foundation, o uso da IA para crear imaxes sexualizadas de menores, incluíndo técnicas dixitais para eliminar roupa, representa un desafío urxente que require respostas máis contundentes por parte da industria tecnolóxica e dos reguladores.
A empresa xAI, responsable do desenvolvemento de Grok e da xestión de X, presentou o seu chatbot como unha alternativa máis permisiva fronte a outros modelos de IA. O pasado verán introduciu unha función denominada Spicy Mode, que permite certos espidos parciais e contido sexualmente suxestivo, polo que puxo os alicerces sobre os que se sustentan os problemas actuais, e dicir que a xeración de certos contidos vulneran as súas normas, cando eles subministran as ferramentas para tal vulneración, non parece un argumento sólido para evitar a responsabilidade da compañía.

O abuso non afecta só a menores

Non só os menores se ven atacados por la sexualización das súas fotografías por parte de Grok con ordes tan sinxelas como pedir que imaxine á persoa dunha imaxe cun bikini transparente

Cómpre salientar que nos últimos días son moitas as mulleres (adultas) que están a protestar polo feito de que Grok empregue as súas imaxes sen consentimento para realizar versións sexualizadas das mesmas, o que pode non ser tan grave como a pornografía infantil, pero é igualmente ilegal, e contribúe non só á creación de contido erótico non consentido, senón tamén á proliferación de material que pode empregarse para acosar de distintos xeitos a persoas de calquera condición.
No momento de escribir estas liñas segue a ser posible solicitar este tipo de modificación fotográfica a Grok sen consecuencias visibles para os actores deste tipo de abuso.