Comezan os bloqueos a Grok por facilitar a creación de contidos ilícitos

Malaisia e Indonesia convertéronse nos primeiros países do mundo en bloquear Grok, o chatbot de intelixencia artificial desenvolvido pola empresa xAI de Elon Musk, ante a preocupación crecente polo seu uso para xerar imaxes sexualizadas e contidos manipulados sen consentimento.
As autoridades indonesias xustificaron a medida polo impacto que este tipo de prácticas teñen nos dereitos fundamentais. A ministra de Comunicación e Asuntos Dixitais, Meutya Hafid, sinalou nun comunicado que o Goberno considera os deepfakes sexuais non consentidos «unha grave vulneración dos dereitos humanos, da dignidade e da seguridade da cidadanía no espazo dixital». Segundo os reguladores, Grok foi empregado para crear imaxes manipuladas de persoas reais, ás veces en poses explícitas, o que activou as alarmas tanto polos riscos de abuso como pola insuficiencia das salvagardas técnicas.
O bloqueo en Malaisia e Indonesia coincide cun aumento da presión regulatoria noutras rexións. A Unión Europea, India, Francia e o Reino Unido están a analizar posibles actuacións contra a plataforma, mentres que Brasil xa ameazou con suspender o servizo. No caso británico, o debate é especialmente intenso: o Goberno confirmou que estuda medidas severas ao abeiro da Lei de Seguridade en Liña, que inclúe a posibilidade de bloquear servizos dixitais que incumpran a normativa.
A secretaria de Estado de Tecnoloxía do Reino Unido, Liz Kendall, afirmou que apoiaría ao regulador Ofcom se decide impedir o acceso á rede social X no país británico por non garantir a protección fronte á difusión de imaxes sexualizadas. Kendall cualificou estas prácticas de «repugnantes e abominables», especialmente cando afectan a mulleres e menores, e reclamou unha resposta rápida das autoridades reguladoras. Ofcom confirmou que abriu unha investigación urxente para determinar se Grok incumpriu a lei ao permitir a difusión de contidos ilícitos, incluíndo imaxes sexualizadas de nenos.
Como reacción ás críticas, X limitou recentemente as funcións de edición e xeración de imaxes de Grok aos usuarios de pagamento (aínda que mantendo activa a función de edición de imaxes mediante IA en X para todos os usuarios da plataforma). Porén, desde Downing Street cualificaron esta resposta de insuficiente e mesmo «insultante» para as vítimas de violencia sexual, ao considerar que non repara o dano xa causado nin garante que non se repita. Organizacións de protección da infancia e expertos en ética dixital coinciden en que a restrición de acceso non resolve o problema de fondo e reclaman o redeseño completo do sistema con barreiras éticas sólidas.