X eleva as restricións de Grok para a creación de imaxes sexualizadas

A plataforma X anunciou novas restricións no uso do seu asistente de intelixencia artificial Grok co obxectivo de frear a xeración e edición de imaxes sexualizadas de persoas reais, tras a crecente presión social e política en varios países.
A compañía de Elon Musk implementou medidas para impedir que Grok permita editar imaxes de persoas reais para mostralas con roupa reveladora, como bikinis. Esta limitación aplícase a todos os usuarios, incluídos os subscritores de pagamento (en contraste coa anterior limitación implementada). Ademais, tanto a creación como a edición de imaxes a través de Grok na plataforma quedaron restrinxidas exclusivamente ás contas de pago, co argumento de reforzar a trazabilidade e a responsabilidade fronte a posibles abusos.
X subliña que mantén unha política de tolerancia cero contra a explotación sexual infantil (declaracións que claramente non se corresponden coa realidade, como se vén a constatar durante semanas), os espidos non consentidos e calquera contido sexual non desexado. A empresa asegura que elimina con prioridade o material que vulnera as súas normas, adopta medidas contra as contas infractoras e colabora coas autoridades cando é necesario, incluíndo a comunicación de casos relacionados con material de abuso sexual infantil.
Como parte destas actualizacións, a compañía tamén confirmou o bloqueo xeográfico da xeración de imaxes de persoas reais en roupa interior, bikinis ou prendas similares nas xurisdicións onde esta práctica é ilegal. Cómpre salientar que, como en restricións anteriores, os novos límites refírense a Grok, xa que o propio editor de imaxes mediante IA integrado en X continúa a estar operativo para todos os usuarios, permitindo moitas das modificacións gráficas denunciadas publicamente (aínda que procurando certa protección no caso de imaxes de menores).
A decisión chega despois de que se multiplicasen as críticas polo uso de Grok para crear deepfakes sexualizados, incluíndo imaxes de mulleres e menores. Tamén cómpre indicar que o anuncio produciuse poucas horas despois de que o fiscal xeral de California, Rob Bonta, confirmase que o estado estaba a investigar a difusión deste tipo de contidos xerados por IA, que cualificou como material empregado para acosar persoas na Internet.
A polémica tivo consecuencias internacionais. Malaisia e Indonesia bloquearon o acceso ao chatbot, mentres que no Reino Unido o primeiro ministro Keir Starmer advertiu de que X podería perder o dereito á autorregulación se non actuaba con contundencia.