Grok limita a xeración de imaxes sexualizadas a usuarios de pagamento

Grok, desenvolvida por xAI e integrada na rede social X, desactivou a súa función de creación e edición de imaxes para a maioría dos usuarios despois dunha forte reacción pública polo seu uso para xerar contidos sexualizados e violentos. A partir de agora, esta capacidade queda restrinxida ás persoas con subscrición de pagamento.
A decisión chega despois de que Elon Musk afrontase ameazas de multas, accións reguladoras e mesmo a posibilidade dun veto de X no Reino Unido. A ferramenta fora empregada para manipular fotografías de mulleres, retirándolles a roupa ou colocándoas en situacións de carácter sexual sen o seu consentimento.
Nunha mensaxe publicada na propia plataforma, Grok informou de que «a xeración e edición de imaxes están actualmente limitadas aos subscritores de pago». Isto implica que a maior parte dos usuarios xa non poden empregar esta funcionalidade. Os usuarios que si manteñen acceso teñen os seus datos persoais e bancarios rexistrados por X, o que teoricamente permitiría a súa identificación en caso de uso indebido.
Ao abeiro da Lei de Seguridade en Liña do Reino Unido, Ofcom ten competencias para solicitar en casos graves unha orde xudicial que bloquee unha web ou aplicación no país, así como para impor sancións económicas de ata o 10 % da facturación global dunha empresa.
Nas últimas dúas semanas creáronse milleiros de imaxes sexualizadas de mulleres sen o seu consentimento, tras unha actualización da función de creación de imaxes de Grok a finais de decembro. A pesar das presións públicas, a plataforma non tomara medidas ata agora.
A deputada laborista Jess Asato, activa na defensa dunha regulación máis estrita da pornografía, considerou insuficiente a decisión. Na súa opinión, manter o acceso para usuarios de pagamento segue permitindo unha forma de agresión sexual dixital: «Pagar por engadir seme, buratos de bala ou bikinis a imaxes de mulleres segue sendo inaceptable e xAI debería desactivar a función definitivamente».
Parte do contido máis extremo estase a xerar fóra de X, a través da ferramenta Grok Imagine. Un estudo da organización sen ánimo de lucro AI Forensics identificou arredor de 800 imaxes e vídeos con contido pornográfico ou sexualmente violento creados con esta aplicación. Segundo o investigador Paul Bouchaud, trátase de «vídeos plenamente pornográficos cun aspecto profesional», moitos deles cun nivel de explicitación superior ao observado anteriormente na plataforma. AI Forensics tamén lembra que as febles salvagardas de Grok facilitan a creación non só de imaxes sexualizadas, senón tamén de contidos nazis e relativos ao terrorismo islámico, considerados ilegais en varios territorios.

ACTUALIZACIÓN: Medios como The Verge están a dar conta de que a limitación de Grok para a creación de imaxes sexualizadas e outras modificacións a usuarios de pagamento é só aparente, pois segue activa a función de editar fotografías en X.