Inician múltiples investigacións por mor da proliferación de contidos ilegais creados coa axuda de Grok

Elon Musk non asume ningunha responsabilidade da falla de seguridade de Grok

As autoridades de Francia e Malaisia iniciaron pescudas formais contra Grok, o chatbot desenvolvido por xAI e integrado en X, despois de que a ferramenta xerara imaxes sexualizadas de mulleres e menores. O propio sistema recoñece ter xerado e compartido imaxes de menores sexualizadas, lamentando o acontecido e indicando que que estaría a violar estándares éticos e, posiblemente, a lexislación estadounidense relativa á pornografía infantil, considerando que se trata dun fallo das salvagardas de Grok, polo que engade que están a revisar o acontecido para evitar que se repita a situación (o que claramente non fixeron, xa que o problema segue presente en X).
A reacción institucional non tardou. O Ministerio de Tecnoloxías da Información da India esixiu a X que limitase de inmediato a capacidade de Grok para xerar contidos obscenos, pornográficos ou pedófilos, advertindo de que a empresa podería perder a protección legal que a exime de responsabilidade polo que publican os usuarios se non actuaba nun prazo de 72 horas. En paralelo, o Ministerio Fiscal de París confirmou a apertura dunha investigación pola proliferación de deepfakes sexualmente explícitos na plataforma, despois de que tres ministros franceses remitisen informes sobre contido manifestamente ilegal tanto á Fiscalía como ao servizo estatal de vixilancia en liña.
Malaisia sumouse tamén ás advertencias. A súa Comisión de Comunicacións e Multimedia declarou que recibira numerosas queixas polo uso de ferramentas de IA en X para manipular imaxes de mulleres e menores con fins indecentes ou ofensivos, e anunciou que está a investigar estes danos en liña. Mentres tanto, Elon Musk afirmou que quen empregue Grok para crear contido ilegal afrontará as mesmas consecuencias que se o subise directamente á plataforma, ou sexa, que non acepta ningunha responsabilidade sobre o problema que está a provocar ao non colocar medidas de seguridade minimamente efectivas en Grok, como si fan o resto de grandes plataformas de IA.

ACTUALIZACIÓN: O regulador británico das telecomunicacións tamén se suma ás investigacións sobre o que está a acontecer con Grok coa modificación de imaxes de menores e mulleres en xeral.