Meta emprende accións legais contra a promoción de espidos mediante IA

Meta está a anunciar novas medidas para combater o uso e difusión de aplicacións coñecidas como nudify, que empregan intelixencia artificial para xerar imaxes falsas, íntimas ou sexualmente explícitas sen o consentimento das persoas afectadas. A empresa subliña que estas prácticas constitúen un abuso grave das súas plataformas e reforza o seu compromiso por erradicalas tanto dentro como fóra delas, aínda que esta postura da compañía chega despois das fortes críticas por ser a principal plataforma para a difusión deste tipo de ferramentas.
Desde hai máis dun ano, Meta actualizou as súas políticas para deixar claro que non permite a promoción destas aplicacións. Isto inclúe a eliminación de anuncios, páxinas de Facebook e contas de Instagram asociadas a estes servizos, así como o bloqueo de ligazóns e termos de busca como nudify, undress ou delete clothing.
Un dos pasos máis destacados anunciados hoxe é a demanda presentada en Hong Kong contra a empresa Joy Timeline HK Limited, responsable das aplicacións CrushAI, que permiten xerar imaxes falsas sen consentimento. Segundo Meta, esta compañía intentou varias veces burlar o sistema de revisión de anuncios tras ver os seus contidos reiteradamente eliminados.
Ademais da acción xudicial, Meta reforzou o seu traballo colaborativo con outras empresas tecnolóxicas a través do programa Lantern da Tech Coalition. Desde finais de marzo, a compañía compartiu máis de 3.800 URL relacionados con estas aplicacións para que outras plataformas tamén poidan actuar contra elas.
Meta recoñece que os responsables destas aplicacións (movidos por intereses económicos) están a adaptar continuamente as súas tácticas. Algúns usan imaxes aparentemente inofensivas para evitar os filtros automáticos de contido, mentres outros crean novos dominios tras cada bloqueo.
Para facer fronte a isto, Meta desenvolveu tecnoloxía específica para identificar este tipo de anuncios, mesmo cando non amosan contido explícito. Tamén está a aplicar métodos usados na detección de actividade falsa coordinada para desarticular redes de contas que promocionan estes servizos. Desde principios de ano, xa foron desmontadas catro destas redes.
A compañía tamén amosou o seu apoio a iniciativas lexislativas que buscan frear o abuso de imaxes íntimas, tanto reais como xeradas por IA. Tamén apoia medidas que permitan ás familias supervisar as descargas de aplicacións dos seus fillos e bloquear o acceso a estas ferramentas nocivas desde as tendas de aplicacións.
As afirmacións de Meta contrastan cos achados de investigadores, que constatan a eficacia dos algoritmos de Meta á hora de identificar e eliminar contido sexualmente explícito nas publicacións dos usuarios, pero cando se trata de publicidade parece ser moito máis doada a distribución de pornografía tanto real como xerada mediante IA, polo que denuncian que Meta usa dúas varas de medir.