A Axencia Española de Protección de Datos (AEPD) recibiu a primeira notificación dunha brecha de datos persoais na que o ataque tería sido executado mediante un axente de intelixencia artificial baseado nun coñecido modelo de linguaxe.
Segundo a información comunicada pola organización afectada, o axente atacante iniciou unha procura de vulnerabilidades en ficheiros xenéricos e conseguiu realizar un inicio de sesión válido. Unha vez dentro do sistema, actuou de maneira autónoma para identificar vulnerabilidades na aplicación. O acceso permitiulle posteriormente modificar datos persoais e consultar facturas.
A AEPD advirte de que os datos dispoñibles proceden da notificación inicial e aínda deben ser analizados, polo que non permiten extraer conclusións definitivas sobre o incidente. Tampouco implica a utilización dun modelo concreto que este ou a infraestrutura do seu provedor fosen comprometidos nin que a ferramenta estivese deseñada para actividades maliciosas.
O elemento relevante para a protección de datos é que un terceiro tería empregado un axente de IA para encadear con éxito diferentes fases dun ataque. A notificación non permite determinar se existe unha tendencia estatística, pero constitúe unha primeira evidencia de que os ataques apoiados en intelixencia artificial xa poden materializarse en incidentes que afectan a tratamentos reais de datos persoais.
Da asistencia á autonomía do atacante
O emprego da IA en actividades maliciosas non é novo. Os modelos xerativos xa se utilizan para redactar mensaxes de phishing, traducir campañas fraudulentas, facilitar suplantacións de identidade, analizar código ou buscar vulnerabilidades.
Os axentes introducen un cambio cualitativo ao poder recibir un obxectivo, planificar tarefas intermedias, empregar ferramentas, executar código, consultar fontes e modificar a súa actuación en función dos resultados obtidos.
A IA non crea necesariamente novas ameazas, pero pode incrementar a velocidade, a escala e a capacidade de adaptación de técnicas maliciosas coñecidas, reducindo o tempo dispoñible para detectalas e contelas.
A guía CCN-CERT BP/36, Boas prácticas fronte ao modelo de IA ofensiva, publicada polo Centro Criptolóxico Nacional, xa advirte de que a IA ofensiva está a converterse nunha capacidade operativa integrada en campañas reais. O documento recomenda reforzar os controis de seguridade, acelerar a xestión de vulnerabilidades, protexer as identidades e controlar tanto a cadea de subministración como o uso de axentes.
A primeira notificación deste tipo obriga tamén a revisar os modelos de análise de riscos. Os ataques asistidos ou executados mediante IA deberían incorporarse expresamente á avaliación dos tratamentos, xa que a automatización pode alterar de maneira significativa a probabilidade, a velocidade e o alcance dun incidente.
Os tempos de resposta tamén adquiren maior importancia. Un axente pode analizar múltiples activos, probar diferentes vías de acceso e adaptar o seu comportamento con rapidez, facendo que procedementos deseñados para ataques manuais resulten insuficientes.
As identidades dixitais e as credenciais representan outro punto crítico. Unha conta, unha clave API ou un token con permisos excesivos poden proporcionar a un axente capacidade para acceder a diferentes servizos a unha velocidade moi superior á dun atacante humano.
A seguridade dos tratamentos tampouco pode depender exclusivamente da intervención manual. A supervisión humana segue sendo necesaria, pero debe estar acompañada de mecanismos de detección, contención e resposta capaces de actuar coa mesma rapidez coa que evolucionan os ataques automatizados.
