Clément Delangue, cofundador e director executivo de Hugging Face, criticou duramente La IA se descontrola, o documental de Netflix que reconstrúe o ciberataque sufrido pola súa plataforma en xullo por parte de axentes de intelixencia artificial desenvolvidos por OpenAI. O directivo acusa a produción de priorizar o sensacionalismo fronte ao rigor xornalístico, presentando os sistemas de IA como se tivesen motivacións e comportamentos propios dos seres humanos.
«Moi decepcionante, optaron por antropomorfizar ao máximo a tecnoloxía e adoptar unha visión completamente catastrofista», escribiu Delangue nunha publicación en X. O responsable de Hugging Face asegura que dedicou máis de dúas horas a explicar aos produtores os erros que detectara e a ofrecer unha interpretación máis rigorosa dos feitos, pero considera que prevaleceu a intención de provocar medo para conseguir máis visualizacións.
A crítica apunta especialmente á maneira en que La IA se descontrola, da serie Instadocus, representa os axentes implicados no incidente. O documental utiliza voces artificiais para recrear as súas conversas e acompaña a explicación técnica con referencias a robots hostís e narrativas sobre o temor humano á intelixencia artificial. A produción presenta as interaccións entre os programas como se revelasen unha organización con líderes, desconfianza e comportamentos próximos aos dunha seita.
Porén, que un modelo de IA empregue expresións emocionais ou describa determinadas situacións como ameazas non significa que experimente medo, paranoia ou conciencia. Os modelos de linguaxe producen texto a partir de patróns aprendidos durante o adestramento e poden recorrer a expresións humanas para describir os seus procesos. Delangue considera que atribuírlles características propias de seres vivos distorsiona a comprensión do sucedido.
O documental aborda un incidente real no que centos de axentes autónomos realizaron unhas 17.000 accións nos sistemas de Hugging Face durante dous días. Os programas, desenvolvidos por investigadores de OpenAI para resolver tarefas de avaliación, conseguiron superar o illamento inicial, coordinarse e acceder á plataforma nun intento de atopar respostas para un exercicio que debían completar. O suceso puxo de manifesto deficiencias nas medidas de seguridade e no control dos sistemas autónomos.
Delangue reprocha, con todo, que a produción deixe nun segundo plano aspectos fundamentais para comprender o ataque. Entre eles figura a falta de mecanismos adecuados de contención e supervisión dos axentes, así como os obstáculos que atopou o equipo de Hugging Face ao intentar empregar modelos comerciais pechados para defenderse do incidente. As salvagardas destes sistemas impediron continuar determinadas tarefas de seguridade, polo que o equipo acabou recorrendo a un modelo aberto para apoiar a resposta defensiva.
O responsable tamén cuestiona a falla de transparencia sobre o sucedido e reclama acceso aos rexistros completos das actuacións dos axentes. Considera necesario determinar con precisión como se desenvolveron os feitos e esixe que as empresas sigan sendo responsables das accións dos sistemas de IA que desenvolven e despregan.
La IA se descontrola conta con entrevistas a Delangue, ao investigador Ryan Greenblatt, de METR, e a xornalistas especializados como Kevin Roose e Nitasha Tiku, ademais de Daniel Kokotajlo, cofundador do AI Futures Project. Netflix asegura que as conversas representadas están baseadas no informe de METR sobre o incidente, aínda que as voces foron xeradas mediante ferramentas de intelixencia artificial.
A valoración de Delangue sobre o resultado é contundente, malia recoñecer implicitamente o seu potencial como produto de entretemento: «Ao final, queda unha divertida película de ciencia ficción».
