Unha investigación dun membro do PSM Research Team da Universidade de Santiago de Compostela (USC) afonda nos perigos da intelixencia artificial en contacto coa infancia e advirte de que a IA pode converterse nunha nova infraestrutura de persuasión sobre os menores. O estudo analiza o impacto da IA na educación e no xogo infantil e reclama unha integración baseada na protección, a autonomía e o pensamento crítico.
Isaac Maroto González, doutor en Comunicación e Información Contemporánea da USC, e Verónica Crespo Pereira, da Universidade da Coruña (UDC), son os autores do traballo. A investigación analiza diferentes experiencias desenvolvidas nos Estados Unidos e China e expón a necesidade de abordar a incorporación da IA á infancia desde unha perspectiva tecnolóxica, educativa, lexislativa e ética.
As conclusións forman parte do capítulo A colonización da IA na infancia: entre a educación, o xogo e a persuasión. O texto sinala ademais que o capítulo da investigación sobre os menores leva por título Cando a infancia entre en contacto coa IA: xogo, aprendizaxe e persuasión, do que Maroto é autor principal. O traballo forma parte do libro A intelixencia artificial no espello. Guía social, ética e cultural para entender o presente e o futuro dixital, que publicará McGraw Hill Aula Magna en acceso aberto a mediados de setembro, tras a fase final de edición.
A intelixencia artificial está a entrar de forma crecente en espazos vinculados á educación e ao lecer infantil, abrindo novas posibilidades para personalizar a aprendizaxe, detectar dificultades e desenvolver ferramentas educativas, pero tamén xerando importantes interrogantes sobre a privacidade, a vixilancia, a dependencia tecnolóxica e a capacidade de influencia sobre nenos e nenas.
De ferramenta educativa a novo axente de influencia
O estudo sinala que a IA pode contribuír a personalizar a aprendizaxe, detectar dificultades de forma temperá e mellorar determinados procesos educativos. Con todo, advirte de que a súa utilización tamén pode converter a contorna educativa nun espazo cada vez máis condicionado pola recompilación e análise de datos, a vixilancia algorítmica e as decisións automatizadas.
A infancia constitúe unha etapa especialmente sensible, xa que durante estes anos desenvólvense capacidades cognitivas, afectivas e sociais. A introdución de sistemas capaces de analizar o comportamento, a atención ou o rendemento pode terminar influíndo nas preferencias e procesos de aprendizaxe dos menores.
A investigación recupera ademais precedentes como Channel One, nos Estados Unidos, que permitiu a entrada de contidos publicitarios en centros educativos a cambio de proporcionar determinados recursos tecnolóxicos. Para os investigadores, este tipo de experiencias mostran como a atención dos menores pode converterse nun activo de interese comercial e como a tecnoloxía pode transformar progresivamente espazos educativos en territorios de influencia.
China e o modelo de educación monitorizada
O traballo analiza tamén o caso da China, onde a intelixencia artificial se está incorporando a diferentes niveis do sistema educativo mediante plataformas de aprendizaxe personalizada, titorías intelixentes, robots e sistemas capaces de rexistrar información sobre o rendemento do alumnado.
Aínda que estas ferramentas perseguen mellorar a eficiencia e adaptar o ensino ás necesidades de cada estudante, os autores alertan sobre os riscos dunha monitorización constante. A utilización de datos psicofisiolóxicos e biométricos, así como de sistemas capaces de detectar estados de tensións ou frustración, expón interrogantes sobre a privacidade, a autonomía e a liberdade do alumnado.
O estudo advirte así mesmo de que unha educación excesivamente centrada na eficiencia pode limitar a espontaneidade, o pensamento diverxente e a capacidade crítica. A interacción humana, a escoita e as relacións sociais son consideradas elementos esenciais do proceso educativo que non deberían quedar relegados pola tecnoloxía.
Os xoguetes intelixentes, entre o xogo e a persuasión
Outro dos ámbitos analizados é o desenvolvemento de xoguetes conversacionais dotados de intelixencia artificial. O capítulo aborda, entre outros exemplos, o acordo anunciado entre OpenAI e Mattel para incorporar tecnoloxía conversacional a coñecidas marcas de xoguetes.
Segundo o estudo, estes dispositivos poden pasar de ser simples ferramentas de entretemento a converterse en auténticos interlocutores para os menores, capaces de establecer relacións personalizadas e recompilar información relacionada coas súas conversacións, preferencias e emocións.
Esta capacidade de interacción expón novos riscos. O autor alerta de que o vínculo afectivo xerado entre o menor e o dispositivo podería facilitar mecanismos de persuasión difíciles de identificar para un neno. A recompilación de información sobre medos, desexos ou necesidades emocionais podería utilizarse para orientar comportamentos ou preferencias, especialmente cando detrás do dispositivo existen intereses comerciais.
A principal conclusión do traballo é que a incorporación da IA á infancia debe estar orientada a reforzar a autonomía, a creatividade, a pluralidade, a interacción humana e o pensamento crítico, evitando que a tecnoloxía se converta nunha ferramenta de captura de atención, extracción de datos ou persuasión opaca.
O reto, segundo os autores, non consiste unicamente en incorporar a intelixencia artificial ás aulas e ao xogo, senón en garantir que o seu desenvolvemento e gobernanza sitúen o benestar e a autonomía dos nenos e nenas por encima dos intereses comerciais ou de eficiencia tecnolóxica.
