Francisco Bellas aborda a confianza na IA educativa no foro europeo EMINENT 2025

O investigador do CITIC da UDC, Francisco Bellas, participou no foro europeo EMINENT 2025, celebrado recentemente en Madrid e organizado polo Ministerio de Educación, Formación Profesional e Deportes, con financiamento europeo a través dos proxectos Agile EDU e EmpowerED. EMINENT 2025 reuniu a responsables políticos, autoridades educativas, centros escolares, empresas do sector EdTech e persoal investigador de toda Europa para debater sobre o uso responsable, ético e con sentido da intelixencia artificial no ámbito educativo.
Durante o encontro, Francisco Bellas impartiu o relatorio maxistral titulado Explainable AI: Can we truly trust AI in education if we don’t understand how it works?, na que introduciu o concepto de intelixencia artificial explicable reflexionou sobre a necesidade de comprender como funcionan os sistemas de IA para poder confiar no seu uso dentro do ámbito educativo.
Ao longo da súa intervención, Bellas centrouse especialmente na aplicación deste tipo de IA en contextos educativos, apoiándose en exemplos concretos que ilustraron tanto as oportunidades como os riscos de incorporar sistemas de tecnoloxías intelixentes nas aulas. Subliñou que “a transparencia e a explicabilidade son elementos clave para reforzar a confianza, a equidade e a responsabilidade na toma de decisións automatizadas que afectan a docentes e estudantes”.
Entre as conclusións principais do relatorio, destacou a necesidade de “contar con marcos legais e estándares claros que regulen o uso da IA en educación”. Así mesmo, insistiu “na importancia de recoñecer que os sistemas de IA non son infalibles e deben empregarse sempre desde unha perspectiva crítica, mantendo a axencia e supervisión humanas”.
Tamén puxo o foco “na protección da privacidade e os datos persoais, especialmente sensibles cando se trata de menores”.
Bellas defendeu “un deseño de sistemas de IA complexo e centrado no usuario, capaz de ofrecer distintos niveis de explicación adaptados a profesorado , estudantes e administradores educativos”.