Un equipo do CiTIUS acada o 3º posto na competición IEEE Flame cun proxecto de IA comprensíbel e fiábel
martes, 14 de xaneiro do 2025
- De dereita a esquerda: Pablo Miguel Pérez, Alejandro Catalá, José María Alonso e Alberto Bugarín. Foto: Santi Alvite
Un equipo de investigadores do Centro Singular de Investigación en Tecnoloxías Intelixentes da Universidade de Santiago de Compostela (CiTIUS) acadou o terceiro posto na competición internacional IEEE FLAME Technical Challenge 2024, certame promovido e organizado pola prestixiosa sociedade científica IEEE Computational Intelligence Society e orientado a buscar ideas innovadoras que exploren estratexias para combinar modelos de linguaxe de gran tamaño (como os utilizados en ferramentas de IA xerativa ou LLMs, polas súas siglas en inglés) con técnicas avanzadas de intelixencia computacional.
O equipo galardoado, composto por José María Alonso, Pablo Miguel Pérez, Alejandro Catalá e Alberto Bugarín, presentou o proxecto MAI-XAI-CiTIUS-USC que aborda un dos maiores retos actuais na IA: como xerar explicacións precisas e libres de erros, que sexan comprensíbeis para as persoas. Neste sentido e nun sentido máis concreto, búscase abordar desafíos como o de evitar as chamadas “alucinacións” dos modelos de IA xenerativa, un fenómeno no que as respostas xeradas parecen fiábeis pero conteñen información incorrecta ou inventada. Segundo explican os investigadores, o seu proxecto “combina a potencia dos modelos de linguaxe con sistemas baseados en lóxica difusa, unha técnica da IA que permite ás máquinas manexar conceptos lingüísticos imprecisos como alto, baixo ou aproximadamente, imprescindíbeis na comunicación humana”.
A través de regras lóxicas, tales como ’’Se se observa algo moi semellante a A, entón podemos predicir que ocorrerá algo moi semellante a B’’, estes sistemas transforman a subxectividade inherente á linguaxe humana en valores numéricos concretos, o que outorga aos modelos a capacidade de razoamento aproximado (ou de sentido común) e de manexo da imprecisión da linguaxe humana, mellorando a súa capacidade para entender e responder ás persoas dunha forma natural e eficaz. Ademais, a arquitectura proposta incorpora ferramentas para recuperar información relevante de grandes bases de datos e adaptar as respostas ao contexto específico de cada usuario.
O traballo premiado enmárcase no proxecto de investigación XAI4SOC (Intelixencia Artificial Explicable para o Envellecemento Saudable e o Benestar Social), que desenvolve ferramentas avanzadas de IA centradas nas persoas, con aplicacións en poboacións vulnerábeis (como persoas maiores en risco de demencia e adolescentes). “XAI4SOC busca crear algoritmos explicábeis que apoderen as persoas usuarias e fomenten o seu benestar físico, mental e social”, explican os investigadores, engadindo que “a solución presentada combina LLMs con lóxica difusa, e grazas a un deseño modular facilita a súa adaptación a diferentes contextos, converténdose nunha ferramenta útil en sectores importantes que demandan explicacións claras e fiábeis baseadas en IA, como a saúde ou a educación”.
Fontes do CiTIUS informan que durante as avaliacións realizadas durante a competición, o proxecto destacou pola súa capacidade para “reducir de xeito significativo os erros nas respostas xeradas polos modelos, ao tempo que producía explicacións compactas e doado de entender, evitando as longas narrativas que a miúdo complican a interpretación dos sistemas de IA xerativa; ademais, os resultados demostraron un alto nivel de precisión nas respostas, equiparábel ou superior ao doutras solucións propostas”.
A competición IEEE FLAME Technical Challenge, cuxo nome completo é Fusing Large lAnguage Models with computational intElligence (Fusionando modelos de linguaxe de gran tamaño con intelixencia computacional), atraeu nesta edición propostas de todo o mundo, das cales só seis acadaron a final tras un rigoroso proceso de selección. O traballo do equipo do CiTIUS subliña a excelencia da investigación realizada en Galicia e reforza a proxección internacional do centro.
“Este recoñecemento”, sinala a USC, “pon de manifesto a importancia de combinar a experiencia de investigadores consolidados co talento emerxente de novos investigadores como Pablo Miguel Pérez, graduado en Enxeñaría Informática e estudante do Mestrado en IA na USC, que contribuíu activamente ao proxecto grazas á súa participación no proxecto XAI4SOC”.