O centro atlanTTic e o INCIBE reforzarán a seguridade na aprendizaxe federada

Os grupos de Procesado de Sinal en Comunicacións (GPSC) e Information & Computing Lab (I&CLAB) do Centro de Investigación en Tecnoloxías de Telecomunicación da Universidade de Vigo, atlanTTic, participan xunto ao Instituto Nacional de Ciberseguridad (INCIBE) no proxecto Truffles (TRUsted Framework for Federated LEarning Systems), co obxectivo de deseñar e incorporar novos mecanismos e tecnoloxías que reforcen e incrementen a seguridade e a privacidade en contornas de aprendizaxe federada.
A través de Truffles, os propietarios de datos adestran os seus algoritmos localmente, poñéndoos en común cos demais para “producir un algoritmo que se beneficie da aprendizaxe cos datos respectivos”.
“Pódese pensar que este procedemento garante a privacidade, xa que ao fin e ao cabo os datos non chegan a saír do ámbito dos seus propietarios, pero tense demostrado a través de ataques prácticos que, a partir do algoritmo común, segue sendo posíbel extraer información sobre os datos empregados para adestrar localmente”, sinalan os docentes e investigadores da Escola de Enxeñaría de Telecomunicación e directores dos grupos GPSC e I&CLAB, Fernando Pérez e Rebeca Díaz, respectivamente.
Pérez e Díaz engaden que os algoritmos baseados en Intelixencia Artificial (IA) necesitan enormes cantidades de datos para o seu adestramento e en moitas situacións prácticas os propietarios dos datos non dispoñen dunha cantidade suficiente como para que a aprendizaxe do algoritmo sexa efectiva. Unha solución sería compartir os datos con outros propietarios, de modo que todos se beneficien da colaboración, pero isto implica a miúdo infrinxir as normativas de protección de datos, “cada vez máis garantistas cos dereitos dos individuos”, tal e como indican os responsábeis de Truffles.
O proxecto ten varias liñas de actuación entre as que destacan a identificación de ameazas realistas nun ámbito de aprendizaxe federada e a concepción de métodos para medir a privacidade que cuantifiquen a información privada que poden obter os atacantes como instrumento para coñecer as limitacións das solucións existentes. Por outra banda, tentarase proporcionar solucións que permitan mitigar ou eliminar as fugas de privacidade. “Estanse desenvolvendo métodos para compartir algoritmos protexidos mediante claves, métodos para o uso de tecnoloxías de cadea de bloques para poder trazar os procesos descentralizados de aprendizaxe e métodos para aumentar a robustez da aprendizaxe federada a fallos inesperados nas comunicacións ou fronte a sistemas onde a compartición de modelos sexa realizada en situación de mobilidade, onde non é posíbel garantir que o conxunto de propietarios de datos estea sempre dispoñíbel e conectado”, explican os investigadores de atlanTTic que participan no proxecto.
Truffles pretende ademais implementar un prototipo para demostrar a utilidade das técnicas desenvolvidas nun escenario real, para o que se porá o foco nun caso de uso no sector bancario, onde a privacidade é un requisito esencial, máis en concreto na detección de transaccións fraudulentas.