Pintos & Salgado advirte da expansión da IA sen supervisión en contornas profesionais

Fálase moito dos riscos dun mal uso da Intelixencia Artificial pero se cadra bótase en falta quen clarifique as cousas en materia de uso empresarial. O bufete galego especializado en Dereito Dixital, Pintos & Salgado, quixo saír ao paso das nosas dúbidas e emitiu un novo informe centrado nesta temática dos usos potenciais da IA no noso día a día profesional, usos que medran cada semana e que guindan un panorama cheo de posibilidades, por exemplo en análise de macrodatos e xeración de contidos multiformato, desde vídeos a textos, imaxes ou mesmo propostas de sitios web. En Pintos & Salgado téñeno ben claro: estase a espallar sen control o uso sen supervisión da IA en contornas profesionais.
Algunhas polémicas
Víctor Salgado, avogado e socio-director do despacho galego, lembra que a a incorporación da IA en contornas laborais xa está a xerar algunhas polémicas, e máis despois dos datos que lanza o último estudo feito pola compañía Microsoft en 31 países, baixo a análise de 31.000 enquisas e en colaboración con LinkedIn: o 77% dos usuarios profesionais mundiais introducen a IA xenerativa (aquela enfocada en crear contido novo a partir de datos ou información xa existente) sen ningún tipo de supervisión, e todo isto “coas consecuencias que implica en materia de ciberseguridade e hixiene dixital”.
Víctor Salgado contextualiza deste xeito a dinámica: “Vivimos nun vórtice onde o urxente é incorporar tecnoloxías de IA custe o que custe. Todas as organizacións, desde empresas privadas a administracións públicas, séntense impelidas a incorporar ferramentas deste tipo sen protocolos nin reflexión; sen ser plenamente conscientes dos seus riscos e obrigacións legais. É coma se habería un medo para quedarse atrás se non o fan”.
“Na nosa experiencia”, continúa Salgado, “detectamos que moitas empresas fan uso da IA sen supervisión dos cargos directivos. Pero é fundamental lembrar que o que se faga dentro dunha organización é responsabilidade desa mesma empresa, e isto afecta a toda a súa estrutura. Debe haber un cumprimento normativo porque as responsabilidades legais e os custos económicos serán organizativos”.
Para o avogado coruñés, o primeiro paso fundaméntase en saber que usos da IA están a executarse dentro da organización. “É necesario coñecer en que tarefas se utiliza, que contidos está a xerar e con que información está xa tratando. A partir de aí, débese iniciar a súa regularización: determinar regras estritas internas para todos os traballadores que estean revisadas e adecuadas á lei, tanto na normativa de protección de datos como o Regulamento de IA ou a Lei de Propiedade Intelectual, entre outras”.
Os riscos de adestramento, a gran ameaza en ciberseguridade
Se se lle pregunta a Víctor Salgado polo principal risco en materia de seguridade dixital, teno claro: “Os riscos de adestramento destas ferramentas son moi altos. Cando introducimos consultas, datos ou documentación nestas intelixencias artificiais debemos asumir que todo ese contido vai ser utilizado para adestrar á propia IA. Dá igual se é ChatGPT, Copilot, Google Gemini… Se compartimos información sensible, hai que asumir que vai formar parte do sistema e que poderá incluso ser obxecto de extracción por terceiros”.
Ese risco de adestramento anticipa que calquera dato envorcado poderá ser usado pola plataforma, tamén os segredos de empresa, e estará dentro da súa estrutura informativa na nube. “Só se utilizamos unha IA de software libre instalada enteiramente nos nosos equipos garantimos que a información estea cento por cento baixo o noso control; non sairía do computador”, expón Salgado.
Unha clave organizativa: os códigos de regulamento de uso
Salgado explica que a clave desta tendencia pasa por entender a relevancia dos protocolos internos das organizacións. “É lícito querer utilizar e espremer ao máximo a Intelixencia Artificial: é unha das tecnoloxías máis potentes que desenvolveu a humanidade, pero debemos aprender a utilizala adecuadamente para evitar males maiores”, expón Víctor Salgado, engadindo que “para iso mesmo deséñanse os códigos internos de regulamento de uso, entendidos como documentos que racionalizan os procesos de traballo e, sobre todo, informan e forman ao persoal, de tal maneira que se saiba sempre o que se pode e non se pode facer dentro da súa rutina laboral”.
Con todo, desde o despacho especializado en Dereito Dixital tamén divulgan as principais boas prácticas no uso dunha IA de forma profesional:
1. Tomar consciencia da natureza da ferramenta que se está empregando, e iso implica coñecer cales son os seus termos de uso, que condicións se aceptan e como se xestionan os datos (cara a onde se dirixen e que tratamento se lles dará).
2. Evitar introducir datos de carácter persoal, sobre todo os que son de terceiras persoas. Se se introducen datos propios, os mínimos posibles, e sempre asumindo o que implica compartir esa información (pode ser tratada para campañas de mercadotecnia, análise e prospección…).
3. Non envorcar contidos de propiedade intelectual de terceiros sen autorización ou base legal.
4. Absterse de incluír segredos ou información delicada da empresa ou dos seus clientes: marcas, patentes, diagramas, artigos de investigación… todo dato de carácter confidencial que se manexe.
E a todo isto súmalle Víctor Salgado unha última cuestión. “A IA entraña tamén outro risco importante, e é que ‘alucina’. Tendemos a fiarnos dos seus contidos, da información que nos dá, pola facilidade coa que os xera. Pero sempre debemos contrastar o que di con fontes externas á ferramenta”.
“Todas as intelixencias artificiais”, conclúe Salgado, “obrígannos a pensar a relación entre as organizacións e a tecnoloxía. E se queremos facer un bo uso delas, con todos os seus enormes beneficios, temos que revisar e regular os novos procesos de traballo que se están desenvolvendo en pequenas, medianas e grandes estruturas laborais”.