O libro A Intelixencia artificial no espello. Guía social, ética e cultural para entender o presente e o futuro dixital advirte do perigo da Intelixencia Artificial (IA) para manipular psicoloxicamente ás persoas. A publicación está coordinada e editada por Juan Manuel Prieto Arosa, Isaac Maroto González e José Miguel Túñez López, investigadores do PSM Research Team do grupo de investigación Novos Medios da Universidade de Santiago de Compostela (USC).
A obra reúne as achegas dun equipo multidisciplinar de investigadores e especialistas en comunicación, xornalismo, tecnoloxía, ética e ciencias sociais, entre os que figuran César Fieiras Ceide, María José Ufarte Ruiz, Martín Vaz Álvarez, Tania Fernández Lombao, Marta Rodríguez Castro, Sara Pérez Seijo, Alberto López-Carrión, Francisco Javier Herrero-Gutiérrez e outros expertos de diferentes ámbitos académicos. A través de 17 capítulos, os autores ofrecen unha visión conxunta sobre as oportunidades, os riscos e as implicacións sociais, culturais e éticas da IA.
Segundo informa o grupo Novos Medios, o traballo ofrece “unha aproximación divulgativa e multidisciplinar a través de 30 expertos nacionais e internacionais a unha das transformacións tecnolóxicas máis importantes do noso tempo”, e “analiza como a IA se incorporou progresivamente á vida cotiá, influíndo no xeito en que as persoas se informan, se comunican, traballan e se relacionan coa súa contorna”.
A través da metáfora do espello, expón que “a IA non é unha tecnoloxía neutral nin independente da sociedade, senón que reproduce e pode amplificar os valores, comportamentos, desigualdades e decisións humanas que están detrás do seu desenvolvemento”.
Deste xeito, a publicación aborda as oportunidades e os desafíos da IA en ámbitos como a comunicación, os medios de comunicación, a educación e a vida social; e examina cuestións como a transformación dos procesos informativos, os algoritmos e os sistemas de recomendación, a xeración de contidos, a desinformación, a privacidade, a protección de datos e os riscos asociados ás fraudes dixitais, a suplantación de identidade e os contidos manipulados mediante deepfakes”.
Así mesmo, pon o foco sobre os dilemas éticos, a regulación e a necesidade de garantir a transparencia, a responsabilidade e a supervisión humana no uso destas ferramentas.
Os fraudes dixitais
O capítulo sobre fraudes dixitais escrito por Tania Fernández-Lombao (USC) e Carles Llorens (UAB) advirte do perigo da IA para manipular psicoloxicamente ás persoas de cara a conseguir contrasinais, información privada ou diñeiro. Nel explican como “a IA está a facer que as estafas na Internet sexan cada vez máis sofisticadas, cribles e difíciles de detectar” e como “os delincuentes aproveitan ferramentas como a xeración automática de textos, a clonación de voces e a manipulación de imaxes e vídeos para suplantar identidades e enganar ás vítimas”.
A finalidade última, sinalan, adoita ser “conseguir información privada ou bancaria, acceder a contas ou lograr que se realicen pagos”.
Entre as técnicas máis habituais atópanse a suplantación mediante phishing, con correos electrónicos fraudulentos; o smishing, a través de mensaxes SMS; o vishing, mediante chamadas telefónicas; e a enxeñería social, que consiste en manipular psicoloxicamente ás persoas para gañarse a súa confianza. Tamén se advirte do perigo dos deepfakes e da clonación de voz, que permiten simular que un familiar, un responsable dunha empresa ou unha persoa de confianza está a solicitar axuda urxente ou unha transferencia económica.
O texto insiste en que “a prevención é fundamental”. Recomenda “desconfiar das mensaxes e chamadas que xeran urxencia, comprobar sempre a identidade de quen solicita información ou diñeiro por unha vía alternativa, non compartir contrasinais nin códigos de seguridade e limitar a información privada que publicamos en redes sociais”.
No caso de empresas e institucións, aconsella “establecer protocolos de verificación para pagos e cambios de contas bancarias, así como esixir unha segunda autorización para operacións sensibles”.
Conclusións
O libro conclúe que a IA é “unha ferramenta con capacidade para transformar profundamente a sociedade, a comunicación e a nosa vida cotiá, pero o seu impacto dependerá do uso que fagamos dela”. Así, avisan, “aínda que ofrece importantes oportunidades en ámbitos como a educación, a información, a accesibilidade e a innovación, tamén presenta riscos relacionados coa desinformación, os fraudes dixitais, a perda de privacidade e a desigualdade”.
Por iso, os autores defenden “a necesidade dunha IA ética, consciente e transparente, acompañada dunha regulación axeitada, supervisión humana e unha maior alfabetización dixital da cidadanía”. A mensaxe final que mandan é “que non se trata de aceptar ou rexeitar esta tecnoloxía, senón de aprender a utilizala con pensamento crítico, situando sempre as persoas, os seus dereitos e o benestar colectivo no centro do desenvolvemento dixital”.
