Preocupación pola emerxencia de falso porno creado coa axuda da intelixencia artificial

Imaxe dunha película pornográfica na que inseriron a cara da actriz Gal Gadot (protagonista de Wonder Woman)

No filme de Arnold Schwarzenegger de 1987 Perseguido (The Running Man) podiamos ver como simulábase a morte do protagonista de xeito dixital substituíndo a súa cara pola dun actor, efecto visual que naquel momento era pura ficción científica, pero que agora podería considerarse unha realidade arrepiante, polas consecuencias que ten, como vén de demostrar un usuario de Reddit co alcume de deepfakes, quen produciu vídeos pornográficos de celebridades como Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot valéndose de tecnoloxía de substitución facial.
Nos últimos anos afixémonos a filtros que permiten aplicar efectos nas nosas caras en aplicacións como Snapchat, que nalgúns casos incluso poden substituír un rostro por outro dun xeito un tanto cómico, pero a demostración práctica de que partindo dun bo número de imaxes do rostro dunha persoa pode chegar a implantarse a súa cara nun vídeo, conservando as expresións faciais, e sen precisar de pericia técnica, é algo sobre o que habería que preocuparse, xa que a falsificación de vídeos é agora extraordinariamente doado.
Os vídeos de mostra compartidos por deepfakes son secuencias pornográficas ás que aplicouse un algoritmo de machine learning (partindo de código aberto) que, aínda que non está totalmente depurado, fai un achegamento ao que permite actualmente a tecnoloxía de intercambio de caras baseada en intelixencia artificial que pode o falso porno a un novo nivel, podendo incluso aproveitarse para producir vídeos inculpando a persoas de cousas que nunca fixeron.
Os exemplos publicados na Rede terían como material gráfico de referencia fotografías atopadas en Google, imaxes de arquivo e vídeos de YouTube, ou sexa, material doado de conseguir para adestrar ao sistema para recoñecer a unha persoa e así poder inserir a súa cara nun vídeo, dando a entender que, de ter acceso a material de mellor calidade sería posible unha suplantación facial de grande realismo.
En vista do rápido que está a avanzar esta tecnoloxía, xorde agora un grande reto: poder identificar os vídeos manipulados mediante este tipo de algoritmos.