YouTube inicia un programa de detección de deepfakes

Coa popularización de ferramentas como Sora 2 están a proliferar na Rede vídeo de grande realismo suplantando a persoas, que non sempre son celebridades, e dado que cadaquén ten que ter dereito a protexer a súa propia imaxe, dende YouTube están a preparar unha ferramenta de detección de semellanzas para combater os deepfakes facilitando que os damnificados poidan remitir solicitudes de borrado de contidos nos que os suplanten sen autorización.
Polo momento esta ferramenta está a espallarse en probas entre os participantes no programa de partners de YouTube. Os participantes nesta proba teñen que facilitar algún tipo de identificación oficial e gravar un vídeo en primeira persoa para que sexa posible verificar a súa identidade, tras o que poderá denunciar cando se suplante a súa cara ou modifique a súa voz mediante IA e, ao confirmarse a vulneración dos dereitos de imaxe da persoa, procederase dun xeito semellante ás reclamacións por copyright, eliminando os contidos perniciosos.
O sistema será quen de detectar as caras e voces das persoas participantes a partir das imaxes achegadas por elas mesmas, de xeito que as posibles suplantacións de identidade mediante IA detectaríanse de xeito automático, para que o usuario poida decidir como actuar (por exemplo, solicitando o borrado definitivo do vídeo).
Confíase en que esta tecnoloxía axude, cando menos, á proliferación de vídeos de celebridades promocionan produtos dos que nunca tiveron o máis mínimo coñecemento, pero cómpre salientar que no futuro teremos moitos outros problemas creados polos deepfakes que cómpre atallar de raíz se non queremos que se enquisten.
Esta medida complementa ao programa iniciado hai meses por YouTube no que os creadores de contido teñen que indicar expresamente cando suben contido no que se amosan imaxes realistas xeradas por IA, para que os usuarios poidan saber que están ante contido sintético.