Un departamento policial estadounidense publica unha fotografía feita con IA dunha incautación

O Departamento de Policía da cidade de Westbrook (Maine) protagonizou estes días un vergoñento incidente que reflicte o pouco coñecemento que ten a cidadanía do funcionamento das ferramentas baseadas en intelixencia artificial.
Tras unha detención por drogas, a Policía publicou unha fotografía cos obxectos aprehendidos, bastante frecuentes neste tipo de operacións, pero que presentaba numerosos erros propios de imaxes realizadas por unha IA, como textos mal escritos. En consecuencia non paraban de recibir comentarios, mensaxes e mesmo chamadas telefónicas da cidadanía preguntando o motivo da publicación dunha imaxe falsa creada con intelixencia artificial, o que responderon inicialmente asegurando que o Departamento de Policía «non xera nin xerará nunca fotografías mediante IA para simular evidencias dunha incautación», o que víase claramente que non era certo, de aí que tiveran que máis aclaracións.
Resulta que o axente que tomou a fotografía do material incautado quixo engadir o escudo do departamento, para o que empregou unha aplicación de edición (que aseguran que non foi o Photoshop, senón ChatGPT) sen ser consciente de que tal proceso, ao realizarse mediante intelixencia artificial, xeraba realmente unha imaxe completamente falsa que simplemente imitaba a orixinal. Dado que ningún axente se decatou do acontecido, publicaron a imaxe falsa para dar conta da detención realizada, e para que quedase claro, compartiron ambas fotografías para que calquera poida verificar a súa orixinalidade.
O feito de que alguén xere unha fotografía mediante ChatGPT e non sexa consciente de que o resultado non se corresponde coa imaxe orixinal deixa en evidencia a ignorancia que teñen os usuarios sobre o funcionamento real de ferramentas que cada vez se empregan máis no noso día a día.