Claus per detectar un vídeo deepfake generat per IA
Com observar els detalls, rastrejar l’origen i recolzar-se en eines digitals per comprovar si un vídeo és real o no
Els vídeos creats amb intel·ligència artificial, coneguts com a deepfakes, són cada vegada més realistes i difícils d’identificar a simple vista. Circulen amb rapidesa a les xarxes socials i poden alimentar l’odi, la manipulació i la desinformació. Un exemple recent és el d’un suposat vídeo d’una professora musulmana ensenyant a resar nens al Regne Unit, que va ser difós com a real, però que en realitat havia estat generat amb IA, com denuncia Maldita.es. Utilitzant aquest exemple, us expliquem algunes claus bàsiques per aprendre a detectar aquest tipus de continguts falsos.
El primer pas és observar amb atenció els detalls visuals. Al vídeo desmentit per Maldita.es, s’aprecien errors típics de la intel·ligència artificial: la professora s’asseu en una cadira que no existia abans, alguns moviments són poc naturals i els trets de la cara apareixen lleugerament borrosos. També les mans dels nens es veuen deformes en alguns moments, un dels errors més comuns que encara genera la IA. Aquests errors solen aparèixer en zones complexes com mans, ulls, dents, fons o canvis bruscos de postura.
Un altre indici important és lorigen del vídeo. En aquest cas, el contingut es va publicar primer en una pàgina de Facebook anomenada British Scope, que ja havia difós altres vídeos generats per IA sobre persones musulmanes o migrants. A més, alguns portaven fins i tot la marca d’aigua d’eines de creació de vídeos amb intel·ligència artificial, com ara MindVideo. Investigar qui publica el vídeo, quin tipus de continguts comparteix habitualment i si apareixen aquestes marques és clau per no caure a l’engany. Aquí pots aprendre més sobre el mètode PANTERA per verificar informació fent servir el teu esperit crític.
D’altra banda, cercar si el vídeo ha estat verificat per mitjans especialitzats és una de les millors maneres de protegir-nos. En aquest cas, verificadors com Maldita.es, Snopes o Facta van confirmar que el vídeo no era real. Una cerca ràpida amb l’eina Fact Check Explorer de Google, que cerca informació només entre webs de verificació, ens indica que aquest vídeo és fals.
Un altre recurs seria utilitzar la pròpia intel·ligència artificial a favor nostre. Hi ha eines, que encara es troben en fase de proves i, per tant, no són infal·libles i s’han d’usar com a mètode de suport, analitzen la probabilitat que un contingut sigui sintètic. Les més conegudes són Hive Moderation (que després d?analitzar la imatge ofereix un percentatge que indica la probabilitat que la imatge hagi estat creada per IA) i AI or Not (que utilitza algorismes avançats i tècniques d?aprenentatge per analitzar si les imatges han estat creades per diversos models d?IA), però també hi ha altres eines com FotoForensics, Illuminatry, Fake Imagen Detector o Winston AI Image Detector.
Davant del dubte, desconfia, observa amb calma, busca fonts fiables i recorda: si un vídeo apel·la a emocions intenses com ara la por, l’odi o la indignació, convé extremar les precaucions abans de compartir-lo.
