Recursos

El veloç avenç de les imatges, vídeos i àudios creats amb intel·ligència artificial generativa fa necessari entrenar la mirada i fer-la crítica per detectar els seus punts febles (que en tenen) i conèixer eines que ens puguin ajudar a aquests continguts

La intel·ligència artificial generativa avança a passos de gegant i ja és capaç de crear imatges, vídeos o àudios tan realistes que poden passar fàcilment per contingut real. Aquesta tecnologia presenta aspectes avantatjosos, com ara la rapidesa de creació, la capacitat generativa dels algoritmes, l’abaratiment dels costos… Però, al marge dels importants debats sobre els perills per a la creativitat o la destrucció de llocs de treball humans, la seva capacitat de semblar realista la converteix en una eina molt útil per generar desinformació.

Imatges falses sobre la DANA de València, la guerra a Gaza, els candidats a les eleccions nord-americanes, pornografia infantil amb IA… Hi ha milers d’exemples. Fins i tot en el món de l’art s’han infiltrat “fakes”. L’any 2023, el jurat del prestigiós premi fotogràfic World Press Photo va atorgar el primer premi en una de les seves categories a una imatge generada per intel·ligència artificial. Ni tan sols els ulls més experts estan exempts d’ésser enganyats.

Per això, no només és imprescindible conscienciar sobre l’existència d’aquestes imatges i la confusió que poden generar, sinó també entrenar la mirada per fer-la crítica, detectar els seus punts febles (que els tenen) i conèixer algunes eines que ens ajudin a identificar-les. Com ho fem?

Primer de tot, cal saber que no sempre s’amaga l’artificialitat d’una imatge. En moltes ocasions, els mateixos autors indiquen que es tracta d’una creació amb intel·ligència artificial. Per identificar-ho, cal buscar paraules clau com «IA», «DALL-E», «Midjourney» o altres noms d’eines d’intel·ligència artificial generativa, tot i que això pot ser complicat per a qui no està familiaritzat amb aquesta tecnologia. D’altra banda, alguns generadors d’imatges afegeixen marques d’aigua a les seves creacions. Solen ser subtils i estar col·locades en una de les cantonades de la imatge, així que cal estar atents per detectar-les.

La mirada i el pensament crític i reflexiu són les nostres principals eines per defensar-nos de la desinformació en general. Per això, abans de donar per vàlid qualsevol contingut, cal fer-se preguntes: És creïble el que veiem o escoltem? És plausible que dos polítics antagònics com Pablo Iglesias i Santiago Abascal es donin la mà somrient mentre passegen pel carrer? És raonable que el Papa aparegui vestit amb un cridaner anorac de la marca de luxe Balenciaga? Creus que és possible que Donald Trump fos detingut per desenes de policies en ple carrer a Nova York o que Kamala Harris es vestís amb un uniforme comunista? El sentit comú és el nostre principal aliat per detectar les primeres senyals d’alerta.

Però, igual com existeixen mètodes de verificació per detectar la mentida escrita o les imatges falsificades, el contingut generat per intel·ligència artificial o els deepfakes (contingut generat per IA a partir de contingut real) requereix que parem atenció a algunes especificitats. De moment, sempre podem trobar algun “defecte” que reveli la seva artificialitat.

• Imperfeccions en els rostres: Errors a les orelles, ulls desalineats, absència de dents, reflexos estranys en ulleres o cares excessivament simètriques poden ser indicis de generació per IA.
• Errors a les mans: Generar mans realistes continua sent un desafiament per a les IA actuals. Observa el nombre de dits o la forma de les mans, ja que sovint presenten dits de més, deformitats o proporcions estranyes.
• Sincronització de llavis i àudio: En el cas dels vídeos, analitza si el moviment dels llavis coincideix de manera natural amb el so que emeten.

La intel·ligència artificial també serveix per desenvolupar tecnologies capaces de detectar imatges falses. Aquestes eines, que encara es troben en fase de proves i, per tant, no són infal·libles i han de ser utilitzades com a mètode de suport, analitzen la probabilitat que un contingut sigui sintètic. Tot i això, en alguns casos, és necessari pagar una subscripció per accedir a funcions avançades.

Les més conegudes són Hive Moderation (que, després d’analitzar la imatge, ofereix un percentatge que indica la probabilitat que hagi estat creada per IA) i AI or Not (que utilitza algoritmes avançats i tècniques d’aprenentatge per analitzar si les imatges han estat creades per diversos models d’IA). També existeixen altres eines com FotoForensics, Illuminatry, Fake Image Detector o Winston AI Image Detector.

Per a la identificació d’àudios falsos també hi ha recursos específics com Loccus.ai, un detector creat per una empresa barcelonina que ha estat adquirit per la companyia tecnològica nord-americana Hiya, líder en serveis globals de seguretat de veu.

A banda d’aquestes eines específiques, hi ha altres recursos més generals que ens poden ajudar a verificar continguts generats per IA. Per exemple, es pot utilitzar la lupa de la eina de verificació d’imatges i vídeos InVID WeVerify Vera.ai per ampliar parts d’una imatge sense que es pixelin i detectar-hi errors. A més, les cerques inverses d’imatges en TinEye o Google Imatges poden ser útils per descobrir si altres mitjans de comunicació o organitzacions dedicades a la verificació han identificat aquest contingut com una creació generada amb intel·ligència artificial.

Un dels últims avenços en la identificació d’imatges generades per IA podria venir de la mà de Google. El passat mes d’octubre es va revelar que el gegant d’internet està preparant una nova versió de Google Fotos que integrarà una funció capaç de mostrar informació sobre les fotos generades amb intel·ligència artificial. El nou sistema, encara sense data de llançament coneguda, no només catalogarà les imatges creades per la seva pròpia IA, indicant “fet amb Google IA”, sinó que també sembla que serà capaç de detectar i catalogar imatges reals alterades amb la IA de Google Fotos, així com aquelles creades per altres plataformes. Aquests detalls es mostraran a la informació dels metadades de la imatge sota el títol “AI Info”.