Recursos

La intel·ligència artificial generativa no hauria de considerar-se mai una font fiable, tot i que podria ser un punt de partida interessant si tenim en compte que sempre hauríem de verificar el que ens diu, ja que pot cometre errors.

L’arribada de la intel·ligència artificial generativa ha suposat una revolució en la manera com interactuem amb les tecnologies. Aquests algorismes d’intel·ligència artificial són capaços de generar nous continguts per respondre a les nostres demandes. Textos, imatges, vídeos, música, converses, codi… tot en pocs segons. Aquests sistemes aprenen patrons i estructures en una primera fase entrenant amb un volum enorme de dades, però després són capaços d’alimentar-se del que van aprenent mitjançant la interacció amb els usuaris per generar noves idees i capacitats en un procés similar al del pensament humà.

Existeixen multitud de sistemes d’intel·ligència artificial generativa i els seus usos no paren d’expandir-se, però els més accessibles per al comú dels usuaris són els anomenats chatbots d’IA. Com ja hem dit, la IA generativa és capaç d’aprendre de forma similar al cervell humà, però, a més, pot mantenir converses amb els usuaris. Això és el que seria un chatbot d’IA: un ‘robot’ de conversa al qual podem demanar coses, fer preguntes, repreguntar, demanar-li correccions, matisos, canvis d’estil… i aquest ens respon a una velocitat molt superior a la de la ment humana.

L’existència de les IA conversacionals significa que deixarem de “googlejar”? No necessàriament. Simplement hem d’entendre i aprendre per a què ens pot servir una cosa i l’altra. Quan utilitzem un motor de cerca (Google, Yahoo, Bing, DuckDuckGo, Ecosia…), busquem informació a partir de paraules clau que el cercador rastreja en temps real per internet. El resultat són enllaços indexats segons les mètriques de diversos algorismes amb l’objectiu d’ordenar-los segons la rellevància que els atorguen, tenint en compte paràmetres com la qualitat de la web, la data de publicació o les teves preferències. Després, és l’usuari qui decideix amb quina informació es queda.

En canvi, amb un chatbot d’IA tenim una conversa: li fem una pregunta concreta o una petició. A partir d’aquí, els seus algorismes processen el teu llenguatge i cerquen paraules clau per trobar una resposta, ja sigui en el seu banc de dades o connectant-se a internet, fusionant en un sol text els resultats de la informació trobada. Depenent de l’eina que facis servir o de si utilitzes el mode de pagament, el chatbot t’oferirà o no la font de la informació proporcionada en forma d’enllaços a la font original. Per exemple, ChatGPT o Gemini, d’entrada, no citen les fonts perquè són bots conversacionals; en canvi, Perplexity, una eina documental, sí que ho fa. Sobre els bots conversacionals, Miquel Àngel Prats, professor titular de Tecnologia Educativa de la Universitat Ramon Llull, explica: “És molt important entendre que aquest tipus d’intel·ligències artificials generatives estan pensades per conversar i parlar, per generar textos, però no per documentar.”

La intel·ligència artificial generativa no hauria de considerar-se mai una font fiable, tot i que podria ser un punt de partida interessant si tenim en compte que sempre hauríem de verificar el que ens diu, ja que pot cometre errors. “El gran error que podem cometre amb el seu ús és l’excés de confiança, el que es coneix com over-reliance, és a dir, confiar massa en el resultat que ens doni”, alerta Prats. De fet, aquesta tecnologia està pensada per interpretar el llenguatge, no per cercar informació. “La intel·ligència artificial generativa, per naturalesa, quan no sap un concepte, se l’inventa”, afirma Prats. Aquests són els seus principals defectes:

Quan parlem de chatbots conversacionals entrenats amb quantitats massives de dades, en realitat ens referim a volums ingents de textos de qualsevol tipus (també textos amb errors), perquè la intenció és ensenyar-los com funciona el llenguatge humà. Al mateix temps, aquests textos els serveixen per aprendre sobre el món, però la informació que ens ofereixen pot contenir dates o dades incorrectes i confusions. Es tracta de les anomenades ‘al·lucinacions’ de la IA, és a dir, errors provocats per dades d’entrenament insuficients, suposicions incorrectes o biaixos en les dades utilitzades per entrenar el model. Sempre caldria comprovar en un motor de cerca o en l’enllaç que ens proporcioni la IA si es tracta d’informació correcta. És a dir, cal tornar sempre a les fonts de referència.

El fet que tractem amb un ‘robot’ entrenat amb ‘dades’ podria donar-nos la falsa sensació que els seus algorismes no contenen els mateixos biaixos que pot tenir un humà, però els seus resultats poden estar-hi influenciats. Hi ha innombrables exemples de chatbots d’IA que donen respostes diferents a la mateixa pregunta si indiques que ets un home, una dona o una persona racialitzada. “És important entendre que la IA pot fer-te un primer esbós, però que aquest pot estar ple de biaixos de gènere, de raça…”, adverteix Prats. Això es deu al fet que el seu entrenament no està exempt de, per exemple, el context cultural de les dades proporcionades per crear el seu banc de coneixement. “Potser són dades entrenades en un context cultural molt americà o molt asiàtic que no tenen res a veure amb el nostre propi context cultural”, indica Prats. “Com més entrenament, més precisió. Però sempre a partir del que té emmagatzemat. Per això és tan important la revisió posterior”, insisteix el professor.

Existeixen multitud de chatbots d’IA i cadascun té funcionalitats diferents i estan pensats per ser utilitzats per a tasques diferents. Però hi ha quatre que, per haver estat desenvolupats per gegants tecnològics, s’han convertit en els més populars entre els internautes per fer consultes. Són els següents:

• ChatGPT: Desenvolupat per OpenAI, és el més popular d’ells per haver estat el primer a sortir a internet en obert i per la seva capacitat d’explorar una àmplia varietat de temes. En la seva versió gratuïta és capaç d’oferir explicacions detallades sobre una gran varietat de temes i crear textos detallats, personalitzats i ben estructurats. En la seva versió de pagament és un tot en un: conversar, fer cerques, generar imatges i documents. “És una de les solucions probablement més completes al mercat”, opina Prats. No obstant això, no està connectat a internet i presentaria problemes a l’hora de proporcionar informació molt actualitzada.
• Gemini:Creat per Google DeepMind, és l’opció adequada per a cerques complexes. És una IA multimodal, és a dir, que pot entendre diversos tipus d’informació, tant els textos que li escriguis com imatges, àudio i codi de programació. A més, té l’avantatge que pot aplicar-se a tots els productes de Google. La seva versió de pagament permet generar contingut visual i escriure codi, sent especialment útil per a dissenyadors, programadors o usuaris que necessiten explorar dades de múltiples formats. A més, es pot integrar en dispositius mòbils i aplicacions i està connectada a internet.
• Copilot: Una creació de GitHub i Microsoft. S’integra amb aplicacions de Microsoft com Word, Excel i PowerPoint i està connectada a internet. Això significa que les versions del paquet Office que tinguin Copilot Pro tindran un botó dins de PowerPoint o de Word o d’Excel en el qual ja t’incorpora la IA dins d’aquests aplicatius d’ús diari. “Aquí ja tens la possibilitat que al mateix PowerPoint li puguis demanar que et faci una presentació sobre qualsevol cosa i te la generi”, diu Prats com a exemple.
• Claude: De la companyia Anthropic, és un chatbot pensat especialment per a programadors. “Sobretot per als programadors de Python, perquè genera codi molt polit”, indica Prats. No obstant això, comparteix la desavantatge amb ChatGPT que no està connectat a internet i no pot donar dades com dates o hores.
• Mistral: Creada a França, és una de les últimes IA generatives a sortir al mercat, per la qual cosa de moment és gratuïta. Aquesta alternativa europea a ChatGPT de codi obert “té la possibilitat de generar imatges, té cercador i, de la mateixa manera que ho fan els altres, té la possibilitat de buscar i crear agents”, afirma Prats.
• Perplexity AI: Aquesta IA seria l’indicada per a aquells que busquen respostes ràpides, actualitzades i verificables amb fonts clares (ofereix enllaços a la font original), com estudiants, investigadors o professionals que necessiten dades fiables per recolzar els seus projectes, tot i que les seves respostes són esquemàtiques i concises. “Està molt pensat com a cercador referencial i documental, més que com a chatbot”, afirma Prats. “Cerca documents, és molt precís i molt consistent.” “Seria com l’alternativa del cercador de Google, però amb intel·ligència artificial”, assegura.