Recursos

Convivim amb la IA molt més del que a vegades som conscients: des de xatbots com ChatGPT a robots de neteja com la Roomba, assistents de veu com Alexa o Siri… Ens facilita tasques i proporciona informació de manera simple i ràpida, però també comporta riscos i reptes.

La intel·ligència artificial (IA) està integrada en la nostra quotidianitat des de fa temps. Quan pensem en IA, el primer que ens sol venir al cap és la tecnologia generativa com ChatGPT, però, en realitat, convivim amb ella més del que a vegades som conscients en forma de dispositius GPS, robots de neteja com la Roomba, assistents de veu com Alexa o Siri… Ens facilita tasques i proporciona informació valuosa d’una manera simple i ràpida. Però també comporta riscos i reptes.

La intel·ligència artificial simplifica i facilita processos complexos o feixucs i, en última instància, té la capacitat de millorar les nostres vides. “Pot fer càlculs més ràpids, pot decidir de manera més ràpida, pot veure allà on nosaltres, els humans, no veiem, examinar documents molt més ràpid”, explica Miquel Àngel Prats, professor de Tecnologia Educativa de la Universitat Ramon Llull. “Bona part de nosaltres hem viscut sense internet i hem vist com la seva arribada va canviar profundament la manera com ens relacionem, com ens comuniquem o com ens informem. El fenomen de la intel·ligència artificial és exactament aquest tipus de revolució”, afirma.

No obstant això, com tot canvi ràpid i profund, la intel·ligència artificial també planteja reptes i incògnites, i el seu ús descontrolat pot tenir, fins i tot, un impacte negatiu en les nostres societats. Tampoc convé oblidar que, darrere d’aquest salt tecnològic, hi ha una indústria amb interessos propis que poden xocar amb el bé comú. “S’ha desenvolupat un mercat de manera vertiginosa i sense control”, alerta la especialista en intel·ligència artificial i estadística computacional de la Universitat Politècnica de Catalunya, Karina Gibert. “Han sortit a la llum moltes eines intel·ligents que en realitat són fum i no tenen IA veritable, sinó estadística avançada i molt màrqueting, i d’altres que sí són IA però no s’han entrenat ni validat adequadament i tenen disfuncions o biaixos que han ocasionat grans descalabros i han afectat sectors de la població. O bé s’han entrenat amb dades il·lícites que el propietari no ha cedit. Tot això dibuixa un escenari de cert desenfrenament que comporta perills importants, perquè podem estar vulnerant drets fonamentals de les persones”, indica Gibert.

Cal anar amb compte de no confondre la IA generativa (ChatGPT, Gemini, Copilot, Perplexity…) amb un cercador com Google o Yahoo. Ni el seu funcionament ni la seva funció són les mateixes, tot i que ambdues proporcionen informació. La primera ordena informació que ja existeix, mentre que la segona crea informació a partir d’informació prèvia. “La IA generativa respon amb frases que construeix seguint criteris probabilístics a partir de tot el que ha llegit. És a dir, sap intuir quina és la paraula que millor encaixa després d’una frase a mig fer i així va construint el discurs. Generalment, queda bé, solen escriure textos molt convincents i ben estructurats. Però cal tenir present que no entén res del que li preguntem ni, molt menys, del que ens respon”, recorda Gibert. De fet, posa tant d’èmfasi en fer que els textos siguin ‘resultons’ que “per naturalesa, quan no coneix un concepte, se l’inventa”, afirma Prats.

Cal tenir en compte que la base del coneixement de la IA generativa és el seu entrenament amb quantitats massives de dades, de qualsevol tipus, fins i tot errònies. I això és així perquè estan dissenyades per entendre el llenguatge humà. Aquest entrenament implica que, de retruc, aprenen molt sobre el món, però la informació que ens ofereixen pot contenir dates o dades incorrectes i confusions. Es tracta de les anomenades ‘al·lucinacions’, errors provocats per dades d’entrenament insuficients, suposicions incorrectes o biaixos de raça, gènere o culturals. Hi ha qui diu que “les dades parlen per si soles”, però les dades només parlen per si soles si es recullen correctament, i també poden dir el que vulguis segons com les interpretis. “És el paradigma de la predicció”, afirma Albert Sabater, director de la Càtedra – Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC) i professor de la Universitat de Girona.

Com hem dit, la IA s’entrena amb enormes volums de dades, incloent-hi, en molts casos, dades personals el ús dels quals no ha estat autoritzat pels seus propietaris. No seria la primera vegada que els internautes cedeixen les seves dades sense ser conscients de l’ús comercial que posteriorment se’n fa, però en molts casos, les empreses darrere d’aquestes tecnologies no han estat prou transparents a l’hora de revelar si en els paquets de dades amb què s’entrenen hi ha informació privada d’usuaris que no han donat el seu consentiment.

D’altra banda, també hauríem de ser conscients que hi ha informació que, per la nostra seguretat i privacitat, no hauríem de revelar a una IA. No hauríem de proporcionar dades que permetin identificar una persona concreta o revelar informació personal com el nom i cognoms, data de naixement, adreça, DNI, telèfon, correu electrònic… Per descomptat, tampoc hauríem de facilitar informació bancària o detalls precisos sobre dates de vacances o itineraris. A més, no s’han de donar contrasenyes ni demanar que en generi cap, així com tampoc compartir dades mèdiques o informació protegida. A nivell empresarial, es recomana no revelar a la IA codis de programació, informació sobre productes, secrets comercials…

Cada vegada que preguntem alguna cosa a una IA, augmentem la nostra petjada de carboni, així que el futur del planeta també depèn de la nostra responsabilitat a l’hora d’utilitzar aquesta tecnologia. I encara que noves IA generatives com la xinesa Deep Seek afirmen ser més eficients i, per tant, generar menys gasos d’efecte hivernacle, hem de ser conscients que les nostres eleccions tenen un impacte en la crisi climàtica. “La IA generativa requereix molta computació i, com més computació, més centres de dades necessites, els quals tenen un consum energètic molt elevat i, al mateix temps, també consumeixen força aigua”, adverteix Sabater.

“Aquestes eines són tan atractives, tan seductores, que gairebé t’atrapen”, reconeix Prats. La rapidesa amb què ens proporcionen resultats acceptables, la senzillesa del seu ús i la multitud de tasques que poden realitzar ens poden fer caure en la temptació –gairebé addictiva– de deixar la nostra creativitat en mans de la IA. Per què hauria de crear jo alguna cosa original i única si la IA em pot generar una versió correcta en pocs segons? Per què hauria d’esforçar-me? “Cal autoregular-se –defensa Prats–. És molt fàcil quedar-se enganxat a la pantalla i saltar constantment a la IA. Per tant, cal tenir el cap molt ben moblat i ajudar els nens i joves a fer-ho donant exemple”.

Sense caure en l’alarmisme, cal reconèixer que la IA ofereix unes facilitats mai vistes per al plagi, i l’expansió del seu ús està relaxant les convencions morals (i també econòmiques, recordem que hi ha molts sectors professionals dedicats a la creació de textos) al respecte. “Per què s’ha dit a la gent que necessita un model d’IA generativa per fer textos que no ha escrit, apropiar-se’n i posar-hi el seu nom? Això és plagi. Per què hauria de dir al meu fill que això està bé quan sé que no ho està? Hem arribat a un punt de corrupció generalitzada”, lamenta Sabater, que denuncia que aquesta mala praxi s’està estenent cada vegada més en el món de la recerca científica. “Fa molts anys que les demandes sobre els acadèmics són completament inassumibles. I alguns utilitzen eines com ChatGPT i altres per ser molt més productius”, reconeix Sabater.

Segons els experts consultats, moltes empreses han generat expectatives exagerades sobre els seus productes per motius comercials. “La gent, a vegades, queda atrapada per qüestions de FOMO, per factors més allunyats de la tecnologia i molt propers al que seria la part més econòmica”, sosté Sabater. Ni la IA serveix per a tot ni hauríem d’utilitzar-la en tots els casos. Com bé sabem, no es maten mosques a canonades. “El problema és el desplegament d’una metodologia que, a vegades, no és la millor per donar resposta a un problema”, indica Sabater.

Com hem vist, la IA té la capacitat de generar informació creïble però no sempre veritable, cosa que està creant un “ecosistema digital pertorbat i contaminat”, en paraules de Sabater, en el qual gairebé tothom pot desinformar. “Estem cedint clarament una part de la nostra capacitat de generar bona informació a unes empreses que no tenen cap altre objectiu que generar ingressos. No sembla, de moment, que estiguin gaire interessades en la contaminació que estan creant en l’ecosistema digital a través de les seves eines”, lamenta l’expert.

No, la tecnologia no et robarà la feina, però les decisions empresarials, sí. Un estudi de la Nexford University que analitza com la intel·ligència artificial transformarà el mercat laboral entre 2024 i 2030 destaca que certs llocs de treball estan en més risc d’automatització. Feines administratives, d’atenció al client, entrada de dades i comptabilitat són algunes de les més afectades, ja que la IA pot realitzar aquestes tasques de manera més eficient i ràpida. També afecta els treballs creatius com dissenyadors, publicistes, redactors, traductors, actors, cantants… “Veiem en l’agenda d’algunes d’aquestes empreses la voluntat de vendre aquesta tecnologia generativa per substituir determinades professions”, alerta Sabater.

De fet, algunes professions ja han començat a mobilitzar-se contra la ‘substitució’ per la IA. Al setembre de 2023, el Sindicat de Guionistes dels Estats Units posava fi a 148 dies de vaga després d’arribar a un acord en què, entre altres coses, s’establia que els guionistes només podran utilitzar la IA generativa com a eina, però mai es podrà crear o signar una obra íntegrament amb IA o que tingui aquesta tecnologia com a font principal. Al Regne Unit, el passat 25 de febrer, més de 1.000 músics britànics van donar suport a un disc silenciós com a senyal de protesta contra una nova llei que facilita als grans gegants tecnològics esquivar els drets de propietat intel·lectual per utilitzar les seves composicions en l’entrenament de nous models de IA generativa.

“Encara necessitem molta sensibilització sobre com és aquest fenomen, per tant, cal desmitificar-lo i tractar-lo de manera molt natural. Això per una banda. Per altra banda, cal donar prevencions de seguretat i privacitat”, opina Prats. En aquest sentit, l’educació és essencial. En primer lloc, a les aules, on el professorat, segons Prats, ha d’entendre el context actual i ser capaç de determinar les potencialitats, riscos i limitacions del seu ús. Però, d’altra banda, també hi ha les famílies. “Cal treballar amb les famílies perquè estiguin al dia i puguin ajudar els seus fills a tenir criteri. No es tracta de prohibir la IA, sinó de trobar un equilibri”, afegeix.

D’altra banda, Karina Gibert recorda la importància de la transparència en l’ús de la IA. Tenim dret a saber quan estem consumint un producte generat per intel·ligència artificial. “La idea és fer transparent l’ús de la IA i que tothom sàpiga quan hi ha una IA en acció en algun procés, i que pugui demanar explicacions sobre com la IA ha arribat a un cert resultat i al·legar en defensa dels seus propis drets”, indica l’experta.

Al final, la IA ha vingut per quedar-se, i haurem d’aprendre a conviure-hi i a empoderar-nos per posar-la al nostre servei, i no al revés. “Només tenim dues opcions –raona Prats–. O ens convertim en menonites i marxem a la muntanya, i per tant, desapareixem del món. O assumim que vivim en un món altament digitalitzat i que hem d’estar molt empoderats sobre quan i com s’utilitza la tecnologia.”