Roger Cuartielles, de Learn to Check, participa en un informe sobre IA per al Parlament de Catalunya
L’informe, titulat IA: Reptes i oportunitats per als parlaments i els poders públics, és el segon d’una sèrie sobre IA i democràcia impulsada pels membres de l’EPTA (European Parliamentary Technology Assessment). S’estructura en tres grans àmbits: l’impacte de la IA en la democràcia, la seva aplicació en institucions públiques i els reptes normatius de la seva regulació.
IA i democràcia: sobirania digital, eleccions i drets fonamentals
L’informe adverteix que la introducció de la IA en els processos democràtics pot alterar la qualitat i la legitimitat de la representació política, especialment si s’aplica sense garanties ètiques, tècniques i institucionals. Es destaca, per exemple, el risc de desinformació en períodes electorals, el debilitament dels poders dels actors humans en la presa de decisions, i la necessitat de preservar la sobirania digital, evitant la dependència de plataformes i infraestructures externes, sovint controlades per actors privats dels EUA.
A Catalunya, la IA ja ha fet les seves primeres passes en l’àmbit electoral: partits com En Comú Podem, Junts per Catalunya o Ciutadans han utilitzat eines generatives per crear materials de campanya. Però, segons l’informe, l’ús encara és exploratori i cal establir protocols de seguretat, transparència i rendició de comptes, com els que ja desplega l’Agència de Ciberseguretat de Catalunya durant els processos electorals.
El repte d’una IA parlamentària: oportunitats i riscos
El Parlament de Catalunya és un dels pocs que ha començat a explorar els usos de la IA en l’àmbit legislatiu. Malgrat que l’ús encara és incipient -només un 6% dels parlamentaris l’utilitzaven el 2020-, l’informe apunta múltiples àmbits on aquestes tecnologies podrien ser útils: redacció d’esmenes, recerca legislativa, consultes ciutadanes o transparència administrativa.
Ara bé, també es remarca la necessitat de garantir la qualitat de les dades, formar adequadament el personal, i evitar que els sistemes automatitzats substitueixin el criteri polític i humà en qüestions de rellevància institucional. Un dels riscos més destacats és que les eines d’IA puguin introduir biaixos o errors que vulnerin drets fonamentals, com el principi d’igualtat, si no es controla la seva aplicació.
L’informe recomana que els parlaments desenvolupin guies ètiques específiques, amb criteris clars sobre transparència, privacitat, supervisió humana i rendició de comptes, inspirades en iniciatives com les de la Westminster Foundation for Democracy.
El sector públic i l’estratègia catalana d’IA
A nivell institucional, la Generalitat de Catalunya ha impulsat l’Estratègia Catalonia.AI i projectes com Aina, que busca assegurar la presència del català en els sistemes d’IA, i l’ús experimental de xats generatius per atendre consultes ciutadanes o simplificar textos legals. També s’empren algorismes predictius en àmbits com el sistema penitenciari.
Aquestes iniciatives, segons l’informe, han de ser sotmeses a auditories ètiques i tècniques, amb la supervisió d’òrgans com l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), per garantir-ne la transparència i la seguretat.
Regulació: entre la innovació i la protecció dels drets
El document dedica una part substancial a analitzar els reptes reguladors que planteja la IA. A escala europea, destaca l’aprovació del Reglament Europeu d’Intel·ligència Artificial (AI Act), que pretén establir un marc legal per promoure un ús segur, ètic i controlat de la IA. A Catalunya, aquest marc es complementa amb iniciatives com l’aprovació de codis de conducta i la supervisió dels algorismes per part d’autoritats públiques.
L’informe insisteix en la necessitat de regular l’ús de la IA amb visió democràtica, posant especial èmfasi en la protecció de dades, la ciberseguretat, la lluita contra la desinformació i el respecte pels drets humans. També subratlla la importància d’un control públic efectiu, que eviti que la indústria tecnològica marqui unilateralment les regles del joc.
L’informe del Parlament de Catalunya és una crida a reflexionar críticament sobre la incorporació de la IA en els espais de decisió pública, advertint que sense una regulació clara i mesures de control robustes, aquestes tecnologies poden minar els fonaments de la democràcia que pretenen modernitzar.
A través de l’anàlisi de casos, entrevistes i referències internacionals, el document ofereix una guia per a legisladors, governs i ciutadania sobre com fer un ús responsable, ètic i sobirà de la intel·ligència artificial, situant la defensa dels drets i valors democràtics al centre del debat tecnològic.
