Roger Cuartielles, de Learn to Check, participa en un informe sobre IA para el Parlamento de Cataluña
El informe, titulado IA: Retos y oportunidades para los parlamentos y los poderes públicos, es el segundo de una serie sobre IA y democracia impulsada por los miembros del EPTA (European Parliamentary Technology Assessment). Se estructura en tres grandes ámbitos: el impacto de la IA en la democracia, su aplicación en instituciones públicas y los retos normativos de su regulación.
IA y democracia: soberanía digital, elecciones y derechos fundamentales
El informe advierte que la introducción de la IA en los procesos democráticos puede alterar la calidad y la legitimidad de la representación política, especialmente si se aplica sin garantías éticas, técnicas e institucionales. Se destaca, por ejemplo, el riesgo de desinformación en periodos electorales, el debilitamiento de los poderes de los actores humanos en la toma de decisiones, y la necesidad de preservar la soberanía digital, evitando la dependencia de plataformas e infraestructuras externas, a menudo controladas por actores privados de los EE. UU..
En Cataluña, la IA ya ha hecho sus primeros pasos en el ámbito electoral: partidos como En Comú Podem, Junts por Catalunya o Ciutadans han utilizado herramientas generativas para crear materiales de campaña. Pero, según el informe, el uso todavía es exploratorio y hay que establecer protocolos de seguridad, transparencia y rendición de cuentas, como los que ya despliega la Agencia de Ciberseguridad de Cataluña durante los procesos electorales.
El reto de una IA parlamentaria: oportunidades y riesgos
El Parlamento de Cataluña es uno de los pocos que ha empezado a explorar los usos de la IA en el ámbito legislativo. A pesar de que el uso todavía es incipiente -sólo un 6% de los parlamentarios lo utilizaban el 2020-, el informe apunta múltiples ámbitos donde estas tecnologías podrían ser útiles: redacción de enmiendas, investigación legislativa, consultas ciudadanas o transparencia administrativa.
Ahora bien, también se remarca la necesidad de garantizar la calidad de los datos, formar adecuadamente el personal, y evitar que los sistemas automatizados sustituyan el criterio político y humano en cuestiones de relevancia institucional. Uno de los riesgos más destacados es que las herramientas de IA puedan introducir sesgos o errores que vulneren derechos fundamentales, como el principio de igualdad, si no se controla su aplicación.
El informe recomienda que los parlamentos desarrollen guías éticas específicas, con criterios claros sobre transparencia, privacidad, supervisión humana y rendición de cuentas, inspiradas en iniciativas como las de la Westminster Foundation for Democracy.
El sector público y la estrategia catalana de IA
A nivel institucional, la Generalitat de Cataluña ha impulsado la Estrategia Catalonia.ai y proyectos como Aina, que busca asegurar la presencia del catalán en los sistemas de IA, y el uso experimental de chats generativos para atender consultas ciudadanas o simplificar textos legales. También se emplean algoritmos predictivos en ámbitos como el sistema penitenciario.
Estas iniciativas, según el informe, tienen que ser sometidas a auditorías éticas y técnicas, con la supervisión de órganos como el Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC), para garantizar la transparencia y la seguridad.
Regulación: entre la innovación y la protección de los derechos
El documento dedica una parte sustancial a analizar los retos reguladores que plantea la IA. A escala europea, destaca la aprobación del Reglamento Europeo de Inteligencia Artificial (AI Act), que pretende establecer un marco legal para promover un uso seguro, ético y controlado de la IA. En Cataluña, este marco se complementa con iniciativas como la aprobación de códigos de conducta y la supervisión de los algoritmos por parte de autoridades públicas.
El informe insiste en la necesidad de regular el uso de la IA con visión democrática, poniendo especial énfasis en la protección de datos, la ciberseguridad, la lucha contra la desinformación y el respeto por los derechos humanos. También subraya la importancia de un control público efectivo, que evite que la industria tecnológica marque unilateralmente las reglas del juego.
El informe del Parlamento de Cataluña es un llamamiento a reflexionar críticamente sobre la incorporación de la IA en los espacios de decisión pública, advirtiendo que sin una regulación clara y medidas de control robustas, estas tecnologías pueden minar los cimientos de la democracia que pretenden modernizar.
A través del análisis de casos, entrevistas y referencias internacionales, el documento ofrece una guía para legisladores, gobiernos y ciudadanía sobre cómo hacer un uso responsable, ético y soberano de la inteligencia artificial, situando la defensa de los derechos y valores democráticos en el centro del debate tecnológico.
