Recursos

Convivimos con la IA mucho más de lo que a veces somos conscientes: desde chatbots como ChatGPT a robots de limpieza como la Roomba, asistentes de voz como Alexa o Siri… Nos facilita tareas y proporciona información de forma simple y rápida, pero también comportan riesgos y retos.

La inteligencia artificial (IA) está integrada en nuestra cotidianidad desde hace tiempo. Cuando pensamos en IA, lo primero que nos suele venir a la cabeza es la tecnología generativa del tipo Chat GPT, pero, en realidad convivimos con ella más de lo que a veces somos conscientes en forma dispositivos GPS, robots de limpieza como la Roomba, asistentes de voz como Alexa o Siri… Nos facilita tareas y proporciona información valiosa de una forma simple y rápida. Pero también comporta riesgos y retos.

La inteligencia artificial simplifica y facilita procesos complejos o farragosos y, en última instancia, tiene la capacidad de mejorar nuestras vidas. “Puede hacer cálculos más rápidos, puede decidir de forma más rápida, puede ver allí donde nosotros, los humanos, no vemos, examinar documentos mucho más rápido”, explica Miquel Àngel Prats, profesor de Tecnología Educativa de la Universitat Ramon Llull. “Buena parte de nosotros hemos vivido sin internet y hemos visto cómo su llegada cambió profundamente cómo nos relacionamos, cómo nos comunicamos o cómo nos informamos. El fenómeno de la inteligencia artificial es exactamente ese tipo de revolución”, afirma.

No obstante, como todo cambio rápido y profundo, la inteligencia artificial también plantea retos e incógnitas y su uso descontrolado puede tener, incluso, un impacto negativo en nuestras sociedades. Tampoco conviene olvidar que, detrás de este salto tecnológico existe una industria con intereses propios que pueden chocar con el bien común. “Se ha desarrollado un mercado de forma vertiginosa y sin control”, alerta la especialista en inteligencia artificial y estadística computacional de la Universitat Politécnica de Catalunya Karina Gibert. “Han salido a la luz muchas herramientas inteligentes que en realidad son humo y no tienen IA verdadera, sino estadística avanzada y mucho marketing, otras que sí son IA pero no se han entrenado ni validado adecuadamente y tienen disfunciones o sesgos que han ocasionando grandes descalabros y afectado a sectores de la población. O se han entrenado con datos ilícitos que el propietario no ha cedido. Todo ello dibuja un escenario de cierto desenfreno que comporta peligros importantes porque podemos estar vulnerando derechos fundamentales de las personas”, indica Gibert. 

Cuidado con confundir la IA generativa (ChatGPT, Gemini, Copilot, Perplexity…) con un buscador tipo Google o Yahoo. Ni su funcionamiento ni su función son las mismas, aunque ambas proporcionan información. La primera ordena información que ya existe, la segunda crea información a partir de información previa. “La IA generativa responde frases que construye con criterios probabilísticos a partir de todo lo que ha leído. Es decir, sabe intuir cuál es la palabra que mejor queda después de una frase medio hecha y así va construyendo discurso. Queda bien por lo general, suelen escribir textos muy convincentes y bien estructurados. Pero hay que tener presente que no entiende nada de lo que les preguntamos ni mucho menos nada de lo que nos responde”, recuerda Gibert. De hecho, pone tanto interés en que los textos queden ‘resultones’ que “por naturaleza, cuando no sabe un concepto, se lo inventa”, afirma Prats.

Hay que tener en cuenta que la base del conocimiento de la IA generativa es su entrenamiento con cantidades masivas de datos, cualquier tipo de dato, incluso los erróneos. Y eso es así porque están pensadas para entender el lenguaje humano. Este entrenamiento implica que, de paso, aprenden mucho sobre el mundo, pero la información que nos ofrece puede contener fechas o datos erróneos y confusiones. Se trata de las llamadas ‘alucinaciones’, errores provocados por datos de entrenamiento insuficientes, suposiciones incorrectas o con sesgos de raza, de género o culturales. Hay gente que dice “los datos hablan por sí solos”, pero los datos hablan por sí solos si los recoges bien y también los datos pueden decirte lo que quieras, es el paradigma de la predicción”, sostiene Albert Sabater,  Director de la Cátedra – Observatorio de Ética en Inteligencia Artificial de Catalunya (OEIAC) y profesor de la Universitat de Girona.

Como hemos dicho, la IA se entrena a base de ingentes volúmenes de datos, entre ellos, en muchos casos, datos personales cuyo uso no ha sido autorizado por sus propietarios. No sería la primera vez que los internautas ceden sus datos sin ser conscientes del uso comercial que posteriormente se hace de ellos, pero en muchos casos las empresas detrás de estas tecnologías no han sido lo suficientemente transparentes a la hora de revelar si en los paquetes de datos con los que las entrenan hay información privada de usuarios que no han dado su consentimiento.

Por otro lado, deberíamos ser también conscientes de que hay información que, por nuestra seguridad y privacidad, no deberíamos revelar a una IA. no deberíamos proporcionar datos que permitieran identificar a una persona concreta o revelar información personal como nombre y apellidos, fecha de nacimiento, dirección, DNI, teléfono, correo electrónico… Por supuesto tampoco deberíamos facilitarle información bancaria o información precisa sobre fechas de vacaciones o itinerarios, tampoco darles contraseñas ni pedirle que nos genere ninguna, al igual que tampoco debemos facilitarle datos médicos o información protegida. A nivel empresarial, se recomienda no revelar a la IA códigos de programación, información sobre productos, secretos comerciales…

Cada vez que le preguntamos algo a una IA aumentamos nuestra huella de carbono, así que el futuro del planeta también depende de nuestra responsabilidad a la hora de usar esta tecnología. Y aunque nuevas IAs generativas como la china Deep Seek afirman ser más eficientes y, por lo tanto, que su uso genera menos gases de efecto invernadero, debemos ser conscientes de que nuestras elecciones tienen un impacto en la crisis climática. “La IA generativa requiere mucha computación y, con más computación, necesitas más centros de datos, que tienen un consumo energético muy importante y al mismo tiempo también consumen bastante agua”, advierte Sabater. 

“Estas herramientas son tan atrayentes, tan seductoras, que casi te atrapan”, reconoce Prats. La rapidez con la que nos aportan resultados aceptables, la sencillez de su uso y las múltiples tareas que pueden realizar pueden hacernos caer en la tentación -casi adictiva- de dejar nuestra creatividad en manos de la IA. ¿Para qué voy a crear yo algo original y único si la IA me puede generar algo correcto en pocos segundos? ¿Por qué debería esforzarme?. “Hay que autorregularse -defiende Prats-. Es muy fácil quedarse enganchado a la pantalla y constantemente saltar a la IA. Por tanto, hay que tener la cabeza muy bien amueblada y ayudar a los niños y jóvenes a tenerla dando ejemplo”. 

Sin caer en el alarmismo, hay que reconocer que la IA ofrece unas facilidades nunca vistas para el plagio y la expansión de su uso está relajando las convenciones morales (y también económicas, recordemos que hay muchos sectores profesionales dedicados a la creación de textos) al respecto. “Por qué le han dicho a la gente que necesita un modelo de IA generativa para hacer textos que no ha escrito, apropiarse de ese texto y ponerle su nombre? Eso es plagio. ¿Por qué debo decirle a mi hijo que eso está bien cuando yo sé que no? Hemos llegado a un punto de corrupción generalizada”, lamenta Sabater, que denuncia que esta mala praxis se extiende cada vez más en el mundo de la investigación científica. “Llevamos muchos años en los que las demandas sobre los académicos son completamente inasumibles. Y algunos, utilizan herramientas como chat GPT y otras para ser mucho más productivos”, reconoce Sabater.

Según los expertos consultados, muchas empresas han generado expectativas exageradas sobre sus productos por cuestiones comerciales. “La gente, a veces, queda atrapada por cuestiones de FOMO, por cuestiones más alejadas de la tecnología y muy cercanas a lo que sería la parte más económica”, sostiene Sabater. Ni la IA sirve para todo ni deberíamos usarla en todos los casos. Como bien sabemos, no se matan moscas a cañonazos. “El problema es el despliegue de una metodología que a veces no es la mejor para dar respuesta a un problema”, indica Sabater.

Como hemos visto, la IA tiene la capacidad de generar información creíble pero no siempre verdadera, algo que está generando un “ecosistema digital perturbado y contaminado”, en palabras de Sabater, en el que casi todo el mundo puede desinformar. “Estamos cediendo claramente una parte de nuestra capacidad de generar buena información a unas empresas que no tienen otro objetivo que generar ingresos. No parece, por el momento, que estén muy interesadas en esa contaminación que están creando en el ecosistema digital a través de sus herramientas”, lamenta el experto.

No, la tecnología no va a robarte el trabajo, pero las decisiones empresariales, sí. Un estudio de la Nexford University que analiza cómo la inteligencia artificial  transformará el mercado laboral entre 2024 y 2030 destaca que ciertos empleos están en mayor riesgo de automatización. Trabajos administrativos, de atención al cliente, entrada de datos y contabilidad son algunos de los más afectados, ya que la IA puede realizar estas tareas de manera más eficiente y rápida. También afecta a los trabajos creativos como diseñadores, publicistas, copywriters, traductores, actores, cantantes… “Vemos en la agenda de algunas de estas empresas vender esta tecnología generativa para sustituir determinadas profesiones”, alerta Sabater.

De hecho, algunas profesiones ya han empezado a movilizarse contra la ‘substitución’ por la IA. En septiembre de 2023, el Sindicato de Guionistas de Estados Unidos ponía fin a 148 días de huelga tras alcanzar un acuerdo en el que, entre otras cosas, se establecía que los guionistas solo podrán utilizar la IA generativa como herramienta, pero nunca se podrá crear o firmar una obra íntegramente con IA o cuya fuente principal fuera esta tecnología. En el Reino Unido, el pasado 25 de febrero más de 1.000 músicos británicos respaldaron un disco silencioso en señal de protesta por una nueva ley que facilita a los grandes gigantes tecnológicos sortear los derechos de propiedad intelectual para utilizar sus composiciones en el entrenamiento de nuevos modelos de IA generativa.

“Necesitamos todavía mucha sensibilización sobre cómo es este fenómeno, por tanto, hay que desmitificarlo y tratarlo de manera muy natural. Eso por un lado. Por otro, hay que dar prevenciones de seguridad y privacidad”, opina Prats. En este sentido, la educación es esencial. En primer lugar en las aulas, donde el profesorado, sostiene Prats, entienda el contexto que se está viviendo y sea capaz de determinar las potencialidades, riesgos y limitaciones de su uso. Pero por otro lado están las familias. “Hay que tratar con las familias para que estén al día y puedan ayudar a sus hijos a tener criterio. No se trata de prohibir la IA, sino de encontrar un equilibrio”, añade.

Por otro lado, Karina Gibert recuerda la importancia de la transparencia en el uso de la IA. Tenemos derecho a saber cuando estamos consumiendo un producto generado por inteligencia artificial. “La idea es hacer transparente el uso de IA y que todo el mundo sepa cuándo existe una IA en acción en algún proceso y que pueda pedir explicaciones sobre cómo la IA ha llegado a cierto resultado y se pueda alegar en defensa de los propios derechos”, indica la experta.

Al final, la IA ha venido para quedarse habrá que aprender a convivir con ella y a empoderarnos para ponerla a nuestro servicio, y no al contrario. “Sólo tenemos dos opciones -razona Prats-. O convertirnos en Menonitas e irnos a la montaña y, por tanto, desaparecer del mundo. O saber exactamente que estamos en un mundo altamente digitalizado y que hay que estar muy empoderados sobre cuándo y cómo se utiliza la tecnología”.