Recursos

La inteligencia artificial generativa no debería considerarse nunca una fuente fiable, aunque sí que podría ser un punto de partida interesante si tenemos en cuenta que siempre deberíamos verificar lo que nos dice, ya que puede cometer errores

La llegada de la inteligencia artificial generativa ha supuesto una revolución en la manera en la que interactuamos con las tecnologías. Estos algoritmos de inteligencia artificial son capaces de generar nuevos contenidos para responder a nuestras demandas. Textos, imágenes, vídeos, música, conversaciones, código… todo en unos pocos segundos. Estos sistemas aprenden patrones y estructuras en una primera fase entrenando con un grandísimo volumen de datos, pero después son capaces de alimentarse de lo que van aprendiendo con la interacción con los usuarios para generar nuevas ideas y capacidades en un proceso similar al del pensamiento humano. 

Existen multitud de sistemas de inteligencia artificial generativa y sus usos no paran de expandirse, pero los más accesibles al común de los usuarios son los llamados chatbots de IA. Como ya hemos dicho, la IA generativa es capaz de aprender de forma similar al cerebro humano, pero es que además, es capaz de mantener conversaciones con los usuarios. Eso es lo que sería un chatbot de IA, un ‘robot’ de conversación al que podemos pedir cosas, hacer preguntas, repreguntar, pedirle correcciones, matices, cambios de estilo… y este nos responde a una velocidad muy superior a la de la mente humana.

¿La existencia de las IA conversacionales significa que vamos a dejar de ‘googlear’? No necesariamente, simplemente tenemos que entender y aprender para qué nos puede servir una cosa y la otra. Cuando utilizamos un motor de búsqueda (Google, Yahoo, Bing, DuckDuckGo, Ecosia…) lo que hacemos es buscar información a partir de palabras clave que el buscador rastreará a tiempo real por internet. El resultado serán unos enlaces indexados en función de las métricas de varios algoritmos con el fin de ordenarlos según la relevancia que les de teniendo en cuenta parámetros como la calidad de la web, la fecha de publicación o tus preferencias. Luego es cosa del usuario elegir con qué información se queda. 

Por contra, con un chatbot de IA tenemos una conversación, es decir, le hacemos una pregunta concreta o le hacemos una petición. A partir de ahí, sus algoritmos procesan tu lenguaje y buscan las palabras clave para encontrar ya sea en su banco de datos o conectándose a internet una respuesta fundiendo en un solo texto los resultados de la información que encuentre. Dependiendo de la herramienta que consultes o de si utilizas o no el modo de pago, el chatbot te ofrecerá la fuente de donde ha sacado la información que te ofrece en forma de enlaces a la fuente original o no.  Por ejemplo, Chat GPT o Gemini, de entrada, no citan las fuentes, porque son bots conversacionales; en cambio, sí lo hace Perplexity, un herramienta documental. Sobre los bots conversaciones, Miquel Àngel Prats, profesor titular de Tecnología Educativa de la Universitat Ramon Llull, explica: “Es muy importante entender que este tipo de inteligencias artificiales generativas están pensadas para conversar y hablar, para generar textos, pero no para documentar”. 

La inteligencia artificial generativa no debería considerarse nunca una fuente fiable, aunque sí que podría ser un punto de partida interesante si tenemos en cuenta que siempre deberíamos verificar lo que nos dice, ya que puede cometer errores. “El gran error que podemos cometer con su uso es la sobreconfianza, lo que se llama la over-reliance, es decir, sobreconfiar excesivamente en el resultado que nos dé”, alerta Prats. De hecho,esta tecnología está pensada para interpretar el lenguaje, no para buscar información. “La inteligencia artificial generativa, por naturaleza, cuando no sabe un concepto, se lo inventa”, afirma Prats. Estos son sus principales fallos:

Cuando hablamos de que los chatbots conversacionales están entrenados con cantidades masivas de datos, en realidad nos referimos a volúmenes ingentes de texto de cualquier tipo (también textos con errores), porque la intención es hacerles entender cómo funciona el lenguaje humano. De paso, esos textos le sirven, también, para aprender mucho sobre el mundo, pero la información que nos ofrece puede contener fechas o datos erróneos y confusiones. Se trata de las llamadas ‘alucinaciones’ de la IA, es decir, errores provocados por datos de entrenamiento insuficientes, suposiciones incorrectas o sesgos en los datos utilizados para entrenar al modelo. Siempre habría que comprobar en un motor de búsqueda o en el enlace que nos ofrezca la IA si se trata de información correcta. Es decir, hay que volver siempre a las fuentes de referencia.

El hecho de que estemos tratando con un ‘robot’ entrenado con ‘datos’ podría darnos la sensación errónea de que sus algoritmos no contienen los mismos sesgos que pueda tener un humano, y por lo tanto, sus resultados pueden estar influenciados por ello. Hay innumerables ejemplos de chatbots de IA que dan respuestas diferentes a la misma pregunta si les indicas que eres un hombre, una mujer o una persona racializada. “Es importante entender que la IA puede hacerte un primer esbozo, pero que este puede estar lleno de sesgos de género, de raza…”, advierte Prats. Esto se debe a que su entrenamiento no es ajeno a, por ejemplo, el contexto cultural de los datos que se le proporcionan para crear su banco de conocimiento. “A lo mejor son unos datos entrenados en un contexto cultural muy americano o muy asiático que nada tiene que ver con nuestro propio contexto cultural”, indica Prats.  “Cuanto más entrenamiento, más precisión. Pero siempre a partir de lo que tiene almacenado. Por eso es tan importante la revisión posterior”, insiste el profesor.

Existen multitud de chatbots de IA y cada uno tiene funcionalidades distintas y están pensados para ser utilizados para tareas diferentes. Algunos como ChatGPT, Gemini o Copilot, por haber sido desarrollados por gigantes tecnológicos, se han convertido en los más populares entre los internautas para hacer consultas, pero hay muchos más y sus usos y posibilidades son variadas:

Chatbots conversacionales:

• ChatGPT: Desarrollado por OpenAI, es el más popular de ellos por haber sido el primero en salir a internet en abierto y por su capacidad de explorar una amplia variedad de temas. En su versión gratuita es capaz de ofrecer explicaciones detalladas sobre gran variedad de temas y crear textos detallados, personalizados y bien estructurados. En su versión de pago es un todo en uno: conversar, hacer búsquedas, generar imágenes y documentos. “Es una de las soluciones probablemente más completas en el mercado”, opina Prats. No obstante, no está conectada a internet y presentaría problemas a la hora de proporcionar información muy actualizada.
• Gemini: Creada por Google DeepMind, es la opción adecuada para búsquedas complejas. Es una IA multimodal, es decir, que puede entender varios tipos de información, tanto los textos que le escribas como imágenes, audio y código de programación. Además, tiene la ventaja de que puede aplicarse a todos los productos de Google. Su versión de pago permite generar contenido visual y escribir código, siendo especialmente útil para diseñadores, programadores o usuarios que necesitan explorar datos de múltiples formatos. Además, se puede integrar en dispositivos móviles y aplicaciones y está conectada a internet.
• Copilot: Una creación de GitHub y Microsoft. Se integra con aplicaciones de Microsoft como Word, Excel y PowerPoint y está conectada a internet. Esto significa que las versiones del paquete Office que tengan Copilot Pro tendrán un botón dentro de PowerPoint o de Word o de Excel en el que ya te incorpora la IA dentro de estos aplicativos de uso diario. “Aquí ya tienes la posibilidad de que al propio PowerPoint le puedas pedir que te haga una presentación sobre cualquier cosa y te lo genere”, da Prats como ejemplo.
• Claude: De la compañía Anthropic, es un chatbot pensado especialmente para programadores. “Sobre todo para los programadores de Python, porque genera código muy pulido”, indica Prats. No obstante, comparte la desventaja con ChatGPT de que no está conectado a internet y no puede dar datos como fechas o horas. 
• Mistral: Creada en Francia, es una de las últimas IA generativas en salir al mercado, por lo que de momento es gratuita. Esta alternativa europea a ChatGPT de código abierto, “tiene la posibilidad de generar imágenes, tiene buscador y, de la misma manera que lo hacen los otros, tiene la posibilidad de buscar y crear agentes”, afirma Prats. 

Chatbots documentales:

• Perplexity AI: Esta IA sería la indicada para quienes buscan respuestas rápidas, actualizadas y verificables con fuentes claras (ofrece links a la fuente original), como estudiantes, investigadores o profesionales que necesitan datos fiables para respaldar sus proyectos, aunque sus respuestas son escuetas y esquematizadas. “Está muy pensado como buscador referencial y documental, más que como chatbot -afirma Prats-. Busca documentos, es muy preciso, muy consistente”. “Sería como la alternativa del buscador de Google, pero con inteligencia artificial”, asegura. 
• You.ai:Creado por el buscador You.com, se ha integrado por defecto a este y podría considerarse más bien un buscador conversacional con conexión a internet. También puede integrarse con aplicaciones y servicios para dar resultados más personalizados.
• Komo.ai: Este motor de búsqueda avanzado integra la inteligencia artificial conversacional y ofrece resultados sin anuncios en diversas categoríasd como vídeo, imágenes o sitios web.
• Searcholic.ia: Se trata de un motor de búsqueda impulsado por inteligencia artificial especializado en ebooks y documentos que da especial importancia a la privacidad, con búsquedas e interacciones cifradas y no comparte información de los usuarios con fines de márketing, solo las necesarias para mejorar el servicio.