14 de Mayo de 2025 · 7 min de lectura
Los Modelos de Lenguaje Grandes (LLMs) están evolucionando a un ritmo sorprendente para todos, aumentando su capacidad para completar tareas cada vez más largas y más complejas de forma automática. Pese a la evolución contínua, seguimos teniendo cuatro retos fundamentales para su aplicación en organizaciones: la orquestación y coordinación de diferentes IAs, el alineamiento (tener un grado mínimo de control sobre el resultado), abarcar conocimientos grandes y la conexión con otras herramientas.
Al usar una LLM siempre tenemos disponible la ventana de contexto, que podemos imaginarla como una memoria a corto plazo similar a la nuestra. El contexto se mide en tokens, la unidad simbólica con la que trabajan los modelos de IA y que para simplificar pensaremos como un número de palabras. Como nuestra memoria a corto plazo, el contexto tiene un límite que se mide en millones de tokens.
La Generación Aumentada por Recuperación (RAG, por sus siglas en inglés: Retrieval Augmented Generation) es un cerebro ampliado para la IA. El RAG es la memoria a largo plazo que, como en el caso de los humanos, puede crecer y escalar mucho más. Es una técnica que permite a la IA almacenar mucho conocimiento y usarlo solo cuando es relevante para la petición del usuario. En los últimos meses, han aparecido LLMs capaces de procesar contextos de hasta un millón de tokens, y con una hoja de ruta clara hacia la expansión de esta capacidad. Esta formidable ventana de contexto inmediato plantea un debate: ¿es todavía necesario un sistema de recuperación externo como RAG si la IA puede "recordar" tanta información por sí misma? En este artículo exploramos los casos de uso y por qué el RAG sigue estando más vigente que nunca debido a los problemas de escala del conocimiento (millones de tokens), gobernanza de datos (acceso y permisos) y la integración con la información vigente de la empresa (integración con herramientas). De hecho, lo usamos cada día sin darnos cuenta en las nuevas versiones de los modelos más famosos vía búsqueda web.
Uno de los desafíos inherentes a los contextos extensos es el "problema de la atención". De forma similar a como un humano puede sentirse abrumado o perder el foco ante un exceso de información simultánea, la IA podía tener dificultades para discernir y priorizar los elementos cruciales dentro de un vasto mar de datos. Ocurre una situación similar en tareas que requieren tener en cuenta múltiples fragmentos del conocimiento para dar una solución óptima. Es decir, el problema se traduce en la LLM no enfocándose en el conocimiento más relevante o al no poder considerar múltiples fragmentos relevantes a la vez.
Este efecto, conocido a veces como "la aguja en el pajar", se ha visto atenuado en los modelos más avanzados que incorporan capacidades de razonamiento sofisticadas. Estos modelos pueden aplicar estrategias internas de búsqueda, así como implementar enfoques de "divide y vencerás" para analizar porciones manejables de información, y luego sintetizar los hallazgos. Esta mejora en la gestión de grandes volúmenes de datos en el contexto inmediato ha sido una de las razones que ha avivado las dudas sobre la necesidad continuada del RAG.
Sin embargo, la realidad en la implementación en escenarios del día a día, especialmente en el entorno empresarial, decanta la balanza a favor del RAG. Las bases de datos de conocimiento corporativas –que incluyen manuales técnicos, historiales de clientes, políticas internas, investigaciones, bases legales, y un largo etcétera– alcanzan volúmenes que simplemente desbordan incluso las ventanas de contexto más generosas. Hablamos de terabytes o incluso petabytes de información estructurada y no estructurada. Es precisamente esta escala y magnitud la que subraya la relevancia sostenida del RAG. Ninguna ventana de contexto actual puede, por sí sola, englobar la totalidad del conocimiento acumulado por una organización a lo largo de años.
Otro aspecto fundamental donde RAG demuestra su valía es en la vigencia de la información. Los LLMs se entrenan con corpus de datos que tienen una fecha de corte; su conocimiento del mundo, por tanto, no es en tiempo real. RAG, en cambio, puede conectarse a fuentes de datos vivas y actualizadas.
La combinación de herramientas RAG eficientes, como podrían ser plataformas especializadas tipo Yedai (si se enfoca en esta gestión dinámica), y su conexión con el ecosistema de aplicaciones empresariales –ya sea a través de plataformas de conectividad múltiple (MCP) o mediante arquitecturas de comunicación entre agentes (Agent2Agent)–, es lo que realmente hará posible la IA que vislumbramos: una inteligencia artificial integrada profundamente en la organización, que accede a sus herramientas y datos en tiempo real, actuando como un verdadero copiloto informado y actualizado para el trabajador.
Un ejemplo de utilidad del RAG, de forma transparente al usuario, es que las principales herramientas de IA accesibles al público, como Perplexity AI, ChatGPT o Gemini (y otros), ya han implementado sus propias versiones de RAG basadas en la búsqueda web. Estas soluciones aprovechan la infraestructura de indexación robusta y probada de los motores de búsqueda tradicionales como Google, Bing o DuckDuckGo. Esto no solo valida la utilidad intrínseca del RAG en grandes volúmenes de información, sino que también demuestra que su implementación puede ser más sencilla y accesible de lo que se podría suponer, construyéndose sobre tecnologías existentes y probadas, sin necesidad de recurrir siempre a desarrollos tecnológicos adicionales.
Un factor pragmático ineludible es la estructura de costes de los servicios LLM. Los proveedores suelen tarificar en base a la cantidad de tokens procesados, tanto los de entrada (el contexto que se proporciona al modelo) como los de salida (la respuesta generada por el modelo). En consecuencia, alimentar al LLM con contextos masivos de forma continua no solo incrementa significativamente los costes operativos, sino que también eleva el riesgo de que la IA "divague" o genere respuestas menos enfocadas, al tener que navegar por un espectro demasiado amplio de información que no siempre es relevante para la tarea en cuestión. RAG ayuda a mitigar esto al preseleccionar y proporcionar solo la información más pertinente, optimizando tanto el coste como la calidad de la respuesta.
La reducción de costes puede permitir también el uso de IAs más inteligentes y que respondan mejor, asegurando la satisfacción del usuario. Aunque los modelos más baratos responden generalmente bien, fallan al razonar respuestas más complejas y que no están directamente en el texto. Además, siguen teniendo cierta artificialidad al responder con patrones claros. El uso de modelos de razonamiento genera una experiencia de usuario más agradable y con menos sensación de valle inquietante (aversión que experimentan las personas al encontrarse con algo que parece humano, pero no del todo).
Finalmente, la gobernanza de la información y el control de acceso son críticos en cualquier organización. Con RAG, la aplicación de reglas de visibilidad y permisos se simplifica enormemente. En lugar de intentar replicar complejas jerarquías de acceso dentro del propio LLM, el sistema RAG se integra con las bases de conocimiento del cliente, respetando las políticas de seguridad y visibilidad ya existentes en dichas fuentes. Esto asegura que la IA solo recupere y utilice la información a la que el usuario o el proceso que la invoca tiene legítimamente acceso, manteniendo la integridad y confidencialidad de los datos.
Implementar una solución de Generación Aumentada por Recuperación (RAG) puede parecer un desafío técnico, pero con YedAI, la plataforma RAG de APSL Nagarro, podrás hacerlo de forma sencilla y adaptada a las necesidades de tu empresa. YedAI está diseñado para simplificar y acelerar la puesta en marcha de su IA especializada, permitiéndo conectar las fuentes de conocimiento empresarial directamente con el poder de los Modelos de Lenguaje Grandes (LLMs) de forma segura y escalable. Además, te guiaremos con un proceso claro de integración y catalogación de la base de datos de conocimiento de tu empresa. Realizando una ingesta y uso de la información en base a tus reglas de negocio.
Contacta con nosotros en yed.ai para conocer el proceso de integración y empezar sin fricciones, Yed.ai se integra con tu base de conocimiento y la hace accesible. Todo tu conocimiento operativo en un único punto.
En definitiva, lejos de quedar obsoleto por el avance en las capacidades de contexto de los LLMs, el RAG se consolida como una herramienta estratégica y complementaria para implementar IA a escala en las organizaciones. Permite la creación de acceso a la información en un único punto, evitando la necesidad de crear cientos de herramientas y portales. Actúa como un sistema de gestión de conocimiento a largo plazo inteligente, procesando y decidiendo qué información específica necesita la IA para responder con éxito. En ese sentido, el RAG garantiza búsquedas en todo el conocimiento con relevancia, actualidad, eficiencia de costes, gobernanza de datos y cumplimiento normativo. Será, sin duda, una pieza clave en la construcción de sistemas de IA verdaderamente útiles y conectados junto con el MCP y el Agent2Agent.
Volver al blog