Sistema de Recuperación Aumentada por Generación (RAG) para la optimización de la gestión y consulta de documentos en Fintic

Abstract

El presente proyecto de grado propone el diseño e implementación de un sistema de Recuperación Aumentada por Generación (RAG) para mejorar la gestión y consulta de la información documental en Fintic S.A.S. La creciente complejidad y volumen de datos en el entorno empresarial actual demandan soluciones eficientes que permitan el acceso rápido y seguro a la información relevante. Este sistema RAG combinará la capacidad de recuperar información precisa de una base de conocimiento documental interna con la habilidad de generar respuestas coherentes y contextualizadas, utilizando modelos de lenguaje de gran escala (LLMs). La arquitectura propuesta incluirá un portal web con una interfaz de chat intuitiva, una API intermedia para la orquestación de las solicitudes y la generación de embeddings, y el motor RAG encargado de la recuperación y generación. Se espera que esta implementación optimice los procesos de búsqueda, reduzca los tiempos de consulta y mejore la toma de decisiones al proporcionar acceso ágil y preciso a la información empresarial.

Evitar o disminuir las alucinaciones de los LLM y mantener la seguridad corporativa al no exponer información confidencial hacia modelos públicos, son objetivos primarios de las empresas que están en un proceso de adopción de la inteligencia artificial como herramienta de uso colaborativo. Para esto, el uso combinado de RAGs y LLMs como Gemini, BM25, entre otros, demuestran rendimientos costo eficientes en la extracción de información directamente desde los documentos. (Solano Cohen, 2023)