Cómo hacer que la IA responda con la información de tu empresa

Pongamos el caso de una refaccionaria con veinte años de historia. Tiene catálogos de proveedores en PDF, una tabla de equivalencias que alguien armó en Excel hace una década, boletines técnicos, tres versiones de la política de garantía y un vendedor de mostrador, don Beto, que se sabe todo de memoria. Cuando don Beto se va de vacaciones, el mostrador sufre.

Es un ejemplo inventado. Pero seguro te suena.

Lo primero que muchos dueños intentan es abrir un chat de IA y preguntarle qué balata le queda a tal modelo y año. Y la IA contesta. Con muchísima seguridad. A veces bien, y a veces con un número de parte que no existe en ningún catálogo.

El modelo no es tonto. Simplemente nunca ha visto tu catálogo, tus precios ni tu política de devoluciones, y cuando no sabe algo, rellena el hueco con lo que suena probable. Para platicar está bien. Para atender a un cliente, no.

Lo que necesitas se llama RAG

RAG viene de retrieval-augmented generation, que en español sería algo como generación aumentada con búsqueda. El nombre lo popularizó un artículo de investigación de 2020 cuyos autores señalaban justo dos problemas de los modelos que solo contestan de memoria: no pueden decir de dónde sacan sus datos y es difícil actualizar lo que saben.

La idea, en palabras de café: antes de que la IA conteste, un buscador encuentra los pedazos de tus documentos que tienen que ver con la pregunta y se los entrega al modelo junto con la pregunta. El modelo ya no contesta de memoria. Contesta leyendo.

En la refaccionaria se vería así: un cliente pregunta por la garantía de una bomba de agua. El sistema busca entre cientos de PDFs, encuentra los párrafos de la política de garantías y la ficha del proveedor, y le dice al modelo algo como "contesta usando solo esto, y si aquí no está la respuesta, dilo". Anthropic lo describe con más detalle en su guía sobre recuperación contextual: los documentos se parten en fragmentos, cada fragmento se convierte en un vector, se guarda en una base de datos vectorial y, a la hora de preguntar, se toman los fragmentos más parecidos y se agregan al prompt.

Un matiz que vale la pena conocer. En esa misma guía, Anthropic dice que si tu base de conocimiento mide menos de 200,000 tokens, puedes saltarte la búsqueda y meter todo en el prompt. Si tu empresa tiene un manual y dos políticas, quizá no necesitas nada más elaborado. Con cientos de PDFs, sí.

Embeddings, en un párrafo

Un embedding es una lista de números que representa el significado de un texto. Según la documentación de OpenAI, sirven para medir qué tan relacionados están dos textos: si sus vectores quedan cerca, hablan de lo mismo. Por eso la búsqueda semántica encuentra "balatas" aunque el cliente haya escrito "pastillas de freno". Ojo, eso sí: los embeddings son buenos para el sentido y no tanto para códigos exactos, y Anthropic recomienda combinarlos con una búsqueda por palabras (BM25) para identificadores y términos técnicos. En una refaccionaria, donde medio negocio son números de parte, esto no es opcional.

¿Y si mejor entreno mi propio modelo?

Es de las preguntas que más salen. Para la mayoría de los negocios, la respuesta corta es no.

La propia guía de OpenAI para mejorar la precisión separa dos tipos de problema. Cuando el modelo necesita información propia de tu empresa o datos actualizados, el camino es darle contexto (RAG). El ajuste fino, o fine-tuning, lo recomienda cuando el problema es de comportamiento: formato inconsistente, tono equivocado, una forma de razonar que no es la que quieres. Tu problema con el catálogo es de información, no de comportamiento.

Y luego está lo práctico. Tu lista de precios cambia seguido. Si ese conocimiento vive dentro de un modelo entrenado, cada cambio te obliga a volver a entrenar. Con RAG cambias el PDF, se vuelve a indexar y listo. Además, un modelo entrenado no te puede señalar en qué página de qué documento vio el dato, y eso, como verás más abajo, importa mucho.

No digo que el fine-tuning no sirva nunca. OpenAI mismo dice que las dos técnicas se pueden sumar. Pero casi siempre es el segundo paso, no el primero.

El trabajo aburrido que decide todo: tus documentos

Aquí se gana o se pierde el proyecto. Y te lo digo por experiencia: la parte de IA suele ser lo más rápido. Lo que se lleva el tiempo es poner orden en los documentos, porque el modelo va a repetir con mucha elocuencia lo que encuentre, incluida la política de garantía vieja que nadie borró de la carpeta compartida.

Piensa ahora en un despacho contable o legal con cientos de PDFs: contratos, opiniones, cartas, formatos, y archivos que se llaman "final", "final_v2" y "final_ahora_si". Antes de conectar cualquier cosa, conviene hacer esto:

• Quitar duplicados y versiones viejas. Si hay dos políticas de devoluciones, tarde o temprano el sistema va a citar la equivocada.
• Asignar un dueño a cada documento, una persona con nombre que responda si sigue vigente y que avise cuando cambie.
• Guardar la fecha de vigencia o de última revisión, para poder filtrar y para que la respuesta la muestre.
• Revisar los PDFs escaneados. Si son imágenes, hay que pasarlos por OCR y revisar a mano las tablas, que es donde más se rompe la extracción.
• Separar lo que puede ver un cliente de lo que es solo para uso interno.

No tiene que quedar perfecto el primer día. Empieza por los documentos que contestan las preguntas que más se repiten en el mostrador o en WhatsApp, y crece desde ahí.

Que diga de dónde lo sacó

Una respuesta sin fuente es difícil de confiar. Lo que recomiendo siempre es que cada respuesta traiga el nombre del documento y la sección o página de donde salió. Los proveedores grandes ya lo facilitan; la función de citas de Claude, por ejemplo, devuelve los pasajes exactos que respaldan cada afirmación.

Esto sirve para dos cosas. El vendedor o el abogado puede abrir el documento y verificar en diez segundos. Y cuando el sistema se equivoca, ves de inmediato si fue porque encontró el fragmento incorrecto o porque el documento mismo estaba desactualizado (que pasa más de lo que uno quisiera).

Cada quien ve solo lo suyo

En el despacho, los contratos del cliente A no deberían aparecer cuando un practicante pregunta algo del cliente B. Suena obvio, pero es un error común cuando todo se mete en el mismo índice. El OWASP Top 10 para aplicaciones con LLM lo tiene identificado: en bases vectoriales compartidas por distintos grupos de usuarios hay riesgo de que la información de unos se filtre a otros, y recomienda controles de acceso finos y separar los datos por grupo.

En la práctica, el filtro de permisos va en la búsqueda, antes de que el modelo vea nada. No le pidas al modelo "no le enseñes esto a fulano". Si el fragmento nunca llega al modelo, no hay forma de que se le escape. Si después quieres que la IA además haga cosas (crear un pedido, mandar un correo), el tema de permisos crece, y lo cuento a detalle en cómo usar agentes de IA de forma segura en tu software.

Cómo saber si contesta bien

Antes de lanzar, arma una lista de preguntas reales con su respuesta correcta. Sácalas de los mensajes de clientes, de los correos, de lo que le preguntan a don Beto. Unas cuantas decenas bastan para empezar.

Cada vez que cambies algo (documentos, la forma de partirlos, el modelo, el prompt), corre esa lista otra vez y revisa dos cosas por separado. Primero, si la búsqueda trajo el fragmento correcto. Después, si el modelo lo usó bien. Si falla lo primero, el problema está en los documentos o en la búsqueda; si falla lo segundo, en las instrucciones o en el modelo. Mezclar las dos cosas es la forma más rápida de pasarte semanas moviendo la perilla equivocada.

La búsqueda se puede mejorar bastante. En las pruebas que publicó Anthropic, agregar contexto a cada fragmento y combinar embeddings con BM25 redujo 49% las búsquedas fallidas, y 67% al sumar un paso de reordenamiento. Tus números serán otros, pero da idea de que vale la pena medir.

Ya en producción, guarda las preguntas que el sistema no pudo contestar. Esa lista te dice qué documento falta escribir.

¿Puede correr todo dentro de tu oficina?

Sí. Herramientas como Ollama generan embeddings en tu propio equipo, con modelos como embeddinggemma o qwen3-embedding, y el modelo que contesta también puede ser local. Un detalle técnico que importa: hay que usar el mismo modelo de embeddings para indexar y para buscar.

Para un despacho con contratos confidenciales, tener todo en un servidor propio puede pesar más que cualquier otra cosa. A cambio, alguien tiene que mantener ese servidor, y conviene probar con tus propias preguntas si un modelo local te da la calidad que necesitas. Explico pros y contras en cuándo conviene un LLM local para tu negocio.

Si tienes una carpeta compartida llena de PDFs y a alguien como don Beto, ya tienes la mitad del proyecto. La otra mitad es ingeniería: búsqueda, permisos, pruebas y mantenimiento. Es el tipo de trabajo que hacemos en agentes de IA a la medida.