Esta guía resume los conceptos esenciales de COT (Chain of Thought) y RAG (Retrieval-Augmented Generation) para construir agentes conversacionales más naturales, precisos y listos para producción.
20. ¿Qué es un COT (Chain of Thought)?
El COT es el conjunto principal de instrucciones que define cómo debe comportarse un agente de inteligencia artificial. Más que un simple script, funciona como una guía de razonamiento que controla la personalidad, el tono, el flujo conversacional, el manejo de errores, los silencios, el uso de herramientas y las reglas críticas del sistema.
¿Qué controla el COT?
- La personalidad del agente.
- El tono y estilo de conversación.
- El flujo de la llamada.
- El manejo de interrupciones.
- Las reglas de seguridad.
- El uso de herramientas.
- El manejo de silencios e IVR.
- Las reglas para evitar alucinaciones.
¿Por qué es importante el COT?
Sin un COT bien diseñado, el modelo puede responder de forma inconsistente, improvisar información, sonar robótico o romper el flujo de la conversación. Un COT sólido proporciona estructura, consistencia y un comportamiento predecible durante toda la interacción.
Buenas prácticas para crear un COT
- Escribir instrucciones claras y directas.
- Utilizar inglés para las instrucciones principales del sistema.
- Mantener el prompt compacto y organizado.
- Incluir ejemplos explícitos.
- Definir HARD POLICIES.
- Especificar claramente cuándo deben utilizarse las herramientas.
¿Qué es un RAG (Retrieval-Augmented Generation)?
El RAG permite que el modelo consulte información externa de forma dinámica. En lugar de incluir todo el conocimiento del negocio dentro del prompt, el sistema recupera únicamente la información necesaria para responder cada solicitud.
¿Qué información debe incluirse en un RAG?
- Preguntas frecuentes (FAQs).
- Políticas.
- Horarios.
- Catálogos de productos o servicios.
- Precios.
- Información de reservas.
- Documentación técnica.
- Información de sucursales u oficinas.
¿Por qué es importante el RAG?
El RAG reduce las alucinaciones y permite mantener la información del negocio actualizada sin necesidad de modificar constantemente el COT. Además, mejora la escalabilidad al separar el comportamiento del agente de su base de conocimiento.
Buenas prácticas para crear un RAG
- Organizar un tema por documento o bloque de conocimiento.
- Utilizar títulos claros.
- Escribir en lenguaje natural.
- Evitar información duplicada.
- Mantener la información actualizada.
- Dividir información extensa en múltiples archivos.
20.1. ¿Por qué se utiliza JSON?
JSON es el formato estándar más utilizado para intercambiar información entre APIs, herramientas, modelos de inteligencia artificial y sistemas backend. Permite representar datos estructurados de forma clara, organizada y compatible con prácticamente cualquier lenguaje de programación.
¿Dónde se utiliza JSON?
- Tool Calling.
- APIs.
- Estados internos.
- Metadatos.
- Logs.
- Configuración de agentes.
- Resultados de funciones.
Ventajas de JSON
- Fácil de leer para las personas.
- Fácil de procesar para las máquinas.
- Reduce la ambigüedad.
- Facilita las integraciones.
- Organiza información compleja de manera eficiente.
Arquitectura recomendada
- COT = Comportamiento y razonamiento.
- RAG = Conocimiento externo.
- JSON = Intercambio de datos estructurados.
La combinación de estos tres componentes permite construir agentes de inteligencia artificial más robustos, naturales, escalables y fáciles de mantener.
Idioma recomendado
Las instrucciones principales del sistema y del COT deben escribirse en inglés, ya que los modelos de lenguaje suelen interpretar con mayor precisión las reglas, restricciones e instrucciones de sistema en este idioma. Los ejemplos conversacionales, en cambio, pueden escribirse en español para obtener respuestas más naturales y cercanas para los usuarios hispanohablantes.