Glosario
Chatbot rule-based vs LLM
Un chatbot rule-based responde siguiendo árboles de decisión y palabras clave predefinidas. Un chatbot LLM razona sobre el contexto usando un modelo de lenguaje. La diferencia define qué casos puede resolver cada uno.
Hasta 2022, casi todo lo que se llamaba "chatbot" era rule-based: árboles de decisión, palabras clave, plantillas de respuesta. Funcionaban bien para flujos muy acotados pero fallaban en cuanto el usuario salía del guion. Desde 2023, los chatbots LLM (basados en modelos como GPT, Claude o Gemini) cambiaron la conversación.
Chatbot rule-based: cómo funciona
- Diseñador arma un árbol: "si el cliente dice X, respondemos Y. Si elige opción A, pasamos a Z."
- Detección por palabras clave o expresiones regulares
- Cada respuesta está pre-escrita
- Cero capacidad de adaptación a inputs imprevistos
- Fallback típico: "no entendí, hablá con un humano"
Pros: predecible, barato, fácil de auditar. Contras: rompe con cualquier variación. El cliente que escribe "necesito reservar" cuando el árbol espera "quiero agendar" cae al fallback.
Chatbot LLM: cómo funciona
- Modelo de lenguaje grande (GPT-4, Claude, Gemini) procesa la consulta
- System prompt define rol, tono y límites del agente
- Knowledge base (RAG) provee contexto específico del negocio
- Tools permiten ejecutar acciones (consultar agenda, cobrar, escalar)
- Cada respuesta se genera en tiempo real basada en el input concreto
Pros: flexible, conversación natural, maneja paráfrasis, combina temas, escala. Contras: puede alucinar si el setup es pobre, más costoso por token, menos predecible.
Tabla comparativa rápida
| Aspecto | Rule-based | LLM |
|---|---|---|
| Costo operativo | Bajo (sin tokens) | Medio (consume tokens por mensaje) |
| Setup inicial | Diseño manual del árbol | Curaduría de KB + system prompts |
| Conversación natural | Plantilla rígida | Adapta tono y registro |
| Manejo de ambigüedad | Fallback | Pregunta de clarificación |
| Auditoría | Determinística (mismo input = misma salida) | Probabilística (variaciones esperadas) |
| Caso ideal | Flujo muy estructurado, alta seguridad | Atención abierta, KB rica |
Cuándo usar rule-based
- Flujos transaccionales muy acotados (selección de menú IVR, formularios)
- Industrias reguladas donde cada respuesta debe ser idéntica (banca con scripts legales)
- Volumen extremo con presupuesto operativo cero
- Casos donde la creatividad del LLM sería un riesgo
Cuándo usar LLM
- Atención al cliente general (consultas variadas y no predecibles)
- Calificación de leads (necesitas entender intención y matices)
- Soporte técnico nivel 1 (combinar troubleshooting con KB extensa)
- Reservas conversacionales (cliente pide algo en lenguaje natural)
- Cualquier flujo donde el usuario espera conversar, no tipear opciones
El híbrido pragmático
Los sistemas modernos no son rule-based puros ni LLM puros: combinan. El LLM atiende la conversación abierta, pero ciertas acciones (cobrar, agendar, cancelar) ejecutan workflows determinísticos. Lo mejor de ambos: flexibilidad arriba, garantías abajo.
En Kharyo, los agentes IA usan LLM para conversación y RAG, pero las acciones críticas (cobro, agenda, hand-off) corren sobre workflows determinísticos generados con Architect.
