Aplicaciones LLM a medida «Modelo propio» casi nunca significa: entrenarlo uno mismo.
Normalmente basta un buen modelo base, conectado a sus datos, con reglas claras de acceso, revisión y coste. Construimos estas aplicaciones LLM y le decimos antes qué enfoque es el más pequeño que encaja con su tarea.
Cuatro enfoques
Gana el más pequeño que encaja.
-
Reglas fijas, sin modelo
Cuando la misma entrada debe dar siempre el mismo resultado. Reglas, plantillas y APIs son entonces más baratas y fiables.
-
Respuestas desde sus fuentes
Cuando el conocimiento cambia y cada respuesta debe poder rastrearse hasta su fuente. Requiere permisos aclarados y documentos limpios.
-
Modelo con herramientas
Cuando una tarea toca varios sistemas. El modelo elige herramientas aprobadas; permisos y controles quedan fuera de él.
-
Fine-tuning
Solo cuando prompts y fuentes fallan repetidamente en un comportamiento claramente medible. No sustituye ni el conocimiento que falta ni los permisos.
Primero decidir
Un LLM solo compensa si el problema lo necesita.
Muy adecuado
- el conocimiento está repartido entre documentos, sistemas y permisos,
- las entradas no están estructuradas: tickets, contratos, e-mails, consultas libres,
- los errores se pueden atrapar con una regla, un control o una fuente citada.
Basta un sistema más simple
- la regla ya es clara y una consulta da el resultado correcto,
- no hay una fuente fiable,
- los errores graves no se pueden revisar.
Si un LLM no aporta un valor medible, lo decimos antes de que un piloto gaste presupuesto.
Ejemplos
Enfoques, no casos de estudio. Con un punto de control visible.
-
Copiloto de soporte
Borrador de respuesta a partir de documentación, contexto del cliente e incidencias conocidas, con fuentes y aviso de incertidumbre. Un agente edita y envía.
-
Captura de contratos
Extraer condiciones, compararlas con la política, marcar cláusulas dudosas en lugar de fingir una respuesta segura. Una persona resuelve las excepciones.
-
Asistente interno con acciones
Responder preguntas operativas con fuentes y preparar una acción en el sistema. Solo se ejecuta tras confirmación expresa.
Aceptación
«Se ve bien» no es un criterio de aceptación.
-
Reunir preguntas de prueba
Consultas reales de su día a día, incluidas las difíciles y las que no tienen respuesta.
-
Definir criterios
Exactitud, respaldo en fuentes, negarse cuando no hay nada, tiempo de respuesta y coste por consulta.
-
Piloto frente a criterios
Se acepta según los valores acordados, no por una demo pulida.
-
Revisar con cada cambio
Nuevo prompt, nueva fuente, nuevo modelo: las preguntas de prueba se repiten y muestran retrocesos.
Un modelo estándar no conoce sus referencias. El suyo sí.
Analizamos su tarea y le decimos si necesita reglas, recuperación de información, herramientas o de verdad un modelo entrenado.
