01 / Direct
Single + fallback
Una llamada cuando basta. Retry por llamada y fallback de modelo o proveedor cuando falla.
BYOK · Python · multi-provider
Una petición.
La ruta correcta.
Crupier clasifica la tarea, filtra por capacidades y política, y deja que un LLM proponga el patrón de ejecución y los modelos. Después valida el plan, ejecuta cada rol y permite comparar, aprobar y evolucionar la ruta con evidencia. Lo que no está permitido no degrada: falla cerrado.
pip install crupier
Rutas de ejemplo · 0.6.1
El reparto cambia con la tarea
Model set
Request lifecycle
El LLM propone. La política decide si puede.
Cada fase deja evidencia. Ningún modelo se salta la allowlist, las capacidades requeridas o el presupuesto. Una política malformada no se convierte en allow-all; aborta.
- 01Clasificartask signals + operación
- 02Filtrarfail-closed + capabilities
- 03Puntuarcalidad + coste + latencia
- 04OrquestarLLM + candidate cards
- 05Validarschema + route shape
- 06Ejecutarroles + tools + fallback
- 07Trazarcalls + redact + errors
Selection evidence
No elige por nombre.
Elige con contexto.
El orquestador recibe un corpus compacto de candidatos ya permitido por el proyecto. El scoring determinista actúa como prior; no como una orden ciega.
01 / Request
Señales ponderadas
research, tools, structured, multimodal, coste y riesgo.
02 / Model cards
Capacidades documentadas
strengths, avoid cases, modalidades, contexto y pricing.
Validated RoutePlan
pattern + roles + models
policy(route) == pass
03 / Live account
Discovery y probes
modelos visibles, readiness y capacidad verificada.
04 / Project
Evals y feedback
calidad local, límites, allowlist y decisiones humanas.
Executable patterns
Patrones de ejecución completos
El patrón no es metadata decorativa. Define qué roles se ejecutan, cómo comparten presupuesto y qué condición permite continuar.
02 / Conditional
Cascade
Primario, validación de suficiencia o schema y escalación solo si el resultado no cumple.
03 / Consensus
Panel + fusion
Análisis independientes, quorum, juez separado y redactor final. Los fallos parciales quedan en la traza.
04 / Review
Critique + repair
Un modelo redacta, otro desafía el resultado y un tercero repara sin exponer el material interno.
05 / Actions
Iterative tools
Plan, tools locales aprobadas, ledger autoritativo, nuevas rondas acotadas y respuesta verificada.
06 / Recursive
Delegate
Subtarea acotada, presupuesto heredado, profundidad limitada y traza anidada en la ruta principal.
Production control plane
Cambia modelos.
Sin operar a ciegas.
La decisión no termina cuando sale una respuesta. Crupier conserva el contexto operativo para comparar candidatos, replanificar conversaciones, congelar rutas que necesitan revisión humana y fallar cerrado cuando un host, una política o un secreto no deberían seguir.
Experiments
Shadow + canary
Ruta B con muestreo sticky, ejecución aislada y métricas de error, coste, latencia y calidad. Promoción, pausa y rollback quedan ligados a evidencia.
shadow → canary → promote
Conversation state
Session + replan
Mantiene una ruta compatible entre turnos y replantea cuando cambian el riesgo, los ficheros, las tools, el schema, el modo o el presupuesto.
sticky while compatible
Human gate
Durable approval
Congela plan y request con hashes, caducidad, token de un solo uso y digest de ficheros. La ejecución aprobada reanuda exactamente esa ruta.
freeze → review → execute
Fail-closed
Hosts, política y secretos
Las claves canónicas no salen a un host ajeno salvo allow_custom_host. Una regla de política malformada aborta. Los secretos se redactan. El servidor HTTP exige bearer en ejecución real y rechaza controles internos en el cuerpo OpenAI.
deny → redact → require auth
Integration surface
Una frontera.
Cinco entradas.
SDK nativo para cualquier aplicación. Compatibilidad OpenAI para migraciones controladas. CLI, servidor HTTP y control operativo para ejecutar y auditar.
- Native
deal,session, embeddings, audio e imagen. - ControlExperimentos, aprobaciones y rutas persistidas.
- Drop-inCliente Python compatible con OpenAI.
- HTTPBearer en ejecución real; Responses, Chat, embeddings, rerank, audio e imágenes.
- CLIDiscovery, probes, evals, approvals, experiments y releases.
Current boundary
Qué ejecuta hoy.
Qué todavía no.
| Superficie | Estado | Contrato actual |
|---|---|---|
| Routing multi-modelo | Ejecutable | Patrones validados, presupuesto compartido, retry, circuit breaker, fallback y quorum. |
| Fail-closed | Ejecutable | Hosts no oficiales, política inválida, redacción central, bearer en serve y rechazo de paths locales en JSON. |
| Shadow y canary | Ejecutable | Cohortes sticky, ejecución paralela o asíncrona, métricas sin outputs por defecto y promoción reversible. |
| Sesiones y aprobaciones | Ejecutable | Replan multi-turno, presupuesto acumulado y rutas congeladas con token efímero de un solo uso. |
| Inputs nativos | Parcial real | Imagen en OpenAI, Claude, Gemini y Ollama; PDF nativo en OpenAI; audio mediante operaciones dedicadas. |
| Documentos estructurados | Ejecutable | CSV, TSV y XLSX acotados; texto y tablas DOCX; OCR mediante adapter opcional y dependencia de despliegue. |
| Streaming | Acotado | Eventos de ciclo de ruta y contratos SSE reconstruidos tras completar la llamada; no proxy nativo de tokens. |
| Pipelines restantes | En construcción | PDF tabular, XLS antiguo, Office no DOCX y vídeo transcript-first fallan explícitamente hasta tener implementación completa. |
| Provider-native tools | Optimización | Hoy usa planificación JSON y tools locales aprobadas; tool calling nativo queda como optimización futura. |