Toolbox Gateway
Una plataforma autoalojada para agentes que usan herramientas: un gateway a OpenAI, Gemini y Bedrock, herramientas servidas por MCP y cada paso trazado con su costo.
El problema
Cuando cada agente conecta un SDK directo a un script, las API keys se reparten por todos lados, los costos son invisibles, las herramientas no se reutilizan y nada detiene a un agente que llama herramientas sin fin.
Cómo funciona
Un gateway de LLMs concentra credenciales, reintentos, caché y costos, y traduce un esquema de herramientas neutral al function calling nativo de OpenAI, Bedrock Converse y Gemini. Las herramientas viven en su propio servicio, accesibles por un puente JSON o por MCP nativo. Los agentes corren un bucle en LangGraph con llamadas concurrentes y un presupuesto de rondas, por HTTP o WebSocket, y una consola web muestra cada llamada al modelo y a las herramientas.
Pipeline
- 01Consola
- 02Agente (HTTP / WS)
- 03Gateway LLM
- 04Toolbox (MCP)
- 05Traza
Dónde se usa
- Empresas con varios agentes que necesitan un solo lugar para keys, costos y límites
- Compartir herramientas internas entre agentes, IDEs y clientes MCP
- Comparar proveedores en costo y latencia antes de elegir uno
Puntos clave
- Tool calling nativo en tres proveedores, sin parsear llamadas desde el prompt
- Toolbox usable desde cualquier cliente MCP (Claude Desktop, MCP Inspector…)
- Latencia, tokens, costo y aciertos de caché por paso; métricas p50/p95
- Presupuesto de rondas que corta bucles de herramientas descontrolados
Stack
¿Quieres algo así para tu empresa?
Construyo versiones de producción de estos sistemas sobre tus datos y tu infraestructura.
Servicio relacionado: Agentes y automatización
Contáctame