Skip to content
Leon Achata
Todos los proyectos
Agentes

Toolbox Gateway

Una plataforma autoalojada para agentes que usan herramientas: un gateway a OpenAI, Gemini y Bedrock, herramientas servidas por MCP y cada paso trazado con su costo.

El problema

Cuando cada agente conecta un SDK directo a un script, las API keys se reparten por todos lados, los costos son invisibles, las herramientas no se reutilizan y nada detiene a un agente que llama herramientas sin fin.

Cómo funciona

Un gateway de LLMs concentra credenciales, reintentos, caché y costos, y traduce un esquema de herramientas neutral al function calling nativo de OpenAI, Bedrock Converse y Gemini. Las herramientas viven en su propio servicio, accesibles por un puente JSON o por MCP nativo. Los agentes corren un bucle en LangGraph con llamadas concurrentes y un presupuesto de rondas, por HTTP o WebSocket, y una consola web muestra cada llamada al modelo y a las herramientas.

Pipeline

  1. 01Consola
  2. 02Agente (HTTP / WS)
  3. 03Gateway LLM
  4. 04Toolbox (MCP)
  5. 05Traza

Dónde se usa

  • Empresas con varios agentes que necesitan un solo lugar para keys, costos y límites
  • Compartir herramientas internas entre agentes, IDEs y clientes MCP
  • Comparar proveedores en costo y latencia antes de elegir uno

Puntos clave

  • Tool calling nativo en tres proveedores, sin parsear llamadas desde el prompt
  • Toolbox usable desde cualquier cliente MCP (Claude Desktop, MCP Inspector…)
  • Latencia, tokens, costo y aciertos de caché por paso; métricas p50/p95
  • Presupuesto de rondas que corta bucles de herramientas descontrolados

Stack

LangGraphMCPFastAPIWebSocketsBedrock · OpenAI · GeminiDocker

¿Quieres algo así para tu empresa?

Construyo versiones de producción de estos sistemas sobre tus datos y tu infraestructura.

Servicio relacionado: Agentes y automatización

Contáctame