agentgateway/agentgateway

Первое полное решение для подключения для агентного ИИ.

---

Agentgateway — это прокси с открытым исходным кодом, построенный на нативных для ИИ протоколах (MCP и A2A), обеспечивающий прямую безопасность, наблюдаемость и управление для взаимодействия агент-до-LLM, агент-инструмент и агент-агент в любом фреймворке и среде.

Введение в видео Agentgateway

Ключевые особенности

• LLM Gateway
  Направляйте трафик к крупным поставщикам LLM (OpenAI, Anthropic, Gemini, Bedrock и другим) через единый совместимый с OpenAI API с контролем бюджета и расходов, обогащением запросов, балансировкой нагрузки и резервированием.

• MCP Gateway
  Подключайте LLM к инструментам и внешним источникам данных через MCP с помощью федерации инструментов, STDIO/HTTP/SSE/потоковых HTTP-транспортов, интеграции с OpenAPI и аутентификации OAuth.

• A2A Gateway
  Обеспечьте безопасную коммуникацию между агентами с помощью A2A с помощью обнаружения возможностей, согласования модальности и совместной работы по задачам.

• Маршрутизация вывода
  Интеллектуальная маршрутизация к самостоятельно размещённым моделям с использованием расширений Kubernetes Inference Gateway, с решениями, основанными на использовании GPU, кэше KV, адаптерах LoRA и глубине очереди.

• Отбойники

---

Agentgateway is an open source proxy built on AI-native protocols (MCP & A2A) that provides drop-in security, observability, and governance for agent-to-LLM, agent-to-tool, and agent-to-agent communication across any framework and environment.

Intro to Agentgateway Video

Key Features

• LLM Gateway Route traffic to major LLM providers (OpenAI, Anthropic, Gemini, Bedrock, and more) through a unified OpenAI-compatible API with budget and spend controls, prompt enrichment, load balancing, and failover.

• MCP Gateway Connect LLMs to tools and external data sources via MCP with tool federation, stdio/HTTP/SSE/Streamable HTTP transports, OpenAPI integration, and OAuth authentication.

• A2A Gateway