agentgateway/agentgateway

에이전트 AI를 위한 최초의 완전한 연결 솔루션입니다.

---

Agentgateway는 AI 네이티브 프로토콜(MCP 및 A2A)을 기반으로 구축된 오픈 소스 프록시로, 에이전트 간 LLM, 에이전트 간 도구, 에이전트 간 모든 프레임워크와 환경 간의 통신을 위한 드롭인 보안, 관측 가능성, 거버넌스를 제공합니다.

에이전트게이트웨이 비디오 소개

주요 특징

• LLM 게이트웨이
  예산 및 지출 제어, 즉 프로프 풍부화, 부하 분산, 장애 조치 기능을 갖춘 통합 OpenAI 호환 API를 통해 주요 LLM 제공업체(OpenAI, Anthropic, Gemini, Bedrock 등)로 트래픽을 라우팅할 수 있습니다.

• MCP 게이트웨이
  도구 연합, stdio/HTTP/SSE/Streamable HTTP 전송, OpenAPI 통합, OAuth 인증을 통해 LLM을 MCP를 통해 툴 및 외부 데이터 소스에 연결할 수 있습니다.

• A2A 게이트웨이
  A2A를 사용하여 안전한 에이전트 간 통신을 가능하게 하며, 능력 탐색, 모달리티 협상, 작업 협업을 지원합니다.

• 추론 라우팅
  Kubernetes Inference Gateway 확장 기능을 사용하여 GPU 활용률, KV 캐시, LoRA 어댑터, 큐 깊이에 기반한 결정으로 셀프 호스팅 모델로 지능형 라우팅을 제공합니다.

• 가드레일

---

Agentgateway is an open source proxy built on AI-native protocols (MCP & A2A) that provides drop-in security, observability, and governance for agent-to-LLM, agent-to-tool, and agent-to-agent communication across any framework and environment.

Intro to Agentgateway Video

Key Features

• LLM Gateway Route traffic to major LLM providers (OpenAI, Anthropic, Gemini, Bedrock, and more) through a unified OpenAI-compatible API with budget and spend controls, prompt enrichment, load balancing, and failover.

• MCP Gateway Connect LLMs to tools and external data sources via MCP with tool federation, stdio/HTTP/SSE/Streamable HTTP transports, OpenAPI integration, and OAuth authentication.

• A2A Gateway