azure-samples/ai-gateway

AIモデル、ツール、エージェントを管理するエンタープライズグレードのゲートウェイを探る

📰 新た! AI Gateway Dev Portalが正式に稼働しました — Azure API Management AI Gatewayの上に自分だけの開発者ポータルを構築するための出発点です。フォークして、GitHub Copilot(または他のコーディングエージェント)を使ってVS Codeで開き、ニーズに合わせてカスタマイズしてください!

なぜAIゲートウェイなのか?

本番環境に対応したAIアプリケーションを構築するには、単にモデルAPIを呼び出しるだけではありません。イノベーションを遅らせることなく、セキュリティ、信頼性、可観測性、コスト管理が必要です。

Azure API ManagementによるAIゲートウェイは以下の機能を提供します:

• 🔐 セキュリティ — OAuth 2.0、管理型アイデンティティ、コンテンツセーフティフィルタリング
• ⚡ パフォーマンス — ロードバランシング、セマンティックキャッシュ、リクエストルーティング
• 📊 観測可能性 — トークン指標、組み込みログ、トレース
• 💰 コスト管理 — レート制限、割当管理、FinOpsフレームワーク
• 🔌 拡張性 — MCPプロトコルサポート、関数呼び出し、マルチモデルルーティング

📚 ラボを探検しよう

** 🔗 30+の全ラボを aka.ms/ai-gateway/labs で閲覧

📰 New! The AI Gateway Dev Portal is now live — A starting point for building your own developer portal on top of Azure API Management AI Gateway’s. Fork it, open it in VS Code with GitHub Copilot (or any coding agent), and shape it to fit your needs!

Why AI Gateway?

Building production-ready AI applications requires more than just calling model APIs. You need security, reliability, observability, and cost control—without slowing down innovation.

AI Gateway powered by Azure API Management provides:

• 🔐 Security — OAuth 2.0, managed identities, content safety filtering
• ⚡ Performance — Load balancing, semantic caching, request routing
• 📊 Observability — Token metrics, built-in logging, tracing
• 💰 Cost Control — Rate limiting, quota management, FinOps framework
• 🔌 Extensibility — MCP protocol support, function calling, multi-model routing

📚 Explore the Labs

🔗 Browse all 30+ labs at aka.ms/ai-gateway/labs

Each lab is a hands-on Jupyter notebook with step-by-step instructions, Bicep infrastructure templates, and APIM policies you can deploy to your Azure subscription.

🧠 AI Gateway for Models

Manage and control access to Large Language Models with enterprise-grade policies.