
实验室通过由Azure API Management和Microsoft Foundry 🚀驱动的AI网关,探索AI模型、MCP服务器和代理
概览
📰 AI Gateway 开发门户现已上线——这是一个基于 Azure API 管理 AI 网关构建你自己开发者门户的起点。分叉它,用 GitHub Copilot(或任何编码代理)在 VS Code 中打开,并根据你的需求进行调整! 构建生产准备的AI应用不仅仅是调用模型API。你需要 、 、 和 ——,同时不减缓创新速度。 由Azure支持的API管理提供: - 🔐 — OAuth 2.0,托管身份,内容安全过滤 - ⚡ — 负载均衡、语义缓存、请求路由 - 📊 — 令牌指标、内置日志、追踪 - 💰 — 速率限制、配额管理、FinOps 框架 - 🔌 — MCP 协议支持、函数调用、多模型路由 每个实验室都是一本动手的Jupyter笔记本,包含逐步操作说明、Bicep基础设施模板和API政策,你可以部署到Azure订阅中。 通过企业级策略管理和控制对大型语言模型的访问。
概述(AI 翻译)
探索管理AI模型、工具和代理的企业级网关
📰 全新! AI Gateway 开发门户现已上线——这是一个基于 Azure API 管理 AI 网关构建你自己开发者门户的起点。分叉它,用 GitHub Copilot(或任何编码代理)在 VS Code 中打开,并根据你的需求进行调整!
为什么是AI网关?
构建生产准备的AI应用不仅仅是调用模型API。你需要安全性、可靠性、可观测性和成本控制——同时不拖慢创新速度。
由Azure API Management支持的AI网关提供:
- 🔐 安全 — OAuth 2.0,托管身份,内容安全过滤
- ⚡ 性能 — 负载均衡、语义缓存、请求路由
- 📊 可观测性 — 令牌指标、内置日志、追踪
- 💰 成本控制 — 速率限制、配额管理、金融运营框架
- 🔌 可扩展性 — MCP协议支持、函数调用、多模型路由
📚 探索实验室
** 🔗 浏览所有30+实验室,aka.ms/ai-gateway/labs**
本页由 AI 翻译,技术细节请以原文为准。
README
以下为原文 README 节选,完整内容请查看原文。
📰 New! The AI Gateway Dev Portal is now live — A starting point for building your own developer portal on top of Azure API Management AI Gateway’s. Fork it, open it in VS Code with GitHub Copilot (or any coding agent), and shape it to fit your needs!
Why AI Gateway?
Building production-ready AI applications requires more than just calling model APIs. You need security, reliability, observability, and cost control—without slowing down innovation.
AI Gateway powered by Azure API Management provides:
- 🔐 Security — OAuth 2.0, managed identities, content safety filtering
- ⚡ Performance — Load balancing, semantic caching, request routing
- 📊 Observability — Token metrics, built-in logging, tracing
- 💰 Cost Control — Rate limiting, quota management, FinOps framework
- 🔌 Extensibility — MCP protocol support, function calling, multi-model routing
📚 Explore the Labs
🔗 Browse all 30+ labs at aka.ms/ai-gateway/labs
Each lab is a hands-on Jupyter notebook with step-by-step instructions, Bicep infrastructure templates, and APIM policies you can deploy to your Azure subscription.
🧠 AI Gateway for Models
Manage and control access to Large Language Models with enterprise-grade policies.
| Lab | Description |
|---|---|
| Backend Pool Load Balancing | Distribute requests across multiple model endpoints |
| Token Rate Limiting | Control token consumption with rate limiting policies |
| Semantic Caching | Cache responses using vector similarity for faster, cheaper completions |
安装
This server does not publish a one-line install command.
Open the repository installation guide 新手?先看 mcpskill.org 教程 →