
aws-solutions-library-samples/global-capacity-orchestrator-on-aws
部署与 DevOps本页由 AI 翻译,技术细节请以原文为准。 查看原文
GCO 是一个平台,能够在 AWS 区域内启动 EKS 自动模式集群,并与 Global Accelerator 连接,实现低延迟路由。
概览
AWS上EKS自动模式集群与Global Capacity Orchestrator的指南 全球容量编排器(GCO)在你配置的多个AWS区域的EKS自动模式集群上运行加速工作负载——LLM训练与推理、批处理机器学习、高性能计算,支持一个IAM认证的API、CLI和MCP服务器。它会查找NVIDIA GPU、Trainium、Inferentia和CPU容量的实际位置,放置作业,并为推理端点提供自动跨区域故障切换。 安装了git和容器运行时(Docker、Finch或Podman),这就是从无到有的整个部署过程: 或者让代理驾驶:gco autopilot 在 Amazon Bedrock 上开启 Claude Code 会话——gco autopilot——engine codex 是 OpenAI Codex 的——且 GCO MCP 服务器已连接好,你请求你想要的。入门功能包含详细信息和替代方案,快速入门功能带你了解第一份工作,维基是简短的入门指南。
概述(AI 翻译)
全球容量编排器
AWS官方AWS解决方案指南中,EKS自动模式集群与全球容量编排器
一个API。每个加速器。任何地区。
快速入门 · 文献资料· 维基百科 · 示例· CLI参考 · 贡献
**全球容量编排器(GCO)**在你配置的多个AWS区域内的EKS自动模式集群上运行加速工作负载——LLM训练与推理、批处理机器学习、高性能计算,支持一个IAM认证的API、CLI和MCP服务器。它会确定NVIDIA GPU、Trainium、Inferentia和CPU容量的实际位置,放置作业,并通过自动跨区域故障转移为推理端点提供服务。
一个真实的gco会话,可从demo/live_demo.sh重现:舰队状态、容量发现、四个调度器加上KEDA、共享存储、全球复制的向量存储以及实时LLM推理。更多录制内容正在“查看运行中”。
为什么是GCO?
跨区域运行加速工作负载意味着找到容量、搭建集群、布线认证、处理故障切换,以及在Pod退出后保留作业输出。
本页由 AI 翻译,技术细节请以原文为准。
README
以下为原文 README 节选,完整内容请查看原文。
Global Capacity Orchestrator
Guidance for EKS AutoMode Clusters withGlobal Capacity Orchestrator on AWSOfficial AWS Solutions Guidance
One API. Every Accelerator. Any Region.
安装
docker run -it --rm \