AS

aws-solutions-library-samples/global-capacity-orchestrator-on-aws

部署与 DevOps

本页由 AI 翻译,技术细节请以原文为准。 查看原文

53 stars 12 forks 质量 77 趋势 33MIT-0

GCO 是一个平台,能够在 AWS 区域内启动 EKS 自动模式集群,并与 Global Accelerator 连接,实现低延迟路由。

概览

AWS上EKS自动模式集群与Global Capacity Orchestrator的指南 全球容量编排器(GCO)在你配置的多个AWS区域的EKS自动模式集群上运行加速工作负载——LLM训练与推理、批处理机器学习、高性能计算,支持一个IAM认证的API、CLI和MCP服务器。它会查找NVIDIA GPU、Trainium、Inferentia和CPU容量的实际位置,放置作业,并为推理端点提供自动跨区域故障切换。 安装了git和容器运行时(Docker、Finch或Podman),这就是从无到有的整个部署过程: 或者让代理驾驶:gco autopilot 在 Amazon Bedrock 上开启 Claude Code 会话——gco autopilot——engine codex 是 OpenAI Codex 的——且 GCO MCP 服务器已连接好,你请求你想要的。入门功能包含详细信息和替代方案,快速入门功能带你了解第一份工作,维基是简短的入门指南。

概述(AI 翻译)

全球容量编排器

AWS官方AWS解决方案指南中,EKS自动模式集群与全球容量编排器

一个API。每个加速器。任何地区。

快速入门 · 文献资料· 维基百科 · 示例· CLI参考 · 贡献

**全球容量编排器(GCO)**在你配置的多个AWS区域内的EKS自动模式集群上运行加速工作负载——LLM训练与推理、批处理机器学习、高性能计算,支持一个IAM认证的API、CLI和MCP服务器。它会确定NVIDIA GPU、Trainium、Inferentia和CPU容量的实际位置,放置作业,并通过自动跨区域故障转移为推理端点提供服务。

一个真实的gco会话,可从demo/live_demo.sh重现:舰队状态、容量发现、四个调度器加上KEDA、共享存储、全球复制的向量存储以及实时LLM推理。更多录制内容正在“查看运行中”。

为什么是GCO?

跨区域运行加速工作负载意味着找到容量、搭建集群、布线认证、处理故障切换,以及在Pod退出后保留作业输出。

本页由 AI 翻译,技术细节请以原文为准。

README

以下为原文 README 节选,完整内容请查看原文。

Global Capacity Orchestrator

Guidance for EKS AutoMode Clusters withGlobal Capacity Orchestrator on AWSOfficial AWS Solutions Guidance

One API. Every Accelerator. Any Region.

在 GitHub 查看完整 README

安装

docker run -it --rm \
新手?先看 mcpskill.org 教程 →