
aws-solutions-library-samples/global-capacity-orchestrator-on-aws
Deployment & DevOpsこのページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。 原文を見る
GCO は、AWS 領域を横断する EKS オートモード クラスターをスピンするプラットフォームで、低レイテンシルーティングのためのグローバルアクセラレータと並んでいます.
概要
EKS AutoMode クラスターとAWS のグローバル キャパシティ Orchestrator のガイド グローバル・キャパシティ・オーケター(GCO)は加速されたワークロードを実行します — LLMの訓練と推論、バッチML、HPC — EKSオート・モード・クラスターで、IAM -authenticated API、CLIおよびMCPサーバーの背後にある、構成されるように。 NVIDIA GPU、Trainium、Inferentia、CPU 容量が実際にある場所を見つけ、そこでジョブを配置し、自動クロスレギオンのフェイルオーバで干渉エンドポイントを実行します。 git とコンテナのランタイム (Docker、Finch、Podman) がインストールされていると、実行中のデプロイメントへの何もゼロからの旅全体です。 またはエージェントドライブをしてみましょう: gco autopilotはClaudeコードセッションを開きます — gco autopilot --engine codexのOpenAI Codexの1 — GCO MCPサーバーで既にワイヤーで縛られたAmazon Bedrockで、あなたが望むものを尋ねます。 はじめに、詳細と代替品、クイックスタートは最初のジョブを歩き、wikiは短いオリエンテーションサイトです.
概要(AI 翻訳)
グローバル・キャパシティ・オーケストラ
AWS公式AWSソリューションガイドでグローバルキャパシティ・オーケストと EKS AutoMode クラスターの指導
1つのAPI。 すべてのアクセラレータ。 任意の地域。
クイックスタート・ ドキュメント・ ウィキ・ウィキ 事例・事例 CLI リファレンス・ 貢献する
**グローバル・キャパシティ・オーケター(GCO)**は加速されたワークロードを実行します — LLM の訓練と推論、バッチ ML、HPC — EKS オート・モード・クラスターの構成、IAM-authenticated API、CL および MCP サーバーの背後にある。 NVIDIA GPU、Trainium、Inferentia、CPU 容量が実際にある場所を見つけ、そこでジョブを配置し、自動クロスレギオンのフェイルオーバで不当なエンドポイントを実行します。
実際の[gco]セッション、[demo/live_demo.sh]から再現可能:フリート状態、キャパシティ発見、4スケジューラプラスKEDA、共有ストレージ、グローバルに再現されたベクターストア、ライブLM推論。 より多くの録画が実行されていることを参照してください。
#GCOとは?
地域を横断する加速されたワークロードは、ポッドの出口の後にジョブアウトプットを保ち、クラスター、配線認証、処理能力、およびジョブアウトプットを把握することを意味します.
このページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。
README
以下は原文 README の抜粋です。原文を見る。
Global Capacity Orchestrator
Guidance for EKS AutoMode Clusters withGlobal Capacity Orchestrator on AWSOfficial AWS Solutions Guidance
One API. Every Accelerator. Any Region.
インストール
docker run -it --rm \