ogx-ai/ogx

OGX

英語 ·简体中文

クイックスタートドキュメントOpenAI API互換性****Discord

[!重要] Llama Stackは現在OGXになりました。 名前も変更され、ミッションも変わりました — モデルに依存しない、マルチSDK対応、本番グレードです。全文の発表をお読みください→

AIアプリケーション構築のためのオープンソースのエージェント型APIサーバー。OpenAI互換。どんなモデルでも、どんなインフラでも。

OGXはOpenAI APIのドロップイン代替で、ノートパソコン、データセンター、クラウドなどどこでも実行可能です。OpenAI互換クライアントやエージェントフレームワークを使いましょう。Llama、GPT、Gemini、Mistral、または任意のモデルをアプリケーションコード変更せずに切り替えられます。

何が手に入るか

• チャット完了および埋め込み — 標準的な/v1/chat/completions、/v1/completions、/v1/embeddingsエンドポイント、任意のOpenAIクライアントと互換性があります
• Responses API — ツール呼び出し、MCPサーバー統合、組み込みファイル検索(RAG)を単一のAPI呼び出しで行うサーバーサイドのエージェントオーケストレーション(詳細はこちら)
• ベクターストア&ファイル — 管理された文書の保存および検索のための/v1/vector_storesおよび/v1/files]
• バッチ — /v1/batches](オフラインバッチ処理)

OGX

English · 简体中文

Quick Start | Documentation | OpenAI API Compatibility | Discord

[!IMPORTANT] Llama Stack is now OGX. The name changed, and so did the mission — model-agnostic, multi-SDK, production-grade. Read the full announcement →

Open-source agentic API server for building AI applications. OpenAI-compatible. Any model, any infrastructure.

OGX is a drop-in replacement for the OpenAI API that you can run anywhere — your laptop, your datacenter, or the cloud. Use any OpenAI-compatible client or agentic framework. Swap between Llama, GPT, Gemini, Mistral, or any model without changing your application code.

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8321/v1", api_key="fake")
response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Hello"}],
)

What you get