ogx-ai/ogx

OGX

영어 · 简体中文

빠른 시작 | 문서 | OpenAI API 호환성 디스코드

[! 중요] Llama Stack은 이제 OGX가 되었습니다. 이름이 바뀌었고, 미션도 바뀌었습니다 — 모델에 구애받지 않고, 다중 SDK, 프로덕션 등급입니다. 전체 발표 내용을 읽어보세요→

AI 애플리케이션 구축을 위한 오픈 소스 에이전트 API 서버. OpenAI 호환. 어떤 모델, 어떤 인프라든.

OGX는 OpenAI API를 대체할 수 있는 드롭인 대체 도구로, 노트북, 데이터센터, 클라우드 어디서든 실행할 수 있습니다. OpenAI 호환 클라이언트나 에이전트 프레임워크를 사용하세요. Llama, GPT, Gemini, Mistral 또는 어떤 모델이든 애플리케이션 코드를 변경하지 않고 전환할 수 있습니다.

네가 얻는 것들

• 채팅 완료 및 임베딩 — 표준 [/v1/chat/completions, /v1/completions, /v1/embeddings 엔드포인트, 모든 OpenAI 클라이언트와 호환
• 응답 API — 서버 측 에이전트 오케스트레이션, 도구 호출, MCP 서버 통합, 내장 파일 검색(RAG)을 단일 API 호출에서 지원합니다 (자세히 알아보기
• 벡터 저장소 및 파일 — /v1/vector_stores 및 /v1/files] 관리 문서 저장 및 검색을 위한 자료
• 배치 — /v1/batches 오프라인 배치 처리를 위한

OGX

English · 简体中文

Quick Start | Documentation | OpenAI API Compatibility | Discord

[!IMPORTANT] Llama Stack is now OGX. The name changed, and so did the mission — model-agnostic, multi-SDK, production-grade. Read the full announcement →

Open-source agentic API server for building AI applications. OpenAI-compatible. Any model, any infrastructure.

OGX is a drop-in replacement for the OpenAI API that you can run anywhere — your laptop, your datacenter, or the cloud. Use any OpenAI-compatible client or agentic framework. Swap between Llama, GPT, Gemini, Mistral, or any model without changing your application code.

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8321/v1", api_key="fake")
response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Hello"}],
)

What you get