PolyLLM は複数の大きい言語モデル (LLM) の提供者のための統一された Go インターフェイスです。 さまざまな LLM API を 1 つの一貫したインターフェースでやり取りし、異なるプロバイダー間で簡単に切り替えたり、複数のプロバイダーを同じアプリケーションで使用したりすることができます。

コンテンツの表

• ポリルム
• コンテンツの表
• 特徴
• サポートされているプロバイダ
• インストール
• 図書館
• クリップツール
• HTTPサーバー
• 構成
• JSON 設定ファイル
• MCP構成
• 使用法
• APIの使用法
• 基本例
• 設定ファイルの使用 ・チャット完了事例
• MCP の使用
• CLIの使用法
• インストール
• サンプル
• HTTPサーバー
• インストール
• サーバの起動
• APIエンドポイント
• サンプルリクエスト
• ライセンス

##特徴

• 単一インターフェイス:統一されたAPIによって複数のLMMの提供者と相互に作用して下さい
• Provider Agnostic:あなたのコードを変えないでプロバイダ間で容易に転換して下さい
• 複数のインターフェイス: Go API、CLI ツール、HTTP サーバから LLM にアクセス -MCPサポート:モデルコンテキストプロトコルの組み込みサポート
• 設定ファイル:プロバイダとMCPツールのJSONベースの構成

サポートされているプロバイダ

PolyLLM

PolyLLM is a unified Go interface for multiple Large Language Model (LLM) providers. It allows you to interact with various LLM APIs through a single, consistent interface, making it easy to switch between different providers or use multiple providers in the same application.

Table of Contents

• PolyLLM
  • Table of Contents
  • Features
  • Supported Providers
  • Installation
    • Library
    • CLI Tool
    • HTTP Server
  • Configuration
    • JSON Configuration File
    • MCP Configuration
  • Usage
    • API Usage
      • Basic Example
      • Using Configuration File
      • Chat Completion Example
      • Using MCP
    • CLI Usage
      • Installation
      • Examples
    • HTTP Server
      • Installation
      • Starting the Server
      • API Endpoints
      • Example Request
  • License

Features

• Single Interface: Interact with multiple LLM providers through a unified API
• Provider Agnostic: Easily switch between providers without changing your code
• Multiple Interfaces: Access LLMs through a Go API, CLI tool, or HTTP server
• MCP Support: Builtin support for Model Context Protocol
• Configuration File: JSON-based configuration for providers and MCP tools

Supported Providers

PolyLLM currently supports the following LLM providers:

• OpenAI
• DeepSeek
• Qwen (Alibaba Cloud)
• Gemini (Google)
• OpenRouter
• Volcengine
• Groq
• Xai
• Siliconflow

Additional providers can be easily added.

Installation

Library

go get github.com/recally-io/polyllm

CLI Tool

go install github.com/recally-io/polyllm/cmd/polyllm-cli@latest

# use docker 
docker pull ghcr.io/recally-io/polyllm-cli:latest

HTTP Server

go install github.com/recally-io/polyllm/cmd/polyllm-server@latest

# use docker 
docker pull ghcr.io/recally-io/polyllm-server:latest

Configuration

JSON Configuration File

PolyLLM supports configuration via a JSON file. This allows you to define LLM providers and MCP tools.

Example configuration file:

{
  "llms": [
    {
      "name": "gemini",
      "type": "gemini",