Сервер Model Control Protocol (MCP), позволяющий Claude взаимодействовать с локально запускающимися моделями LLM через LM Studio.

Обзор

LMStudio-MCP создаёт мост между Claude (с возможностями MCP) и вашим локально работающим экземпляром LM Studio. Это позволяет Claude:

• Проверьте состояние вашего API LM Studio
• Список доступных моделей
• Получить текущую загруженную модель
• Генерировать завершения чата и сырого текста с помощью локальных моделей
• Генерировать векторные вложения для семантического поиска и RAG
• Удерживать многоповоротные общения с помощью идентификаторов ответов
• Начало и продолжение постоянных разговоров с помощью заблокированного системного запроса

Это позволяет использовать собственные локально работающие модели через интерфейс Claude, объединяя возможности Claude с вашими личными моделями.

Предварительные требования

• Python 3.7+
• LM Studio установлен и работает локально с загруженной моделью
• Клод с доступом к MCP
• Обязательные пакеты на Python (см. Установка)

🚀 Быстрая установка

Однолинейная установка (рекомендовано)

Методы ручной установки

1. Локальная установка Python

2. Установка Docker

3. Docker Compose

Подробные инструкции по развертыванию см. DOCKER.md.

LMStudio-MCP

A Model Control Protocol (MCP) server that allows Claude to communicate with locally running LLM models via LM Studio.

Overview

LMStudio-MCP creates a bridge between Claude (with MCP capabilities) and your locally running LM Studio instance. This allows Claude to:

• Check the health of your LM Studio API
• List available models
• Get the currently loaded model
• Generate chat and raw text completions using your local models
• Generate vector embeddings for semantic search and RAG
• Hold stateful multi-turn conversations via response IDs
• Start and continue persistent conversations with a locked-in system prompt

This enables you to leverage your own locally running models through Claude’s interface, combining Claude’s capabilities with your private models.

Prerequisites

• Python 3.7+
• LM Studio installed and running locally with a model loaded
• Claude with MCP access
• Required Python packages (see Installation)

🚀 Quick Installation

One-Line Install (Recommended)

curl -fsSL https://raw.githubusercontent.com/infinitimeless/LMStudio-MCP/main/install.sh | bash

Manual Installation Methods

1. Local Python Installation

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
pip install requests "mcp[cli]" openai

2. Docker Installation

# Using pre-built image
docker run -it --network host ghcr.io/infinitimeless/lmstudio-mcp:latest

# Or build locally
git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker build -t lmstudio-mcp .
docker run -it --network host lmstudio-mcp

3. Docker Compose

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker-compose up -d

For detailed deployment instructions, see DOCKER.md.

⚙️ Configuration

The bridge supports flexible configuration for different deployment scenarios:

• Default: Connects to http://localhost:1234/v1
• Custom Host: Set LMSTUDIO_HOST environment variable (e.g., 192.168.1.100)
• Custom Port: Set LMSTUDIO_PORT environment variable (e.g., 5678)

Example:

export LMSTUDIO_HOST=192.168.1.100
export LMSTUDIO_PORT=5678
python lmstudio_bridge.py

📖 For detailed configuration options, see CONFIGURATION.md

MCP Configuration

Quick Setup

Using GitHub directly (simplest):

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

Using local installation:

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

Using Docker:

{