LM Studio를 통해 Claude가 로컬에서 실행 중인 LLM 모델과 통신할 수 있도록 하는 모델 제어 프로토콜(MCP) 서버입니다.

개요

LMStudio-MCP는 MCP 기능이 있는 Claude와 로컬에서 실행 중인 LM Studio 인스턴스 사이에 다리를 만들어줍니다. 이로 인해 Claude는 다음과 같은 기능을 할 수 있습니다:

• LM Studio API 상태 점검
• 사용 가능한 모델 목록
• 현재 로드된 모델을 얻기
• 로컬 모델을 이용해 채팅 및 원시 텍스트 완성 생성
• 의미 탐색 및 RAG를 위한 벡터 임베딩 생성
• 응답 ID를 통한 상태 기반 다중 턴 대화 유지
• 잠긴 시스템 프롬프트로 지속적인 대화를 시작하고 계속

이를 통해 Claude의 인터페이스를 통해 로컬 실행 중인 모델을 활용할 수 있으며, Claude의 기능과 개인 모델을 결합할 수 있습니다.

선수 조건

• 파이썬 3.7+
• LM Studio 설치 및 로컬 실행 모델
• MCP 접근 권한이 있는 Claude
• 필수 파이썬 패키지 (설치 참조)

🚀 빠른 설치

원라인 설치 (권장)

수동 설치 방법

1. 로컬 파이썬 설치

2. 도커 설치

3. 도커 컴포즈

자세한 배치 지침은 DOCKER.md 를 참조하세요.

LMStudio-MCP

A Model Control Protocol (MCP) server that allows Claude to communicate with locally running LLM models via LM Studio.

Overview

LMStudio-MCP creates a bridge between Claude (with MCP capabilities) and your locally running LM Studio instance. This allows Claude to:

• Check the health of your LM Studio API
• List available models
• Get the currently loaded model
• Generate chat and raw text completions using your local models
• Generate vector embeddings for semantic search and RAG
• Hold stateful multi-turn conversations via response IDs
• Start and continue persistent conversations with a locked-in system prompt

This enables you to leverage your own locally running models through Claude’s interface, combining Claude’s capabilities with your private models.

Prerequisites

• Python 3.7+
• LM Studio installed and running locally with a model loaded
• Claude with MCP access
• Required Python packages (see Installation)

🚀 Quick Installation

One-Line Install (Recommended)

curl -fsSL https://raw.githubusercontent.com/infinitimeless/LMStudio-MCP/main/install.sh | bash

Manual Installation Methods

1. Local Python Installation

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
pip install requests "mcp[cli]" openai

2. Docker Installation

# Using pre-built image
docker run -it --network host ghcr.io/infinitimeless/lmstudio-mcp:latest

# Or build locally
git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker build -t lmstudio-mcp .
docker run -it --network host lmstudio-mcp

3. Docker Compose

git clone https://github.com/infinitimeless/LMStudio-MCP.git
cd LMStudio-MCP
docker-compose up -d

For detailed deployment instructions, see DOCKER.md.

⚙️ Configuration

The bridge supports flexible configuration for different deployment scenarios:

• Default: Connects to http://localhost:1234/v1
• Custom Host: Set LMSTUDIO_HOST environment variable (e.g., 192.168.1.100)
• Custom Port: Set LMSTUDIO_PORT environment variable (e.g., 5678)

Example:

export LMSTUDIO_HOST=192.168.1.100
export LMSTUDIO_PORT=5678
python lmstudio_bridge.py

📖 For detailed configuration options, see CONFIGURATION.md

MCP Configuration

Quick Setup

Using GitHub directly (simplest):

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

Using local installation:

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

Using Docker:

{