Ollama를 통해 로컬 LLM을 모델 컨텍스트 프로토콜(MCP) 서버에 연결하는 TypeScript 구현체입니다. 이 브리지는 오픈 소스 모델들이 Claude와 동일한 도구와 기능을 사용할 수 있게 하여 강력한 로컬 AI 어시스턴트를 가능하게 합니다.

개요

이 프로젝트는 로컬 대형 언어 모델과 MCP 서버를 연결하여 다음과 같은 다양한 기능을 제공합니다:

• 파일 시스템 작업
• 브레이브 웹 검색
• GitHub 상호작용
• 구글 드라이브 및 지메일 통합
• 메모리/저장 공간
• 플럭스를 이용한 이미지 생성

이 브릿지는 LLM의 출력과 MCP의 JSON-RPC 프로토콜 간에 변환되어, 어떤 Ollama 호환 모델도 Claude처럼 이 도구들을 사용할 수 있게 합니다.

현재 구성

• LLM: Ollama를 통한 Qwen 2.5 7B (qwen2.5-coder:7b-instruct) 사용
• MCP:
• 파일 시스템 작업 (@modelcontextprotocol/server-filesystem)
• 브레이브 서치 (@modelcontextprotocol/server-brave-search)
• GitHub (@modelcontextprotocol/server-github)
• 메모리 (@modelcontextprotocol/server-memory)
• 플럭스 이미지 생성 (@patruff/server-flux)
• Gmail 및 드라이브 (@patruff/server-gmail-drive)

건축

• 브리지: 도구 등록 및 실행을 관리하는 핵심 구성 요소

MCP-LLM Bridge

A TypeScript implementation that connects local LLMs (via Ollama) to Model Context Protocol (MCP) servers. This bridge allows open-source models to use the same tools and capabilities as Claude, enabling powerful local AI assistants.

Overview

This project bridges local Large Language Models with MCP servers that provide various capabilities like:

• Filesystem operations
• Brave web search
• GitHub interactions
• Google Drive & Gmail integration
• Memory/storage
• Image generation with Flux

The bridge translates between the LLM’s outputs and the MCP’s JSON-RPC protocol, allowing any Ollama-compatible model to use these tools just like Claude does.

Current Setup

• LLM: Using Qwen 2.5 7B (qwen2.5-coder:7b-instruct) through Ollama
• MCPs:
  • Filesystem operations (@modelcontextprotocol/server-filesystem)
  • Brave Search (@modelcontextprotocol/server-brave-search)
  • GitHub (@modelcontextprotocol/server-github)
  • Memory (@modelcontextprotocol/server-memory)
  • Flux image generation (@patruff/server-flux)
  • Gmail & Drive (@patruff/server-gmail-drive)

Architecture

• Bridge: Core component that manages tool registration and execution
• LLM Client: Handles Ollama interactions and formats tool calls
• MCP Client: Manages MCP server connections and JSON-RPC communication
• Tool Router: Routes requests to appropriate MCP based on tool type

Key Features

• Multi-MCP support with dynamic tool routing
• Structured output validation for tool calls
• Automatic tool detection from user prompts
• Robust process management for Ollama
• Detailed logging and error handling

Setup

1. Install Ollama and required model:

ollama pull qwen2.5-coder:7b-instruct

2. Install MCP servers:

npm install -g @modelcontextprotocol/server-filesystem
npm install -g @modelcontextprotocol/server-brave-search
npm install -g @modelcontextprotocol/server-github
npm install -g @modelcontextprotocol/server-memory
npm install -g @patruff/server-flux
npm install -g @patruff/server-gmail-drive

3. Configure credentials:
   • Set BRAVE_API_KEY for Brave Search
   • Set GITHUB_PERSONAL_ACCESS_TOKEN for GitHub
   • Set REPLICATE_API_TOKEN for Flux
   • Run Gmail/Drive MCP auth: node path/to/gmail-drive/index.js auth
   • For example node C:\Users\patru\AppData\Roaming\npm\node_modules@patruff\server-gmail-drive\dist\index.js auth

Configuration

The bridge is configured through bridge_config.json:

• MCP server definitions
• LLM settings (model, temperature, etc.)
• Tool permissions and paths

Example:

{
  "mcpServers": {
    "filesystem": {
      "command": "node",
      "args": ["path/to/server-filesystem/dist/index.js"],
      "allowedDirectory": "workspace/path"
    },
    // ... other MCP configurations
  },
  "llm": {
    "model": "qwen2.5-coder:7b-instruct",
    "baseUrl": "http://localhost:11434"
  }
}

Usage

1. Start the bridge:

npm run start