MMCPMarkets
VL

varunvasudeva1/llm-server-docs

Developer tools

このページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。 原文を見る

849 stars 62 forks 品質 84 トレンド 26MIT
Repository Install

varunvasudeva1/llm-server-docs は、https://github.com/varunvasudeva1/llm-server-docs. からインポートされたMCPサーバー候補です。

概要

varunvasudeva1/llm-server-docs は、https://github.com/varunvasudeva1/llm-server-docs. からインポートされたMCPサーバー候補です。

概要（AI 翻訳）

TL;DR:Debian上でローカルかつ完全にプライベートなLLMサーバーをセットアップするためのエンドツーエンドドキュメント。チャット、ウェブ検索、RAG、モデル管理、MCPサーバー、画像生成、TTSを備え、SSH、ファイアウォール、Tailscaleによる安全なリモートアクセスの設定手順も備えています。

ソフトウェアスタック:

  • 推論エンジン(Ollama、llama.cpp、vLLM)
  • 検索エンジン(SearXNG)
  • モデルサーバー(llama-swap、systemdサービス)
  • チャットプラットフォーム(オープンWebUI)
  • MCPプロキシサーバー(mcp-proxy、MCPJungle)
  • テキスト読み上げサーバー(Kokoro FastAPI)
  • 画像生成サーバー(ComfyUI)
  • VPN/リモートアクセス(Tailscale)
  • リバースプロキシ(キャディ)
  • DNSプロバイダー(Cloudflare)

目次

  • ローカルLLaMAサーバーセットアップドキュメント
  • 目次
  • 概要
  • 優先順位
  • 前提条件
  • 一般
  • 許可 [sudo
  • システムパッケージの更新
  • スケジュール起動スクリプト
  • スクリプト権限の設定
  • 自動ログインの設定(オプション)
  • Docker
  • Dockerグループへのユーザー追加
  • Nvidiaコンテナツールキット
  • ネットワークの作成
  • Harden Docker コンテナ
  • ヘルプ・コマンド
  • HuggingFace CLI
  • モデル管理
  • ダウンロードモデル
  • モデルの削除
  • 検索エンジン
  • SearXNG
  • Open WebUI連携

このページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。

README

以下は原文 README の抜粋です。原文を見る。

Local LLaMA Server Setup Documentation

TL;DR: End-to-end documentation to set up your own local & fully private LLM server on Debian. Equipped with chat, web search, RAG, model management, MCP servers, image generation, and TTS, along with steps for configuring SSH, firewall, and secure remote access via Tailscale.

Software Stack:

Table of Contents

GitHub で README 全文を見る

インストール

uvx mcp-server-fetch
MCP 初心者？mcpskill.org のガイドから始めましょう →

設定

{ "mcpServers": { "fetch": { "disabled": false, "timeout": 60, "command": "uvx", "args": [ "mcp-server-fetch" ], "transportType": "stdio" }, "sequential-thinking": { "command": "npx", "args": [ "-y", "@modelcontextprotocol/server-sequential-thinking" ] }, "searxng": { "command": "npx", "args": ["-y", "mcp-searxng"], "env": { "SEARXNG_URL": "http://searxng:8080/search?q=<query>" } } } }