停止配置你的AI技术栈。开始使用它。一个命令就能带来一个完整的预设LLM协议栈，拥有数百个服务供你探索。
概览
https://github.com/user-attachments/assets/e4897391-c5a8-4391-93c3-9f8b76155f11 轻松搭建本地LLM堆栈。 Harbor 是一个 CLI 及其配套应用，让你可以搭建完整的本地 LLM 协议栈——后端如 Ollama、llama.cpp 或 vLLM，前端如 Open WebUI，以及支持的 SearXNG 用于网页搜索、Speaches 用于语音聊天和 ComfyUI 用于图像生成——所有这些都预先布线，只需一个 harbor up 命令即可协同工作。无需手动设置：只需选择你想要的服务，Harbor 就能处理 Docker Compose 的编排、配置和跨服务连接，让你专注于实际使用你的模型。 - - 六项新服务 — Text Embeddings Inference、LightRAG、Paperless-ngx、Paperless-GPT、Whishper 和 Linkwarden — 支持 Ollama、llama.cpp、Open WebUI、LibreChat、AnythingLLM 和 Traefik 集成 - Workspace 文件现可由您的主机用户在 20+ 服务中拥有，新的语音转语音（S2s）后端 Dify 1。
概述（AI 翻译）
https://github.com/user-attachments/assets/e4897391-c5a8-4391-93c3-9f8b76155f11
轻松搭建本地LLM堆栈。
Harbor 是一个 CLI 及其配套应用，允许你搭建完整的本地 LLM 协议栈——后端如 Ollama、llama.cpp 或 vLLM，前端如 Open WebUI，以及支持的服务如 SearXNG 用于网页搜索，Speaches 用于语音聊天和 ComfyUI 用于图像生成——所有这些都预先布线，只需一个 harbor up 命令即可协同工作。无需手动设置：只需选择你想要的服务，Harbor 会处理 Docker Compose 的编排、配置和跨服务连接，让你可以专注于实际使用你的模型。
新闻
- v0.5.16 - 两项新服务：翻阅、使用 EmbeddingGemma 2 在 CPU、NVIDIA 或 AMD 上对文件进行本地多模态语义搜索，以及在
harborhandle 下进行 Harbor Framework 代理评估 - **v0.5。
本页由 AI 翻译，技术细节请以原文为准。
README
以下为原文 README 节选，完整内容请查看原文。
在 GitHub 查看完整 README
推荐工具
换一个关键词，或者移除筛选条件。
安装
npx skillfish add av/harbor