av/harbor
Developer tools이 페이지는 AI로 자동 번역되었습니다. 기술적인 세부 사항은 원문을 확인하세요. 원문 보기
AI 스택 설정을 멈추세요. 사용하기 시작하세요. 한 명령어가 수백 개의 서비스를 탐색할 수 있는 완전한 사전 배선 LLM 스택을 제공합니다.
개요
https://github.com/user-attachments/assets/e4897391-c5a8-4391-93c3-9f8b76155f11 로컬 LLM 스택을 손쉽게 구축하세요. Harbor는 Ollama, llama.cpp, vLLM 같은 백엔드, Open WebUI 같은 프론트엔드, 웹 검색용 SearXNG, 음성 채팅용 Speaches, 이미지 생성용 ComfyUI 같은 지원 서비스까지 포함한 완전한 로컬 LLM 스택을 구축할 수 있는 CLI와 동반 앱으로, 모두 하나의 harbor up 명령어로 미리 연결되어 함께 작동하도록 설계되어 있습니다. 수동 설정 필요 없이, 원하는 서비스를 선택하면 Harbor가 Docker Compose 오케스트레이션, 구성, 서비스 간 연결을 처리해 주어 모델을 실제로 사용하는 데 집중할 수 있습니다. - - 6개의 신규 서비스 — 텍스트 임베딩스 추론, 라이트RAG, 페이퍼리스-ngx, 페이퍼리스-GPT, 위쉬퍼, 링크워든 — 올라마, llama.cpp, 오픈 웹 UI, 리브레챗, 애니씽LLM, 트라에픽 통합 포함 - - 작업 공간 파일은 이제 20+ 서비스에서 호스트 사용자가 소유할 수 있으며, 새로운 음성 변환(s2s) 백엔드 Dify 1.
개요(AI 번역)
https://github.com/user-attachments/assets/e4897391-c5a8-4391-93c3-9f8b76155f11
로컬 LLM 스택을 손쉽게 구축하세요.
Harbor는 완전한 로컬 LLM 스택을 구축할 수 있는 CLI이자 동반 앱으로, Ollama, llama.cpp, vLLM 같은 백엔드, Open WebUI 같은 프론트엔드, 웹 검색용 SearXNG, 음성 채팅용 Speaches, 이미지 생성용 ComfyUI 같은 지원 서비스까지 모두 하나의 harbor up 명령어로 미리 배선되어 함께 작동하도록 설계되었습니다. 수동 설정 필요 없이, 원하는 서비스를 선택하면 Harbor가 Docker Compose 오케스트레이션, 구성, 서비스 간 연결을 처리해 주어 모델을 실제로 사용하는 데 집중할 수 있습니다.
뉴스
- v0.5.16 - 두 가지 신규 서비스: Rummage, EmbeddingGemma 2를 이용한 CPU, NVIDIA 또는 AMD에서의 로컬 다중 모달 의미 탐색, 그리고
harbor핸들 하의 Harbor Framework 에이전트 평가 - **v0.5.
이 페이지는 AI로 자동 번역되었습니다. 기술적인 세부 사항은 원문을 확인하세요.
README
원문 README의 일부입니다. 원문 보기.
GitHub에서 전체 README 보기
추천 도구
다른 키워드를 입력하거나 필터를 제거해 보세요.
설치
npx skillfish add av/harbor