vmlinuzx/llmc

** LLM 토큰에 돈을 버는 중지.**

로컬 RAG, 지능형 라우팅 및 컨테이너화된 보안을 통해 70-95%의 비용 절감을 얻을 수 있습니다.

---

⚡ LLMC는 무엇입니까?

LLMC는 local-first RAG (Retrieval Augmented Generation) 엔진 및 LLMC가 코드베이스를 사용하여 큰 언어 모델을 사용하는 비용을 압축하도록 설계된 지능형 라우터입니다.

Claude 또는 GPT-4에 전체 코드를 전송하는 대신, LLMC는 코드를 로컬로 색인하고, 정확한 관련 스니펫 (기능, 클래스, docs)를 찾아야하며, **만 어떤 문제가 있는지 확인합니다.

⭐ 빠른 시작

몇 초 만에 실행하십시오.

##1. 설치

##2. 코드 인덱스

##3. 돈을 절약

---

✨ 주요 특징

| 특징 | 묘사 | 인포메이션 |** 상품의 대량 절감** | 관련 상황에만 대응하여 70-95%의 토큰 사용량 감소 |** 안전 우선** |New in v0.7.0: “Hybrid Mode” for trust client (host access) vs. Container Isolation for untrusted LLMs. | |** Poly Polyglot RAG** | 파이썬, TS, JS, Go, Java 및 기술 문서에 대한 스마트 패싱(트리서). | | ** TubeDupe️ GraphRAG** | 관련 파일들을 자동적으로 찾을 수 있도록 코드 구조(임포트, 통화, 상속)를 이해합니다. ·

---

⚡ What is LLMC?

LLMC is a local-first RAG (Retrieval Augmented Generation) engine and intelligent router designed to drastically reduce the cost of using Large Language Models with your codebase.

Instead of sending your entire codebase to Claude or GPT-4, LLMC indexes your code locally, finds the exact relevant snippets (functions, classes, docs), and sends only what matters.

graph LR
    A[User Query] --> B(LLMC Router);
    B --> C{Local Index};
    C -->|Search| D[Relevant Context];
    D -->|Trim & Pack| E[Optimized Prompt];
    E --> F[LLM API];
    F --> G[Answer];
    style B fill:#f9f,stroke:#333,stroke-width:2px
    style E fill:#bfb,stroke:#333,stroke-width:2px

🚀 Quick Start

Get up and running in seconds.

1. Install

# One-line install
curl -sSL https://raw.githubusercontent.com/vmlinuzx/llmc/main/install.sh | bash

# Or via pip
pip install "git+https://github.com/vmlinuzx/llmc.git#egg=llmcwrapper[rag,tui,agent]"

2. Index Your Code

cd /path/to/your/project
llmc-cli repo register .

3. Save Money

# Search without using ANY tokens
llmc-cli search "authentication middleware"

# Launch the visual dashboard
llmc-cli tui

---

✨ Key Features

---

🔍 Deep Dive