vmlinuzx/llmc

Прекратите сжигать деньги на токенах LLM.

Сокращение затрат на 70-95% за счет локальной RAG, интеллектуальной маршрутизации и контейнерной безопасности.

###Что такое LLMC?

LLMC - это движок RAG (Retrieval Augmented Generation) и интеллектуальный маршрутизатор, предназначенный для резкого снижения стоимости использования моделей большого языка с вашей кодовой базой.

Вместо того, чтобы отправлять всю кодовую базу в Claude или GPT-4, LLMC индексирует ваш код локально, находит точные соответствующие фрагменты (функции, классы, документы) и отправляет только то, что имеет значение.

Быстрый старт

Вставайте и бегайте в считанные секунды.

###1 Установить

###2 - индексируйте код

###3 Экономьте деньги

Ключевые особенности

Описание / Description [править править код] Массовая экономия ** уменьшает использование токенов на 70-95%, отправляя только соответствующий контекст. |** First Security First** |New in v0.7.0: «Гибридный режим» для доверенных клиентов (доступ к хосту) vs. Изоляция контейнеров для ненадежных LLM. Polyglot RAG** | Smart parsing (TreeSitter) для Python, TS, JS, Go, Java и технических документов. GraphRAG понимает структуру вашего кода (импорт, звонки, наследование) для автоматического поиска связанных файлов.

---

⚡ What is LLMC?

LLMC is a local-first RAG (Retrieval Augmented Generation) engine and intelligent router designed to drastically reduce the cost of using Large Language Models with your codebase.

Instead of sending your entire codebase to Claude or GPT-4, LLMC indexes your code locally, finds the exact relevant snippets (functions, classes, docs), and sends only what matters.

graph LR
    A[User Query] --> B(LLMC Router);
    B --> C{Local Index};
    C -->|Search| D[Relevant Context];
    D -->|Trim & Pack| E[Optimized Prompt];
    E --> F[LLM API];
    F --> G[Answer];
    style B fill:#f9f,stroke:#333,stroke-width:2px
    style E fill:#bfb,stroke:#333,stroke-width:2px

🚀 Quick Start

Get up and running in seconds.

1. Install

# One-line install
curl -sSL https://raw.githubusercontent.com/vmlinuzx/llmc/main/install.sh | bash

# Or via pip
pip install "git+https://github.com/vmlinuzx/llmc.git#egg=llmcwrapper[rag,tui,agent]"

2. Index Your Code

cd /path/to/your/project
llmc-cli repo register .

3. Save Money

# Search without using ANY tokens
llmc-cli search "authentication middleware"

# Launch the visual dashboard
llmc-cli tui

---

✨ Key Features

---

🔍 Deep Dive