vmlinuzx/llmc

LMトークンの燃費を抑える。

ローカルRAG、インテリジェントルーティング、コンテナ化されたセキュリティにより、70-95%のコスト削減を実現します。

お問い合わせ

⚡ LLMCとは?

LLMCは、local-first RAG(Retrieval Augmented generation)エンジンとインテリジェントルータで、コードベースで大きなランゲージモデルを使用するコストを大幅に削減します。

コードベース全体をClaudeまたはGPT-4に送信する代わりに、LLMCはコードをローカルにインデックス化し、関連するスニペット(機能、クラス、ドキュメント)を見つけて、唯一の問題を送信します。

すぐにスタート

秒単位で立ち上がって実行します。

##1. インストール

##2. コードをインデックス化

##3. お金を節約

お問い合わせ

✨ 主な特長

| 特集 | 概要 | お問い合わせ |** 一括保存** | 関連する文脈だけを送ることで、70-95%のトークン使用量を削減 | |セキュリティファースト | 信頼されるクライアント(ホストアクセス)と、信頼できないLMのコンテナ分離のためのV0.7.0:「ハイブリッドモード」で新登場。 | |🧠 Polyglot RAG** | Python、TS、JS、Go、Java、テクニカルドキュメントのスマート解析(TreeSitter) |️️ GraphRAG | 関連するファイルを自動的に見つけるために、コード構造(インポート、コール、継承)を理解します。 お問い合わせ

---

⚡ What is LLMC?

LLMC is a local-first RAG (Retrieval Augmented Generation) engine and intelligent router designed to drastically reduce the cost of using Large Language Models with your codebase.

Instead of sending your entire codebase to Claude or GPT-4, LLMC indexes your code locally, finds the exact relevant snippets (functions, classes, docs), and sends only what matters.

graph LR
    A[User Query] --> B(LLMC Router);
    B --> C{Local Index};
    C -->|Search| D[Relevant Context];
    D -->|Trim & Pack| E[Optimized Prompt];
    E --> F[LLM API];
    F --> G[Answer];
    style B fill:#f9f,stroke:#333,stroke-width:2px
    style E fill:#bfb,stroke:#333,stroke-width:2px

🚀 Quick Start

Get up and running in seconds.

1. Install

# One-line install
curl -sSL https://raw.githubusercontent.com/vmlinuzx/llmc/main/install.sh | bash

# Or via pip
pip install "git+https://github.com/vmlinuzx/llmc.git#egg=llmcwrapper[rag,tui,agent]"

2. Index Your Code

cd /path/to/your/project
llmc-cli repo register .

3. Save Money

# Search without using ANY tokens
llmc-cli search "authentication middleware"

# Launch the visual dashboard
llmc-cli tui

---

✨ Key Features

---

🔍 Deep Dive