페이지 번호와 섹션 제목에 대한 인용으로 자신의 문서에 대한 질문에 답하는 에이전트 RAG입니다. 기본적으로 Ollama를 통해 열린 모델이 포함된 내장된 LanceDB 데이터베이스에서 실행되므로 서버나 API 키가 필요하지 않습니다. Pydantic AI가 지원하는 어떤 제공업체도 대신 작동하며, 동일한 데이터베이스가 S3, GCS, Azure 또는 LanceDB Cloud에서 존재할 수 있습니다.

LanceDB, Pydantic AI, Docling 기반입니다. 문서: ggozad.github.io/haiku.rag.

특징

• **PDF, 사무용 문서, HTML, 마크다운 및 Docling이 포함된 이미지를 인제스트하세요. 진행 중이거나 docling-serve에서 작성 중입니다. 저장된 DoclingDocument는 제목, 표, 사진 및 페이지 출처를 보관합니다.
• **하이브리드 벡터 및 전체 텍스트 검색, 선택적 재랭킹(교차인코더, Jina, Cohere, Zero Entropy, vLLM, OpenRouter), 섹션 인식 컨텍스트 확장, 멀티모달 임베더를 통한 이미지 검색(vLLM, OpenRouter, VoyageAI, Cohere)을 통한 검색. 여러 명명된 데이터베이스를 동시에 통해.
• RAG 기능으로 답변: 검색, 샌드박스 파이썬으로 문서 집계 및 집계, 페이지 번호와 제목 인용을 수행합니다. 비전 모델은 도표를 받습니다.

haiku.rag

Agentic RAG that answers questions about your own documents with citations to page numbers and section headings. It runs on an embedded LanceDB database with open models through Ollama by default, so no server or API key is needed. Any provider Pydantic AI supports works in their place, and the same database can live on S3, GCS, Azure or LanceDB Cloud.

Built on LanceDB, Pydantic AI and Docling. Documentation: ggozad.github.io/haiku.rag.

Features

• Ingest PDFs, office documents, HTML, Markdown and images with Docling, in-process or on docling-serve. The stored DoclingDocument keeps headings, tables, pictures and page provenance.
• Search with hybrid vector and full-text retrieval, optional reranking (cross-encoders, Jina, Cohere, Zero Entropy, vLLM, OpenRouter), section-aware context expansion, and image search with a multimodal embedder (vLLM, OpenRouter, VoyageAI, Cohere). Across several named databases at once.
• Answer with the RAG capability: it searches, runs sandboxed Python over the documents for counting and aggregation, and cites page numbers and headings. Vision models receive the figures. Optional capabilities compact earlier evidence in long conversations and require every answer to declare its grounding.
• Check a citation by drawing its chunk on the page image, from the CLI, the chat TUI or Python.
• Integrate through the Python API, native Pydantic AI capabilities, plugin hooks that observe document writes and transform searches, an MCP server for Claude Code, Codex and Claude Desktop, and a reference web app.
• Operate with the haiku-ingester service (filesystem, HTTP, S3 and WebDAV sources, a SQLite or Postgres job queue with retries, a control plane and dashboard), tags and rollback, vacuum, and haiku-rag doctor health checks.

Installation

Python 3.12 or newer.

pip install haiku.rag        # Docling, the VoyageAI and Cohere embedders, every reranker, the TUI
pip install haiku.rag-slim   # the core, with extras chosen by you