Библиотека на Python, которая превращает файлы на S3, GCS и Azure в версионные, типизированные наборы данных, которые можно запросить на складской скорости.

• Вычислительный движок: параллельный Python над файлами, распространяется в Studio. Асинхронный ввод/вывод, восстановление контрольных точек, инкрементальные обновления.
• Dataset DB: Pydantic схемы, версионирование, указатели файлов, автоматическое происхождение. Фильтр субсекунды, присоединение и group_by миллионов типизированных записей локально, сотни миллионов на Studio. Векторный поиск по тем же строкам, без отдельного хранилища.

Опционально, для рабочих процессов агентов:

• База знаний: резюме markdown, полученные из базы данных данных Dataset и обогащённые LLM. Читаемы как людьми, так и LLM.
• Agent Harness: навык, который подключает все три устройства к Claude Code, Cursor, Codex, GitHub Copilot и Pi, чтобы они понимали ваши данные. В Studio агенты получают доступ к одним и тем же наборам данных через MCP.

Байты никогда не покидают хранилище. Каждый запуск вкладывает типизированный набор данных, который читает следующий конвейер (или агент) вместо перевычисления.

1. Установка

Чтобы добавить навык агента (база знаний + генерация кода):

Работает с S3, GCS, Azure и локальными файловыми системами.

2. Быстрый старт: конвейер, управляемый агентами

DataChain: The Context Layer for Unstructured Data

A Python library that turns files in S3, GCS, and Azure into versioned, typed datasets, queryable at warehouse speed.

• Compute Engine: parallel Python over files, distributed on Studio. Async I/O, checkpoint recovery, incremental updates.
• Dataset DB: Pydantic schemas, versioning, file pointers, automatic lineage. Sub-second filter, join, and group_by over millions of typed records locally, hundreds of millions on Studio. Vector search over the same rows, no separate store.

Optional, for agent workflows:

• Knowledge Base: markdown summaries derived from the Dataset DB and enriched by LLM. Readable by humans and LLMs.
• Agent Harness: a skill that plugs all three into Claude Code, Cursor, Codex, GitHub Copilot, and Pi, so they understand your data. On Studio, agents reach the same datasets over MCP.

Bytes never leave your storage. Every run deposits a typed dataset the next pipeline (or agent) reads instead of recomputing.

1. Install

pip install datachain

To add the agent skill (Knowledge Base + code generation):

datachain skill install --target claude     # also: cursor, codex, copilot, pi

Works with S3, GCS, Azure, and local filesystems.

2. Quickstart: agent-driven pipeline

Task: find dogs in S3 similar to a reference image, filtered by breed, mask availability, and image dimensions.

Grab a reference image and run Claude Code (or other agent):

datachain cp --anon s3://dc-readme/fiona.jpg .

claude

Prompt:

Find dogs in s3://dc-readme/oxford-pets-micro/ similar to ./fiona.jpg:
  - Pull breed metadata and mask files from annotations/
  - Exclude images without mask
  - Exclude Cocker Spaniels
  - Only include images wider than 400px

Result:

  ┌──────┬───────────────────────────────────┬────────────────────────────┬──────────┐
  │ Rank │               Image               │           Breed            │ Distance │
  ├──────┼───────────────────────────────────┼────────────────────────────┼──────────┤
  │    1 │ shiba_inu_52.jpg                  │ shiba_inu                  │    0.244 │
  ├──────┼───────────────────────────────────┼────────────────────────────┼──────────┤
  │    2 │ shiba_inu_53.jpg                  │ shiba_inu                  │    0.323 │