
neywa-labs/mlx-vlm
Developer toolsЭта страница переведена автоматически. Технические детали смотрите в оригинале. Открыть оригинал
MLX-VLM - это пакет для вывода и тонкой настройки моделей языка зрения (VLM) на вашем Mac с использованием MLX.
Обзор
Запустите и настройте мультимодальные модели на Apple Silicon. Текст, изображения, видео и аудио - в любом месте. Построен на MLX. Установка · Документация · Выпуски Построен Neywa Labs, местной компанией ИИ, стоящей за Nativ. Некоторые модели имеют подробную документацию с оперативными форматами, примерами и лучшими практиками: Самый простой способ начать работу - установить пакет mlx-vlm с помощью pip: Пользовательский интерфейс чата Gradio нуждается в дополнительной зависимости, которая не является частью базовой установки: Процитируйте название упаковки так, чтобы раковины, которые расширяют квадратные скобки, такие как zsh, не рассматривали [ui] как шаблон шара. Это РЕПО отправляет пакет агентских навыков по навыкам / для общих рабочих процессов MLX-VLM - использование, преобразование, разработка и поддержка. Навыки загружаются в кодирующий агент (Claude Code, Codex, Gemini), поэтому он следует правильным соглашениям проекта вместо угадывания.
Обзор (машинный перевод)
MLX-VLM
Запустите и настройте мультимодальные модели на Apple Silicon. Текст, изображения, видео и аудио - в любом месте. Построен на MLX.
Установка · Документация · выпуски
macOS · — Apple Silicon
Построен Neywa Labs, местной компанией ИИ, стоящей за Nativ.
Таблица содержимого
- Установка
- Использование Интерфейс командной строки (CLI) Мыслительный бюджет Спекулятивное декодирование
- DFlash, DFlash2 и DSpark
- Джемма 4 MTP
- Джемма 4 EAGLE-3 MiniMax M3 EAGLE-3 Чат UI с Gradio Python Script
- Сервер (FastAPI)
- Непрерывная заготовка Автоматическое кэширование префиксов (APC)
- Квантирование кэша KV 1-битный Affine Inference Квантирование активации (CUDA) Поддержка многообразных чатов Поддерживаемые модели
- Примеры использования
- Типовая документация Особенность Vision Caching TurboQuant KV Кэш Распределенный вывод
- Прекрасная настройка
Специфическая документация
Некоторые модели имеют подробную документацию с оперативными форматами, примерами и лучшими практиками:
Модель, документация [скрыто] [скрыто] [скрыто] [скрыто] [скрыто] | LFM3 / LFM3-VL | Документы | LFM3-Audio - Документы LFM3-Omni | Документы DeepSeek-OCR - Документы DeepSeek-OCR-2 - Документы
Эта страница переведена автоматически. Технические детали смотрите в оригинале.
README
Показан фрагмент оригинального README. Открыть оригинал.
MLX-VLM
Run and fine-tune multimodal models on Apple Silicon. Text, images, video, and audio in — any out. Built on MLX.
Installation · Documentation · Releases
macOS · Apple silicon
Built by Neywa Labs, the local AI company behind Nativ.
Table of Contents
- Installation
- Usage
- 1-bit Affine Inference
- Activation Quantization (CUDA)
- Multi-Image Chat Support
- Model-Specific Documentation
- Vision Feature Caching
- TurboQuant KV Cache
- Distributed Inference
- Fine-tuning
Model-Specific Documentation
Some models have detailed documentation with prompt formats, examples, and best practices:
| Model | Documentation |
|---|
Рекомендуемые инструменты
Попробуйте другой запрос или уберите фильтр.
Установка
npx skillfish add neywa-labs/mlx-vlm