neywa-labs/mlx-vlm

MLX-VLM 相机

在苹果硅上运行并微调多模式. 文字、图像、录像和音频都放进去了。 建于MLX上.

安装( M) 文档 & middot; 释放

macOS & middot; 苹果硅

由Neywa Labs建造,

□ 目录

• 安装
• 使用费
• 命令行接口(CLI)
• 思考预算
• 分光解码
• DFlash, DFlash2, 和DSpark (英语).
• Gemma 4 中期计划
• Gemma 4 EAGLE-3 (英语).
• 迷你麦克斯M3 EAGLE-3
• 和格拉迪奥聊天
• Python 脚本
• 服务器(快速API)
• 连续接击
• 自动前缀缓存(APC)
• KV缓存量化
• 1- 位 Affine 推论
• 活动量化
• 多图像聊天支持
• 支持的模式
• 使用实例
• 模型特定文档
• 视觉地物
• TurboQuant KV缓存
• 分布式推论
• 微调

□ 模型特定文档

一些模型有详细文件,有及时的格式、实例和最佳做法:

示范文件 |-|-|-. LFM3 / LFM3-VL 文档 LFM3 - Audio – Docs – 翻译 : LFM3-Omni 文档

• 深度搜索-OCR * Docs * {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}深呼吸 - OCR - 2 {\fn黑体\fs22\bord1\shad0\3aHBE\4aH00\fscx67\fscy66\2cHFFFFFF\3cH808080}我们来找找

MLX-VLM

Run and fine-tune multimodal models on Apple Silicon. Text, images, video, and audio in — any out. Built on MLX.

Installation · Documentation · Releases

macOS · Apple silicon

Built by Neywa Labs, the local AI company behind Nativ.

Table of Contents

• Installation
• Usage
  • Command Line Interface (CLI)
    • Thinking Budget
  • Speculative Decoding
    • DFlash, DFlash2, and DSpark
    • Gemma 4 MTP
    • Gemma 4 EAGLE-3
    • MiniMax M3 EAGLE-3
  • Chat UI with Gradio
  • Python Script
  • Server (FastAPI)
    • Continuous Batching
    • Automatic Prefix Caching (APC)
    • KV Cache Quantization
• 1-bit Affine Inference
• Activation Quantization (CUDA)
• Multi-Image Chat Support
  • Supported Models
  • Usage Examples
• Model-Specific Documentation
• Vision Feature Caching
• TurboQuant KV Cache
• Distributed Inference
• Fine-tuning

Model-Specific Documentation

Some models have detailed documentation with prompt formats, examples, and best practices: