neywa-labs/mlx-vlm
Developer tools이 페이지는 AI로 자동 번역되었습니다. 기술적인 세부 사항은 원문을 확인하세요. 원문 보기
MLX-VLM은 MLX를 사용하여 Mac에서 Vision Language Models (VLMs)의 출현 및 미세 조정을위한 패키지입니다.
개요
Apple Silicon에서 실행 및 미세 조정 멀티 모드 모델. 텍스트, 이미지, 비디오, 오디오에서 — any out. MLX에 내장. 임명 · 문서 · 방출 Neywa Labs에 의해 건축해, Nativ의 뒤에 국부적으로 AI 회사. 몇몇 모형에는 신속한 체재, 예 및 제일 연습을 가진 상세한 문서가 있습니다: 시작하는 가장 쉬운 방법은 pip를 사용하여 mlx-vlm 패키지를 설치하는 것입니다. Gradio 채팅 UI는 기본 설치의 일부가 아닌 추가 의존성을 필요로 합니다. zsh와 같은 사각형 브래킷을 확장하는 쉘이 패키지 이름을 따서 glob 패턴으로 [ui]를 대우하지 마십시오. 이 재포는 일반 MLX-VLM 워크플로우에 대한 기술/에 대한 에이전트 스킬 묶음을 발송합니다. 사용, 변환, 개발 및 지원. 기술 코딩 에이전트 (Claude Code, Codex, Gemini)에로드하여 추측 대신 올바른 프로젝트 협약을 따릅니다.
개요(AI 번역)
사이트맵
Apple Silicon에서 실행 및 미세 조정 멀티 모드 모델. 텍스트, 이미지, 비디오, 오디오에서 — any out. MLX에 내장.
임명 · 문서 · 공지사항
macOS · 애플 실리콘
Neywa Labs에 의해 건축해, Nativ의 뒤에 국부적으로 AI 회사.
내용 표
- 설치
- 사용
- 명령행 인터페이스 (CLI)
- 생각 예산
- Speculative 해독
- DFlash, DFlash2 및 DSpark를
- 젬마 4 MTP
- 젬마 4 EAGLE-3
- 소형 M3 EAGLE-3
- Gradio와 채팅 UI
- Python 스크립트
- 서버 (FastAPI)
- 연속 배팅
- 자동 접두사 캐싱 (APC)
- KV 캐시 Quantization
- 1비트 Affine Inference
- 활성화 Quantization (CUDA)
- 멀티 이미지 채팅 지원
- 지원된 모형
- 사용 예제
- Model-Specific 문서
- Vision 특징 캐싱
- TurboQuant KV 캐시
- 분산 Inference
- 미세 조정
모형 특정 문서
몇몇 모형에는 신속한 체재, 예 및 제일 연습을 가진 상세한 문서가 있습니다:
| 모델 | 문서 |
|---|---|
| LFM3 / LFM3-VL | 문서 |
| LFM3-오디오 | 문서 |
| LFM3-Omni | 도큐스 |
| DeepSeek-OCR | 문서 |
| DeepSeek-OCR-2 | 도큐스 |
이 페이지는 AI로 자동 번역되었습니다. 기술적인 세부 사항은 원문을 확인하세요.
README
원문 README의 일부입니다. 원문 보기.
MLX-VLM
Run and fine-tune multimodal models on Apple Silicon. Text, images, video, and audio in — any out. Built on MLX.
Installation · Documentation · Releases
macOS · Apple silicon
Built by Neywa Labs, the local AI company behind Nativ.
Table of Contents
- Installation
- Usage
- 1-bit Affine Inference
- Activation Quantization (CUDA)
- Multi-Image Chat Support
- Model-Specific Documentation
- Vision Feature Caching
- TurboQuant KV Cache
- Distributed Inference
- Fine-tuning
Model-Specific Documentation
Some models have detailed documentation with prompt formats, examples, and best practices:
| Model | Documentation |
|---|
추천 도구
다른 키워드를 입력하거나 필터를 제거해 보세요.
설치
npx skillfish add neywa-labs/mlx-vlm