google-ai-edge/litert-samples
Developer toolsЭта страница переведена автоматически. Технические детали смотрите в оригинале. Открыть оригинал
LiteRT и LiteRT-LM пробные приложения, рецепты моделей, навыки агента и утилиты.
Обзор
s Экосистема • s Hugging Face Hub • s Quickstart (уровень 1-5) • s Образцы приложений • s Рецепты моделей • s Навыки агента • s Карта Repo Добро пожаловать в — центральный центр разработчиков для * (высокопроизводительный, кросс-платформенный, проверенный на производстве вывод на устройстве, питание приложений Google и 3P по всему миру, после TensorFlow Lite) и * (специализированный уровень оркестровки Google для запуска LLM с LiteRT, разблокировка максимальной производительности и эффективности). Независимо от того, хотите ли вы, или , этот репозиторий переносит вас от первого запуска до развертывания производства. * . : Добавлено полноценное мультимодальное приложение Flutter (samples/litert/flutter/), работающее с голосовым чатом, обнаружением в реальном времени камеры, RAG и навыками агента на Android, iOS, macOS, Linux, Raspberry Pi 5, Jetson Orin и Qualcomm VENTUNO Q - плюс 3-актная витрина (samples/litert/flutter intel npu/), работающая на Gemma 4 через CPU, GPU и NPU.
Обзор (машинный перевод)
Официальные приложения для выборки, сквозные рецепты преобразования моделей, контрольные показатели моделей и навыки агента кодирования ИИ для ML и GenAI на устройстве.
-FFD21E?style=for-the-badge
Экосистема • Hugging Face Hub Quickstart (уровень 1-5) s Образцовые приложения • Типовые рецепты Агентские навыки • Карта Repo
Добро пожаловать в litert-samples — центральный центр разработчиков
LiteRT (высокопроизводительный, кросс-платформенный, проверенный на производстве вывод на устройстве, использование приложений Google и 3P по всему миру, после TensorFlow Lite) и
LiteRT-LM (специализированный уровень оркестровки Google для работы LLM с LiteRT, обеспечивающий максимальную производительность и эффективность).
Если вы хотите ** попробовать модель в своем браузере за 30 секунд **, ** бросить предварительно преобразованную модель из Hugging Face litert-community в мобильное / настольное / веб-приложение ** или ** преобразовать, квантовать, проверять и тестировать новую контрольную точку на CPU, GPU и NPU **, этот репозиторий переносит вас от первого запуска к развертыванию производства.
###Что нового
Эта страница переведена автоматически. Технические детали смотрите в оригинале.
README
Показан фрагмент оригинального README. Открыть оригинал.
Welcome to litert-samples — the central developer hub for
- LiteRT (Google’s high-performance, cross-platform, production-proven on-device inference, powering Google and 3P applications globally, succeeding TensorFlow Lite) and
- LiteRT-LM (Google’s specialized orchestration layer for running LLMs with LiteRT, unlocking maximum performance and efficiency).
Whether you want to try a model in your browser in 30 seconds, drop a pre-converted model from Hugging Face litert-community into a mobile/desktop/web app, or convert, quantize, verify, and benchmark a new checkpoint on CPU, GPU, and NPU, this repository takes you from first run to production deployment.
🔥 What’s New
- 🦋 Cross-Platform Flutter & Intel NPU Showcases: Added a full multimodal Flutter app (
samples/litert/flutter/) running voice chat, live camera detection, RAG, and agent skills across Android, iOS, macOS, Linux, Raspberry Pi 5, Jetson Orin, and Qualcomm VENTUNO Q — plus a 3-act Intel Core Ultra NPU showcase (samples/litert/flutter_intel_npu/) running Gemma 4 across CPU, GPU, and NPU.
Рекомендуемые инструменты
Попробуйте другой запрос или уберите фильтр.
Установка
npx skillfish add google-ai-edge/litert-samples