abuzar-ansarii/pocketstrike

Эта страница переведена автоматически. Технические детали смотрите в оригинале. Открыть оригинал

149 stars 50 forks Качество 59 Тренд 29MIT

PocketStrike — это мобильная рабочая станция, ориентированная на конфиденциальность. Она сочетает в себе нулевую нативную инференцию GGUF на устройстве (ускоренное ARM NEON) │ с облачными LLM на передовой, многоступенчатыми агентами ReAct, моделями...

Обзор

Преодолейте разрыв между LLM Cloud Frontier, локальной инференцией GGUF на устройстве, неограниченным синтезом AI-изображений, протоколом контекста модели (MCP) и саморазвивающейся кросс-сессионной памятью. - ⚡ : Запускайте современные квантизированные SLM локально на телефоне с помощью многопоточного ускорения процессора ARM NEON. Нулевая зависимость от облака, нулевая передача данных с устройства. - 🔥 : Курированные пресеты на 1 тап, включая , , , и . - ⚡ : Метрика пропускной способности живой генерации, динамически отображаемая в правом нижнем углу контейнера отклика ИИ. - 🎨 : Создавайте бесконечное количество изображений на естественном языке (/изображение) с пользовательскими соотношениями сторон (1:1, 16:9, 9:16, 4:3, 3:4), интерактивным просмотром масштабирования/панорамирования и загрузкой галереи в один тап. - 📥 : Скачивайте веса моделей прямо с HuggingFace на хранилище телефона с фоновыми уведомлениями Android и одним нажатием . - 📐 : Пузырьки пользовательских сообщений автоматически уменьшаются до их длины содержимого (например, однословные подсказки плотно помещаются без растяжения).

Обзор (машинный перевод)

Executive Multi-Provider и 100% офлайн-ИИ-рабочая станция для Android и мобильных устройств
Преодоление разрыва между LLM Cloud Frontier, локальным выводом GGUF на устройстве, неограниченным синтезом изображений с помощью ИИ, протоколом контекста модели (MCP) и саморазвивающейся кросс-сессионной память.

📁 Структура хранилища

🌟 Ключевые особенности и основные моменты

⚡ 100% офлайн на устройстве Native GGUF Inference: Запускайте современные квантованные SLM локально на телефоне с помощью многопоточного ускорения процессора ARM NEON. Отсутствие зависимости от облака, отсутствие данных от устройства.
🔥 Выделенный нецензурированный и стандартный SLM-набор: Кураторские пресеты с 1 тапом, включая SmolLM2 135M/360M Heretic, Llama 3.2 1B Abliterated, Qwen 2.5 0.5B, DeepSeek R1 Distill 1.5B и Llama 3.2 3B.
⚡ Скорость генерации токена в реальном времени (⚡ X.X tok/s): Метрика пропускной способности генерации в реальном времени, динамически отображаемая в правом нижнем углу контейнера ответа ИИ.
🎨 Неограниченный движок генерации изображений ИИ: Создание бесконечных изображений на естественном языке (/image ) с пользовательскими соотношениями сторон (1:1, 16:9, 9:16, 4:3, 3:4), интерактивным просмотром масштабирования/панорамирования и загрузкой галереи в один тап.

Эта страница переведена автоматически. Технические детали смотрите в оригинале.

README

Показан фрагмент оригинального README. Открыть оригинал.

📱 PocketStrike

Executive Multi-Provider & 100% Offline AI Workstation for Android & Mobile
Bridge the gap between Cloud Frontier LLMs, Local On-Device GGUF Inference, Unlimited AI Image Synthesis, Model Context Protocol (MCP), and Self-Evolving Cross-Session Memory.

📁 Repository Structure

PocketStrike/
├── android/                    # Native Android configurations, ProGuard rules, & NDK bridges
├── lib/
│   ├── app/                    # Theme, Glass Tokens, & Router configuration
│   ├── core/                   # Drift SQLite Database, DAOs, Models, Notifications & Services
│   │   ├── db/                 # Drift tables & queries
│   │   ├── models/             # Provider-agnostic chat models & metrics
│   │   └── services/           # Android notification & background download service
│   ├── shared/                 # Glassmorphic UI components, code blocks & custom icons
│   └── features/
│       ├── agent/              # ReAct Agent Engine, Steps, & Built-in Tools
│       ├── chat/               # Chat UI shell, input bar, message cards & speed badges
│       ├── conversations/      # History drawer & thread management
│       ├── local_models/       # Native GGUF inference runtime, model downloader & presets
│       ├── mcp/                # MCP protocol client (Streamable HTTP & SSE) & marketplace
│       ├── providers/          # Multi-provider gateways (OpenAI, Claude, Gemini, DeepSeek, Ollama)
│       ├── settings/           # Local models, MCP, Storage, API keys, & Hermes memory UI
│       └── telegram/           # Telegram Bot autonomous background relay service
└── test/                       # Unit and widget test suite

🌟 Key Features & Highlights

⚡ 100% Offline On-Device Native GGUF Inference: Run state-of-the-art quantized SLMs locally on your phone using ARM NEON multi-threaded CPU acceleration. Zero cloud dependency, zero data leaving your device.
🔥 Dedicated Uncensored & Standard SLM Suite: Curated 1-tap presets including SmolLM2 135M/360M Heretic, Llama 3.2 1B Abliterated, Qwen 2.5 0.5B, DeepSeek R1 Distill 1.5B, and Llama 3.2 3B.
⚡ Real-Time Token Generation Speed (⚡ X.X tok/s): Live generation throughput metric displayed dynamically in the bottom-right corner of the AI response container.