英語 |中文

TensorSharpはローカルGGUFモデル向けの.NET 10推論エンジンです。 Windows、macOS、LinuxでCLI、ブラウザチャット、Ollama/OpenAI互換APIを通じて実行するか、ご自身の.NETアプリケーションに埋め込むことができます。管理されたC# CPUカーネルや、モデルによって異なるサポートを用い、ネイティブのCUDA、Metal、Vulkanバックエンドをご利用ください。

現在のソースはテキストと推論、マルチモーダル入力、埋め込み、画像生成・編集、音声付き動画、個人知識コレクション、コードツールを用いたエージェントスキルをカバーしています。TensorSharpはまた、iPhone、iPad、Mac、Windows向けのローカルアプリであるTensorAgentもサポートしています。以下から始めるか、プロジェクトの状態で機能や検証の制限を確認してください。

ハイライト

• ローカルモデル、複数のインターフェース。 CLI使用、ブラウザチャット、Ollama/OpenAI互換APIを管理されたCPUおよびネイティブアクセラレータバックエンドで使用するための1つのエンジン。
• テキストおよびマルチモーダルモデル。 密度の高いモデルおよびMoEのGGUFモデル、推論、画像/音声入力、ドキュメントに関する質問。各ファミリーの機能についてはサポートモデルを参照してください。
• 埋め込みとメディア生成。 EmbeddingGemma 2はテキスト/コードの埋め込みと、任意の画像、音声、映像入力を提供します。

TensorSharp

English | 中文

TensorSharp is a .NET 10 inference engine for local GGUF models. Run it on Windows, macOS or Linux through the CLI, browser chat, or Ollama/OpenAI-compatible APIs, or embed it in your own .NET application. Use managed C# CPU kernels or native CUDA, Metal and Vulkan backends, with support that varies by model.

Current source covers text and reasoning, multimodal input, embeddings, image generation/editing, video with audio, personal knowledge collections, and Agent Skills with code tools. TensorSharp also powers TensorAgent, the local app for iPhone, iPad, Mac and Windows. Start below, or check the project status for capabilities and validation limits.

Highlights

• Local models, several interfaces. One engine for CLI use, browser chat and Ollama/OpenAI-compatible APIs, across managed CPU and native accelerator backends.
• Text and multimodal models. Dense and MoE GGUF models, reasoning, image/audio input and document questions. See Supported models for each family’s capabilities.
• Embeddings and media generation. EmbeddingGemma 2 provides text/code embeddings and optional image, audio and video inputs. Generate and edit images with Qwen-Image-2.1 and Turbo, or generate video with stereo audio using LTX 2.5 Distilled (48 kHz) and MiniMax-H3 (32 kHz).
• Editable video projects. Video Studio in WebUX Chat and TensorAgent shares a persistent multitrack editor, native generation jobs, reviewed agent proposals, undo/redo and local FFmpeg export. Long videos are made as chains of takes, each starting on the previous segment’s last frame; reference photos keep a character in new shots. See the validation matrix for tested models and platform limits.
• Efficient serving. Continuous batching and a paged, Radix prefix-shared KV cache are on by default. Speculative decoding and multi-GPU placement are available for supported models. See Features.