
a9t9/rpa
Developer toolsこのページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。 原文を見る
AIアシスタント用のMCPサーバーによるブラウザおよびデスクトップの自動化。マクロを記録したりJavaScriptを書いたりして、ウェブサイトの自動化、データ抽出、OCRや画像認識によるデスクトップアプリの制御が可能です。
概要
Ui.Visionはブラウザの自動化、OCR、画像認識を組み合わせ、MCPサーバーを通じてAIエージェントが再利用可能なマクロを作成・編集・実行できるようにします。 拡張機能をインストールする ·AIアシスタントをMCPに接続する ·API参照 ·ユーザーフォーラム - フォームの入力、ウェブデータの抽出、レポートのダウンロード、既存のブラウザセッションでのワークフローの繰り返し。- やり取りの記録と再生、Selenium IDEコマンドの使用、異なる入力データのチェック。- HTMLセレクターが使えない場合、OCRで画面上のテキストを見つけ、画像でコントロールを特定できる。- 視覚認識とマウス&キーボード入力を用いてアプリケーションやリモートデスクトップインターフェースの自動化。デスクトップ自動化には追加のUi.Visionデスクトップコンポーネント(XModules)が必要です。- 組み込みのAIアシスタントや外部MCPクライアントにマクロの作成と実行を依頼し、その結果のスクリプト、ログ、スクリーンショットを確認。 マクロレコーダーとコマンドテーブルを使い、UIVでJavaScriptを書きます。
概要(AI 翻訳)
マクロ、JavaScript、またはAIアシスタントでウェブサイトやデスクトップアプリケーションの自動化を行えます。 Ui.Visionはブラウザの自動化、OCR、画像認識と、AIエージェントがブラウザ上で再利用可能なマクロを作成・編集・実行できるMCPサーバーを組み合わせています。
拡張機能をインストールする ·AIアシスタントをMCPに接続する ·API参照 ·ユーザーフォーラム
何を自動化できる?
- **ブラウザのタスク:**フォームの記入、ウェブデータの抽出、レポートのダウンロード、既存のブラウザセッションでのワークフローの繰り返し。
- **ウェブサイトテスト:操作を記録・再生し、Selenium IDEコマンドを使用し、異なる入力データでチェックを行うこと。
- ビジュアルタスク: OCRで画面上のテキストを見つけ、HTMLセレクターが使えない場合に画像でコントロールを特定できます。
- デスクトップワークフロー: 視覚認識とマウス・キーボード入力を用いてアプリケーションやリモートデスクトップインターフェースを自動化します。デスクトップオートメーションには追加のUi.Visionデスクトップコンポーネント(XModules)が必要です。
- AI支援自動化: 組み込みのAIアシスタントや外部MCPクライアントにマクロの作成・実行を依頼し、その結果得られたスクリプト、ログ、スクリーンショットを検査します。
マクロレコーダーとコマンドテーブルを使い、'uivでJavaScriptを書きます。
このページは AI により自動翻訳されています。技術的な詳細は原文をご確認ください。
README
以下は原文 README の抜粋です。原文を見る。
Ui.Vision - Browser and Desktop Automation
Automate websites and desktop applications with macros, JavaScript, or an AI assistant. Ui.Vision combines browser automation, OCR and image recognition, with an MCP server that lets AI agents create, edit and run reusable macros in your browser.
Install the extension · Connect an AI assistant with MCP · API reference · User forum
What can you automate?
- Browser tasks: fill forms, extract web data, download reports and repeat workflows in your existing browser session.
- Website testing: record and replay interactions, use Selenium IDE commands, and run checks with different input data.
- Visual tasks: find on-screen text with OCR and locate controls by image when HTML selectors are unavailable.
- Desktop workflows: automate applications and remote desktop interfaces using visual recognition and mouse and keyboard input. Desktop automation requires the additional Ui.Vision desktop components (XModules).
- AI-assisted automation: ask the built-in AI assistant or an external MCP client to write and run macros, then inspect the resulting script, logs and screenshots.
Use the macro recorder and command table, write JavaScript with the uiv.* API, or let an AI assistant author the macro. The resulting automation can be saved and run again.
Get started
Install the browser extension; you do not need to build this repository:
Open Ui.Vision and record a browser task, or start with a macro from the extension’s demos. For desktop input and additional native capabilities, see the XModules installation guide.
The browser extension is open source and free for personal and commercial use. See the Ui.Vision website for desktop components and available editions.
Connect an AI assistant with MCP
Ui.Vision provides a Model Context Protocol (MCP) server through the uivision-mcp-bridge package. It connects MCP clients such as Claude Code, Claude Desktop and Cursor to the Ui.Vision browser extension.
An agent can inspect a page, create or edit a macro, run it, and use logs and screenshots to check the result. The automation executes through Ui.Vision in your browser.
Start with the MCP setup guide. The installer command is:
npx uivision-mcp-bridge --setup
インストール
npx uivision-mcp-bridge --setup