0W

0xmassi/webclaw

开发工具

本页由 AI 翻译,技术细节请以原文为准。 查看原文

2403 stars 236 forks 质量 87 趋势 49AGPL-3.0

快速、本地优先的大型语言模型网页内容提取。抓取、爬取、提取结构化数据——所有这些都来自Rust。CLI、REST API和MCP服务器。

概览

将网站转换为干净的 markdown、JSON 和 LLM 兼容上下文。为 AI 代理和 RAG 流水线提供 CLI、MCP 服务器、REST API 和 SDK。 大多数网页抓取工具会给你的代理带来两种不良输出之一: - 被封锁的页面、登录墙或空的应用壳——包含导航、脚本、样式、广告和重复样板的原始 HTML webclaw.io 是 webclaw 托管的网页提取 API。该仓库包含开源的 CLI、MCP 服务器、解压引擎和自托管服务器。 WebClaw将URL转化为你的工具实际可用的干净内容。 从终端使用,通过MCP接线到Claude/Cursor,调用你的应用中的托管API,或者自托管OSS服务器。 将webclaw与Claude Code、Claude Desktop、Cursor、Windsurf、OpenCode、Codex CLI及其他兼容MCP工具连接的最快方法: 安装程序会检测支持的客户端,并为你配置MCP服务器。

概述(AI 翻译)

英文 |简体中文

网爪

将网站变成干净的 markdown、JSON 和 LLM 兼容的上下文。 用于 AI 代理和 RAG 流水线的 CLI、MCP 服务器、REST API 以及 SDK。


大多数网页抓取工具会给你的代理带来两种不良输出之一:

  • 被屏蔽的页面、登录墙或空的应用壳
  • 充满导航、脚本、样式、广告和重复样板的原始 HTML

webclaw.io 是 webclaw 托管的网页提取 API。该仓库包含开源的 CLI、MCP 服务器、解压引擎和自托管服务器。

WebClaw将URL转化为你的工具实际可用的干净内容。

从终端使用,通过MCP接线到Claude/Cursor,调用你的应用中的托管API,或者自托管OSS服务器。


安装

特工设置

将webclaw与Claude Code、Claude Desktop、Cursor、Windsurf、OpenCode、Codex CLI及其他兼容MCP工具连接的最快方法:

安装程序会检测支持的客户端,并为你配置MCP服务器。

自制

预建二进制

从 GitHub Releases 下载 macOS、Linux 和 Windows 二进制文件。

Windows (x64)

本页由 AI 翻译,技术细节请以原文为准。

README

以下为原文 README 节选,完整内容请查看原文。

English | 简体中文

webclaw

Turn websites into clean markdown, JSON, and LLM-ready context. CLI, MCP server, REST API, and SDKs for AI agents and RAG pipelines.


Most web scraping tools give your agent one of two bad outputs:

  • a blocked page, login wall, or empty app shell
  • raw HTML full of nav, scripts, styling, ads, and duplicated boilerplate

webclaw.io is the hosted web extraction API for webclaw. This repo contains the open-source CLI, MCP server, extraction engine, and self-hostable server.

webclaw turns a URL into clean content your tools can actually use.

webclaw https://example.com --format markdown
# Example Domain

This domain is for use in illustrative examples in documents.

You may use this domain in literature without prior coordination or asking for permission.
在 GitHub 查看完整 README

安装

npx -y @webclaw/mcp
新手?先看 mcpskill.org 教程 →

配置

{ "mcpServers": { "webclaw": { "command": "npx", "args": ["-y", "@webclaw/mcp"] } } }