CC

consistentjake/chrome-crawler-mcp

Developer tools

Эта страница переведена автоматически. Технические детали смотрите в оригинале. Открыть оригинал

31 stars 1 forks Качество 59 Тренд 11

Образовательно использовать только инструменты веб-браузера. Вы использовали популярный плейрайт-мкп? Это так. Здесь mcp действует как вы сами, не создавая отдельный экземпляр браузера.

Обзор

Образовательно использовать только инструменты веб-браузера. Вы использовали популярный плейрайт-мкп? Это так. Здесь mcp действует как вы сами, не создавая отдельный экземпляр браузера. У вас есть опыт возвращения веб-агента mcp, и ваш агент быстро выходит из окна контекста. - Здесь мы конденсируем содержимое страницы, не теряя возможности взаимодействовать с оригинальной страницей. Вы беспокоитесь о том, чтобы попросить LLM обработать сотни веб-страниц, которые ничего не любят. Здесь вы можете попросить своего агента умно создавать спайк-парсеры и рабочий процесс, чтобы выполнять ползание без использования LLM. Ваш агент нужен только для оригинального расследования и написания парсера для вас. Вы ненавидите использовать расширения и беспокоитесь об использовании инструментов браузера компаний ИИ? - Здесь вы создаете свой собственный сканер гораздо быстрее и надежнее (да, кодирование вибрации - это то, что вам нужно), и просто запускайте его, не отказываясь от своей конфиденциальности. Традиционный веб-скреб MCPs сталкивается с критической проблемой:.

Обзор (машинный перевод)

Образовательно использовать только инструменты веб-браузера. Почему Chrome-Crawler-mcp? Вы использовали популярный плейрайт-мкп? ** Трудно повторно использовать свой профиль и войти в статус **. Здесь mcp действует как вы сами, не создавая отдельный экземпляр браузера.

У вас есть опыт возврата веб-агента mcp * * огромный контент страницы в llm * *, и у вашего агента быстро заканчивается окно контекста. Здесь мы конденсируем содержимое страницы, не теряя возможности взаимодействовать с оригинальной страницей.

Вы беспокоитесь о том, чтобы попросить llm обработать сотни веб-страниц, которые сжигают ваши токены, как ничто.

Здесь вы можете попросить своего агента умно создавать спайк-парсеры и рабочий процесс, чтобы выполнять ползание без использования LLM. Ваш агент нужен только для оригинального расследования и написания парсера для вас.

Вы ненавидите использовать расширения и беспокоитесь о том, чтобы ** отказаться от конфиденциальности** использования инструментов браузера компаний ИИ. Здесь вы создаете свой собственный сканер намного быстрее и надежнее (да, кодирование вибрации - это то, что вам нужно), и просто запускайте его, не отказываясь от своей конфиденциальности. ###Проблема контекстного взрыва

Традиционные веб-скребы MCP сталкиваются с критической проблемой: они возвращают полный HTML-контент, который быстро исчерпывает окна контекста LLM.

Эта страница переведена автоматически. Технические детали смотрите в оригинале.

README

Показан фрагмент оригинального README. Открыть оригинал.

Chrome-Crawler-mcp

Educational Use Only web browsing tools.

Why Chrome-Crawler-mcp?

Have you used popular playwright-mcp? it is hard to reuse your own profile and log in status.

  • Here, mcp act as yourself without creating seperate browser instance.

Have you experience the web agent mcp return huge page content to llm and you agent quicky run out of context window.

  • Here we condense page content without losing the ability to interacte with original page.

Have you worry about asking llm to process hundreds of webpages which burn your tokens like nothing.

  • Here you can ask your agent to smartly create speical parsers and workflow to run crawling without using LLM. Your agent is only needed for original investigation and writing parser/workflow for you.

Do you hate to use extensions and worry about give up your privacy of using AI companies’ browser tools.

  • Here you build you own crawler in much faster and robust way (yes, vibe coding is what you need), and just run it without giving up your privacy

The Context Explosion Problem

Traditional web scraping MCPs face a critical challenge: they return full HTML content that quickly exhausts LLM context windows. A typical modern webpage can contain 50,000+ tokens of HTML, leaving little room for reasoning, tool calls, or multi-turn conversations. This forces agents to either:

  • Work with severely limited context
  • Repeatedly re-fetch the same content
  • Miss important content due to truncation

Chrome-Crawler-mcp solves this with intelligent HTML sanitization that reduces pages to ~5-10% of their original size while preserving all interactive capabilities.

Our Solution: Smart Sanitization + Element Remapping

1. Token-Efficient HTML Sanitization (src/html_sanitizer.py:14)

  • Removes scripts, styles, SVGs, and non-essential elements
  • Strips redundant attributes and normalizes whitespace
  • Compresses typical 50KB pages to 5-8KB (~10x reduction)
  • Result: Agents can now work with 10+ pages in a single context window

2. Intelligent Element ID Assignment

  • Despite heavy sanitization, agents still need to click buttons and fill forms
  • Solution: We assign unique data-web-agent-id attributes to every interactable element before sanitization
  • These IDs are preserved through the sanitization process and injected back into the actual DOM
  • Agents interact with elements using stable IDs, not fragile XPath or CSS selectors
  • Result: Robust element targeting that survives page updates and dynamic content

3. Multi-Strategy Locator Fallbacks

  • Each element gets XPath, CSS selector, ID, class, and href-based locators
  • If the primary web-agent-id lookup fails, we automatically fall back to alternative strategies
  • Result: 99%+ success rate for element interaction

Delegation Over Reasoning: Special Parsers

The Problem with LLM-Based Parsing: Most web agents ask the LLM to:

  1. Read raw HTML (20,000+ tokens)
Открыть полный README на GitHub

Установка

npx -y @hangwin/mcp-chrome
Новичок в MCP? Начните с руководства на mcpskill.org →

Конфигурация

{ "mcpServers": { "interactive-web-agent": { "command": "python3", "args": [ "/path/to/Chrome-Crawler-mcp/src/interactive_web_agent_mcp.py" ], "env": { "DOWNLOADS_DIR": "/path/to/Chrome-Crawler-mcp/downloads", "PYTHONPATH": "/path/to/Chrome-Crawler-mcp", "DEBUG_MODE": "true", "ENABLE_LOGGING": "true" } }, "chrome-mcp": { "command": "npx", "args": [ "-y", "@hangwin/mcp-chrome" ] } } }