aisecurityconsortium/aigoat

Эта страница переведена автоматически. Технические детали смотрите в оригинале. Открыть оригинал

219 stars 78 forks Качество 63 Тренд 42Apache-2.0

AIGoat — открытая площадка для безопасности ИИ для практического взаимодействия с LLM. Изучите внедрение подсказок, отравление RAG, агентов ИИ, безопасность MCP и OWASP Top 10 для LLM-приложений через практические...

Обзор

(также пишется) — это открытое ИИ-приложение, намеренно уязвимое для практического взаимодействия и обучения. Инженеры по безопасности, сотрудники красной команды, студенты и исследователи атакуют живую большую языковую модель внутри реалистичного магазина электронной коммерции на базе ИИ: инъекции prompt, jailbreak, утечки системных подсказок, отравление RAG, бэкдор цепочки поставок, отравление инструментов MCP, отравление памяти агентов и эксфильтрация данных. AIGoat сопоставляет каждую лабораторию с OWASP Top 10 for LLM Applications 2026, OWASP Top 10 for Agentic Applications 2026 и OWASP MCP Top 10 (2025, бета-версия). Он поставляется , , , capstone, руководство по моделированию угроз и до NVIDIA NeMo Guardrails. Всё работает локально с помощью Ollama, бесплатно и без API-ключей, или в Google Colab, если вы не можете запустить локально. Запускайте его только на собственном компьютере или в частной сессии Colab для обучения. Не выставляйте его в интернет.

Обзор (машинный перевод)

AIGoat (также пишется как AI Goat) — это открытое приложение, намеренно уязвимое для практического обучения LLM red teaming, агентной безопасности ИИ и MCP безопасности. Инженеры по безопасности, участники красной команды, студенты и исследователи атакуют живую большую языковую модель внутри реалистичного интернет-магазина на базе ИИ: prompt injection, jailbreak, утечка системных подсказок, отравление RAG, бэкдор цепочки поставок, отравление инструментов MCP, отравление памяти агентов и эксфильтрация данных.

AIGoat сопоставляет каждую лабораторию с OWASP Top 10 for LLM Applications 2026, OWASP Top 10 for Agentic Applications 2026 и OWASP MCP Top 10 (2025, бета). Он поставляет 46 практических лабораторий, 9 CTF-челленджей по безопасности ИИ, Agentic Kill Chain, руководство по моделированию угроз и 3 прогрессивных уровней защиты до NVIDIA NeMo Guardrails. Всё работает локально с помощью Ollama, бесплатно и без API-ключей, или в Google Colab, если вы не можете запустить локально.

Это приложение намеренно уязвимо. Запускайте его только на собственном компьютере или на частной сессии Colab для обучения. Не выставляйте его в интернет.

**Что нового во второй версии.

Эта страница переведена автоматически. Технические детали смотрите в оригинале.

README

Показан фрагмент оригинального README. Открыть оригинал.

AIGoat (AI Goat): Open Source AI Security Playground for LLM, Agentic AI, and MCP Red Teaming

AIGoat (also written AI Goat) is an open source, deliberately vulnerable AI application for hands-on LLM red teaming, agentic AI security, and MCP security training. Security engineers, red teamers, students, and researchers attack a live large language model inside a realistic AI-powered e-commerce store: prompt injection, jailbreaks, system prompt leakage, RAG poisoning, supply chain backdoors, MCP tool poisoning, agent memory poisoning, and data exfiltration.

AIGoat maps every lab to the OWASP Top 10 for LLM Applications 2026, the OWASP Top 10 for Agentic Applications 2026, and the OWASP MCP Top 10 (2025, beta). It ships 46 hands-on labs, 9 AI security CTF challenges, an Agentic Kill Chain capstone, a threat modeling guide, and 3 progressive defense levels up to NVIDIA NeMo Guardrails. Everything runs locally with Ollama, free and with no API keys, or in Google Colab if you cannot run it locally.

This application is intentionally vulnerable. Run it only on your own machine or a private Colab session, for learning. Do not expose it to the internet.

What’s new in v2.0: agent and MCP attack surfaces, labs grow from 17 to 46, the Agentic Kill Chain workbench, Learn pages, Google Colab support, and a refreshed UI. See RELEASE_NOTES_v2.0.md.