AI/LLM 红队测试实战笔记
hego.red 是我攻击 AI 系统的个人笔记,整理后分享出来。我翻遍了数百个来源,文章、演讲、课程和研究,把它们汇成一处清晰的资料,省得你到处找。这正是我刚入门时希望有人递给我的那份指南,它会带你从第一次提示词注入,一路做到攻击真实的 LLM 应用。
这里讲的都是在真实靶标上真正奏效的东西,而不只是理论。你会学到 LLM 是怎么被攻破的、所有主流攻击(提示词注入、越狱、间接注入、窃取数据、滥用工具与智能体),以及一套清晰的分步测试方法,遵循 OWASP LLM Top 10 与 MITRE ATLAS。还有可动手的实操靶场(含 PortSwigger 讲解)供你练习。全部从攻击者视角写成,拿来就能用。
我会随着领域变化和自己学到新招法持续更新,所以隔段时间回来看看。从“基础”开始,按顺序过一遍各个标签页,边看边打勾,按 / 搜索。可动手的“实验室”即将上线。
由 hego 制作。