一、LLM 红队开源派
1. Promptfoo
这条线上生态最大的开源项目，两万四千多 Star，红队和评估一体化。YAML 写红队策略，提示注入、越狱、PII 泄露、不安全工具调用这些攻击面内置了一整套策略库，RAG 和 Agent 架构都能测，跑完出结构化报告，CI 集成顺滑。OpenAI 官方都拿它做参考实现，入门第一站，没有争议。
开源 github.com/promptfoo/promptfoo
2. garak
NVIDIA 开源的 LLM 漏洞扫描器，九千多 Star，定位就是「给大模型跑的 Nmap」。探测器(Probe)库覆盖提示注入、数据泄露、越狱、幻觉、不安全生成一大票风险类别，一条命令对模型扫一遍，出漏洞报告。NVIDIA 出品背书加持续更新，红队自动化扫描的主力。
3. PyRIT
微软官方的 Python 风险识别工具包，四千多 Star。它的设计有意思，攻击者 Agent 和目标 Agent 对打，自动编排多轮对抗，攻击成功自动记进数据库做评分，像极了渗透测试里的自动化攻击链。跟 Azure AI Foundry 深度集成，微软系团队的自然选择。
4. DeepTeam
Confident AI 出品，跟大名鼎鼎的 DeepEval 同一门，两千七百多 Star。卖点是一行代码跑一轮红队演练，内置 OWASP LLM Top 10 和常见攻击手法，输出带严重程度的漏洞报告。写法上跟 DeepEval 一脉相承，已经在用 DeepEval 做评测的团队，加它几乎零成本。
开源 github.com/confident-ai/deepteam
5. Giskard
开源的 LLM 测试与安全扫描一体框架，从数据到模型到应用层都能扫，幻觉、有害输出、注入风险打包检测，CI/CD 里自动跑。欧洲团队出品，质量意识和文档都扎实。
官网 giskard.ai
开源 github.com/Giskard-AI/giskard
二、Agent 安全
6. Invariant Labs
Agent 安全线上的核心玩家，去年被 Snyk 收购。三件套分工清楚，Explorer 观察和回放 Agent 的行为轨迹，像给 Agent 挂了个黑匣子，Guardrails 做上下文层面的策略控制，MCP Scan 专扫 MCP 服务器的工具投毒和协议漏洞。做 Agent 安全测试，绕不开它。
7. NeMo Guardrails
NVIDIA 开源的护栏框架，用 Colang 语言定义对话和工具调用的安全边界。严格说它是防御工事，但攻防一体，你的护栏写得对不对，得靠红队工具打一遍才知道，两者搭着用，攻防才算配齐。
开源 github.com/NVIDIA/NeMo-Guardrails
8. 阿里云 Agent 安全中心
国内大厂侧的代表，Agent 资产的统一监控、基线检测、漏洞扫描一体，跟阿里云上的百炼生态打通。国产合规语境下做 Agent 安全，先看它。
三、商业平台
9. Lakera
AI 原生安全公司的代表，靠提示注入防护起家，Lakera Guard 是 GenAI 应用的防火墙，Lakera Red 做自动化红队。瑞士团队，金融客户多，风控话语体系成熟。
官网 lakera.ai
10. HiddenLayer
端到端的 AI 安全平台，主攻模型本身的保护，模型文件加密、威胁检测、MLOps 管道安全都管。区别于应用层的提示注入工具，它守的是模型资产那一层，国防和重工业客户多。
11. CalypsoAI
2026 年 AI 渗透测试榜单的头部，LLM 红队加 API 网关加合规输出三件套，企业要给 AI 应用做过安全评估出报告，它把整个流程产品化了。
12. Mindgard
专注 LLM 和多模态模型的自动化安全测试，能发现影子 LLM 接口，模型资产盘点加漏洞验证一体，学术味重一点，技术底子扎实。
官网 mindgard.ai
四、传统工具的长进
13. Burp AT
传统工具长出 AI 能力的标志性案例。Burp 在 2026.7 版本里加入了 AT，Agent 自主执行 Web 安全测试，自己读 site map 和流量，自己规划测试路径，每个任务的自主度由渗透人员控制，允许执行、需要确认还是禁止，你说了算。人从执行者变成了监督者，这个方向值得所有安全工具人盯紧。
