AI 安全与红队测试实操手册——覆盖 AI 系统六大攻击面（提示注入、越权与工具滥用、数据与隐私泄露、幻觉与质量缺陷、供应链与模型投毒、拒绝服务），OWASP LLM Top 10 风险映射，完整红队测试流程（目标定义/攻击面建模/用例设计/执行/报告/修复复测），直接与间接提示注入测试用例库、Agent 越权与沙箱逃逸测试、训练数据泄露与记忆攻击测试、幻觉检测基准，附漏洞分级与修复建议、零依赖本地工具一键生成风险清单、测试用例与报告模板。面向 AI 工程、安全测试、信息安全负责人，与 AI 治理/智能体治理形成"制度+技术"闭环。
编程
redteam-selfattack
试用红队自我攻防：给定目标策略，从已知攻击模板（提示注入/jailbreak角色扮演/编码混淆/ OOD/歧义）生成对抗探针，每条带红队 ground-truth，跑目标策略统计翻转率与盲区，输出 鲁棒分与盲区清单。让智能体主动生成对抗样本、自己测自己、自己暴露盲区——一线大模型 不具备的元治理能力，是"可靠地超越"的安全收口层。
它能做什么
红队自我攻防：给定目标策略，从已知攻击模板（提示注入/jailbreak角色扮演/编码混淆/ OOD/歧义）生成对抗探针，每条带红队 ground-truth，跑目标策略统计翻转率与盲区，输出 鲁棒分与盲区清单。让智能体主动生成对抗样本、自己测自己、自己暴露盲区——一线大模型 不具备的元治理能力，是"可靠地超越"的安全收口层。
技能文档
redteam-selfattack（红队自我攻防）
「自主能力治理与生态(下一阶梯)」域 Top2（权重 1.46）：让全栈超级智能体自己红队自己， 主动找盲区而非等被攻破。
何时使用
- 发布/接入新策略（安全护栏、内容过滤、决策门）前做鲁棒性门禁。
- 元进化引擎定期对自己已发布的技能跑红队，量化"是否被绕过"。
- 对比加固前后策略，用鲁棒分证明改进。
核心 API（scripts/redteam_selfattack.py）
generate_probes(payloads)：payloads=[(文本, 应拒?)] → 带攻击标注的探针集。evaluate(policy, probes)→{robustness, flips, over_refusals, blind_spots}。robustness = 1 - 翻转率；flips=应拒却被放（盲区）；over_refusals=可放却被拒。
ATTACK_TEMPLATES：可扩展的攻击模板字典（输入载荷→对抗变体）。python redteam_selfattack.py --selftest：内置断言（朴素 vs 加固策略）。
设计要点
- 主动而非被动：攻击样本由模板自动生成，不依赖外部对抗者。
- 可量化：鲁棒分 + 盲区清单，可直接做回归（每次改策略后重跑，分数不得下降）。
- 零依赖：纯标准库。
与元进化闭环的关系
作为 meta-evolver 的"安全红队"：对蒸馏出的 meta-* 学生或安全护栏技能跑红队，
鲁棒分下滑即触发 repair 缺口；盲区清单转为对抗验证用例沉淀进蒸馏质量对抗验证。
自进化学习系统
本技能接入 meta-evolver 自进化闭环：每次红队经 learner 记录翻转模式，跨会话沉淀 "哪些攻击模板最常绕过本生态策略"等经验，越红越准。
已知限制
- 攻击模板为已知模式，对未知零日越狱不保证覆盖（需配合 native-autonomous-discovery 探索新攻击）。
- ground-truth 由红队标注，标注错误会污染鲁棒分。
相关技能
对抗鲁棒性：主动对文本决策系统施加字符/词级对抗扰动，量化并加固其抗欺骗能力。 提供扰动生成(形近字/插空格/重复字符/同形 Unicode)、鲁棒性评分(1-翻转率)与 "先评估后加固"的闭环，纯标准库可本地实跑，是"可靠地超越一线大模型"的防骗守门层。
Automated adversarial testing and red teaming for AI models
1 次安装
对每个非平凡决策进行对抗性审查，防止Agent过度自信导致的错误。 当正确性比速度更重要时、在陌生领域工作时、高风险操作时触发。 触发场景：架构决策、非平凡代码提交、声称"这是安全的/可扩展的/符合规格的"、 不确定领域的工作、生产环境部署、数据迁移、不可逆操作。
3 次安装
For authorized security review of code, auth, or APIs you control, model the attacker, map the attack surface, and report only findings with a reproducible exploit path and verified mitigation.
1 次安装
Simulate the acquirer's diligence team hunting for reasons to cut your price — their internal red-flags memo with a price-chip estimate per finding. Use when...
1 次安装