content-qa-guard

核心功能: 本技能提供/价格调整等能力。

content-qa-guard — 内容合规审核守卫

v25.0合并: content-compliance-checker已合并到本Skill(R75.5 Skill去重)。U19管道合规步骤由check_compliance.py执行,委托risk-detector进行10类风险检测。原content-compliance-checker目录已删除。

使用场景

• 发布前内容合规检测（闲鱼/小红书/抖音/B站/微博等平台）
• 算命类商品文案合规检查（严格度>=4时自动启用算命合规）
• 多租户场景下按租户审核标准执行差异化审核
• Cron定时审核已发布内容的合规性
• 管道U19合规步骤: content-orchestrator管道"合规风控(U19)"步骤,委托risk-detector执行10类风险检测

工作流

1. 接收审核请求

   • 输入: text(待审文本), platform(目标平台), context(上下文,可选)
   • 验证: platform有效(xianyu/xiaohongshu/douyin/bilibili/weibo/default), text非空
   • 异常: 参数无效→返回{success:false, error:"...", code:"INVALID_INPUT"}

2. 一级审核: 敏感词库扫描

   • 调用sensitive-word-mcp check_sensitive_words(text, platform, context)
   • 白名单自动豁免: AI前缀("AI代写"/"AI代做"/"AI代答"), AI展示声明("AI全自动"/"AI辅助"), 发货上下文(context="delivery"时导流词允许)
   • 词库过期检查: >=14天blocked→直接拦截, >=7天warning→继续但标记
   • 来源: 02手册§八8.3

3. 二级审核: AI语义级检测

   • 严格度>=3时: 调用LLM语义分析(9Router优先+SiliconFlow降级)
   • 严格度>=4时: 额外调用check_fortune_words执行算命合规检测
   • 严格度<=2: 跳过LLM语义分析
   • 平台严格度: 5星(小红书/微信公众号) > 4星(抖音/闲鱼/快手/知乎/视频号) > 3星(B站/微博/百家号/头条) > 2星(CSDN)
   • 来源: 02手册§八8.2

4. 三级审核: 平台规则合规检查

   • 对照PLATFORM_RULES检查平台特有规则
   • 闲鱼: 禁止导流/虚假宣传/虚拟商品违禁/金融风险/侵权
   • 小红书: 严格禁止导流和营销/种草套路词/医疗美容/减肥瘦身/代购违规
   • 抖音: 禁止导流/直播间特有违规/短视频引流词/金融风险/低俗
   • 微博: 禁止导流和营销/热搜操控/政治敏感/虚假宣传
   • 来源: 02手册§八8.1

5. 生成审核报告

   • 结果: pass/warning/blocked
   • 风险等级: SAFE/LOW/MEDIUM/HIGH/CRITICAL
   • 修改建议: 调用replace_sensitive_words生成自动替换版本
   • 每日限额: 50条(来源: 01手册§十10.1)

6. 发布后端到端验证(可选)

   • pass/warning时: 调用xianyu-agent-mcp send_message发测试消息
   • chat_id: QA_TEST_CHAT_ID环境变量
   • 失败→降级为warning, 记录data/qa_verification_log/

U19管道合规检查(v25.0合并)

管道步骤"合规风控(U19)"由check_compliance.py执行,委托risk-detector进行10类风险检测:

1. 接收管道步骤参数(content, platform)
   • 执行: python scripts/check_compliance.py --content "" --platform ""
   • 检查点: 参数非空验证
2. 委托risk-detector执行合规检测
   • 执行: 调用risk-detector的check_content action
   • 检查点: risk-detector返回有效结果
3. 返回合规检查结果
   • 输出: JSON {success, data: {risk_level, score, passed, block, details}, error, code}
   • CRITICAL级别返回block=True阻断管道执行
   • risk-detector不可用时降级为基础模式检查(标注downgraded=True)

输入格式

三级审核模式(qa_guard)

{
  "text": "待审核的文案内容",
  "platform": "xianyu",
  "context": "publish"
}

U19管道合规模式(check_compliance)

{
  "content": "待检查的内容文本",
  "platform": "juejin",
  "content_type": "article"
}

输出格式

三级审核模式(qa_guard)

{
  "success": true,
  "data": {
    "result": "pass|warning|blocked",
    "risk_level": "SAFE|LOW|MEDIUM|HIGH|CRITICAL",
    "level1": {"found": [], "count": 0, "library_status": "ok"},
    "level2": {"enabled": true, "llm_findings": []},
    "level3": {"platform_violations": []},
    "suggestion": "修改建议或自动替换版本",
    "daily_count": 12,
    "daily_limit": 50
  },
  "error": null,
  "code": null
}

U19管道合规模式(check_compliance)

{
  "success": true,
  "data": {
    "risk_level": "SAFE",
    "score": 95,
    "passed": true,
    "block": false,
    "details": {
      "R01_sensitive_words": "pass",
      "R02_violation_tactics": "pass",
      "overall_compliance": "pass"
    }
  },
  "error": null,
  "code": null
}

异常处理

示例

示例1: 闲鱼商品文案审核

输入: {"text": "AI代写文案，加微信xxx获取", "platform": "xianyu"} 输出:

{
  "success": true,
  "data": {
    "result": "blocked",
    "risk_level": "HIGH",
    "level1": {"found": ["微信"], "count": 1, "library_status": "ok"},
    "level2": {"enabled": true, "llm_findings": ["导流行为"]},
    "level3": {"platform_violations": ["闲鱼禁止导流"]},
    "suggestion": "AI代写文案，联系客服获取",
    "daily_count": 3,
    "daily_limit": 50
  }
}

示例2: AI商品白名单豁免

输入: {"text": "AI代写文案，专业润色", "platform": "xianyu"} 输出:

{
  "success": true,
  "data": {
    "result": "pass",
    "risk_level": "SAFE",
    "level1": {"found": [], "count": 0, "library_status": "ok"},
    "level2": {"enabled": true, "llm_findings": []},
    "level3": {"platform_violations": []},
    "suggestion": null,
    "daily_count": 4,
    "daily_limit": 50
  }
}

历史记录