跳转到主要内容

概览

为了在内容安全和 API 可用性之间取得平衡,Seedance 视频任务采用两层审核机制:
  • 第一层(提交前):在请求发送到上游之前,我们会先检查 prompt 和输入图片。明显违规的内容,例如露骨色情、血腥暴力等,会被直接拦截。此类请求会全额退款。
  • 第二层(提交后):有些任务即使通过了第一层,提交到 Seedance 后仍可能被 ByteDance 的内容审核系统拒绝。出现这种情况时,任务费用会先退款,再按当日违规次数收取一小部分违规附加扣费。
这套规则的目的,是减少大量边界内容反复提交对上游账号健康度的影响,避免整体 API 可用性下降。

第一层:API 侧内容审核

这一层发生在任务正式提交到 Seedance 之前。
  • 触发条件:prompt 或输入图片被我们的审核系统判定为违规
  • 覆盖类别:sexual、violence、harassment、hate、self-harm、illicit
  • 处罚结果:无处罚,任务全额退款
  • 目的:在消耗上游资源前拦截明显违规内容
如果请求在这一层被拦截,submit 接口会返回类似下面的响应:
{
  "code": 400,
  "msg": "content rejected by moderation",
  "data": {
    "flagged": true,
    "categories": {
      "harassment": false,
      "harassment/threatening": false,
      "sexual": true,
      "hate": false,
      "hate/threatening": false,
      "illicit": false,
      "illicit/violent": false,
      "self-harm/intent": false,
      "self-harm/instructions": false,
      "self-harm": false,
      "sexual/minors": false,
      "violence": false,
      "violence/graphic": false
    }
  }
}
这种情况下任务会在提交到上游之前被拒绝,因此不会产生提交后的违规附加扣费。

第二层:上游内容审核

这一层发生在任务已经提交到 Seedance 之后。
  • 触发条件:任务被 ByteDance 的内容审核系统拒绝
  • 处罚结果:从退款金额中扣除分级违规附加费用
  • 重置规则:每日违规计数在 UTC 午夜重置
当日违规次数Credit 附加扣费
< 20任务费用的 1%
20 – 100任务费用的 5%
> 100任务费用的 10%
例如,如果任务在第二层被拒绝,而你当前处于 < 20 档位,那么会退回 99% 的任务费用。

说明

  • 审核服务采用 fail-open 策略。如果审核服务暂时不可用,任务会正常继续提交。
  • 内容违规时,任务的 failure_reasonCONTENT_MODERATION
  • 任务日志中会包含违规详情,以及可用时的触发类别信息。

内容审核建议

理解两层审核分别拦截什么内容,可以帮助你减少不必要的拒绝和附加扣费。

第一层:我们的过滤器会拦截什么

第一层使用违禁词匹配和 OpenAI Moderation API。它主要拦截常规意义上的不安全内容,例如露骨色情、血腥暴力等。如果你的 prompt 会被普通审核工具判定为违规,通常会在这一层被拦截,并全额退款。

第二层:ByteDance 审核中最容易触发的问题

ByteDance 的审核系统明显更严格,也更不透明。根据我们的实际观察,以下几类内容最容易导致拒绝:
  1. 真人形象
    当前产品不支持涉及真实人物的内容。在部分场景下,使用 AI 生成的虚构人脸替代真人参考,可能更容易通过审核。
  2. 版权或品牌相关内容
    提示词中包含品牌、IP、商标、电影工作室、游戏名称等内容时,很容易被拒绝。相比直接写品牌名,改成更泛化的描述通常更稳妥。
  3. 政治相关内容
    任何政治敏感内容都大概率会被拒绝。
  4. 生成过程中的画面审核
    你有时可能会看到 generation_failed 或没有明确错误信息的 RUN_ERROR。根据我们的观察,这通常意味着 Seedance 对生成出的画面或输入素材进行了视觉审核,并判定结果违规,即使 prompt 本身已经通过。由于官方从不披露具体原因,这种情况不会产生任何附加扣费。但如果反复出现,通常说明 prompt 或输入素材生成出的画面容易触发审核,需要调整。

关于这项策略

这套规则并不完美,但在上游限制存在的前提下,它能帮助我们持续提供 Seedance 能力。我们也会继续优化误判率,并尽量提升整体通过率和使用体验。