概览
为了在内容安全和 API 可用性之间取得平衡,Seedance 视频任务采用两层审核机制:- 第一层(提交前):在请求发送到上游之前,我们会先检查 prompt 和输入图片。明显违规的内容,例如露骨色情、血腥暴力等,会被直接拦截。此类请求会全额退款。
- 第二层(提交后):有些任务即使通过了第一层,提交到 Seedance 后仍可能被 ByteDance 的内容审核系统拒绝。出现这种情况时,任务费用会先退款,再按当日违规次数收取一小部分违规附加扣费。
这套规则的目的,是减少大量边界内容反复提交对上游账号健康度的影响,避免整体 API 可用性下降。
第一层:API 侧内容审核
这一层发生在任务正式提交到 Seedance 之前。- 触发条件:prompt 或输入图片被我们的审核系统判定为违规
- 覆盖类别:sexual、violence、harassment、hate、self-harm、illicit
- 处罚结果:无处罚,任务全额退款
- 目的:在消耗上游资源前拦截明显违规内容
submit 接口会返回类似下面的响应:
这种情况下任务会在提交到上游之前被拒绝,因此不会产生提交后的违规附加扣费。
第二层:上游内容审核
这一层发生在任务已经提交到 Seedance 之后。- 触发条件:任务被 ByteDance 的内容审核系统拒绝
- 处罚结果:从退款金额中扣除分级违规附加费用
- 重置规则:每日违规计数在 UTC 午夜重置
| 当日违规次数 | Credit 附加扣费 |
|---|---|
< 20 | 任务费用的 1% |
20 – 100 | 任务费用的 5% |
> 100 | 任务费用的 10% |
< 20 档位,那么会退回 99% 的任务费用。
说明
- 审核服务采用 fail-open 策略。如果审核服务暂时不可用,任务会正常继续提交。
- 内容违规时,任务的
failure_reason为CONTENT_MODERATION。 - 任务日志中会包含违规详情,以及可用时的触发类别信息。
内容审核建议
理解两层审核分别拦截什么内容,可以帮助你减少不必要的拒绝和附加扣费。第一层:我们的过滤器会拦截什么
第一层使用违禁词匹配和 OpenAI Moderation API。它主要拦截常规意义上的不安全内容,例如露骨色情、血腥暴力等。如果你的 prompt 会被普通审核工具判定为违规,通常会在这一层被拦截,并全额退款。第二层:ByteDance 审核中最容易触发的问题
ByteDance 的审核系统明显更严格,也更不透明。根据我们的实际观察,以下几类内容最容易导致拒绝:- 真人形象
当前产品不支持涉及真实人物的内容。在部分场景下,使用 AI 生成的虚构人脸替代真人参考,可能更容易通过审核。 - 版权或品牌相关内容
提示词中包含品牌、IP、商标、电影工作室、游戏名称等内容时,很容易被拒绝。相比直接写品牌名,改成更泛化的描述通常更稳妥。 - 政治相关内容
任何政治敏感内容都大概率会被拒绝。 - 生成过程中的画面审核
你有时可能会看到generation_failed或没有明确错误信息的RUN_ERROR。根据我们的观察,这通常意味着 Seedance 对生成出的画面或输入素材进行了视觉审核,并判定结果违规,即使 prompt 本身已经通过。由于官方从不披露具体原因,这种情况不会产生任何附加扣费。但如果反复出现,通常说明 prompt 或输入素材生成出的画面容易触发审核,需要调整。