逐日AI微信小程序
14 天用 Agent 搭一条 AI 短剧生产线
第 2 周 · D11🔒 锁定约 6 小时

质检与合规:机器审片、内容安全、生成内容标识与版权边界

用视觉模型给成片自动挑毛病,把内容安全检查放进流程,并把生成内容标识与版权这两条硬线落到导出环节里。

今日目标 0/3

登录后可以勾选并保存进度。

今日目标

  1. 能用视觉模型对生成结果做可判定的质量检查,并把不合格的镜头自动打回重做
  2. 能说清内容安全审核在流水线里该放几道、分别放在哪
  3. 能说清生成内容标识的显式与隐式要求,并在导出环节把它们做出来

昨天的审核台让人能挑毛病了,今天把其中能交给机器的那部分交出去,并且把上线前必须过的两条硬线补上。读完回到页面顶部把这三条勾掉。

小白版讲解

质检与送审:机器能审什么

剧组里有两道流程常被外行混在一起:一道叫质检,看的是「拍砸了没有」;一道叫送审,看的是「能不能播」。前者由制片和剪辑自己做,后者要过外部的规则。它们的判据完全不同——一条画面崩坏的镜头质检不过但送审无所谓,一条画面精美却出现真实明星脸的镜头质检满分但送审直接毙掉。

生成式流水线把这两道都要做,而且都得自动化,因为量太大了。五集两百个镜头,靠人逐帧看是不可能的。

先说质检。机器现在能审的东西,按「本地量得出来」和「必须让模型看图」分成两类,这个分类是今天最重要的一条:

本地量得出来的(客观项):分辨率对不对、音画差多少毫秒、字幕一屏放不放得下、配音响度落没落在合理区间。这四项用 ffprobe 和几行算术就能得出确定的数字,不需要任何模型,也不会有两次跑出不同结果。

必须让模型看图的(主观项):角色一致性、画面崩坏(多手多指、结构错乱、明显糊)。这类判断本地没有可靠的代理指标——有人试图用平均色距离来近似角色一致性,实测下来噪声大到没法用,它测不出脸,只能测出光线换了。

这个分类的价值在于账算得清:客观项的结果是确定的,出问题一定是文件真有毛病;主观项的结果带不确定性,出问题可能是模型看错了。把两类混成一个总分,事故来的时候你分不清该修文件还是该修提示词。

登录并关联后阅读全文

请先登录网页,并在账户页关联微信小程序账号。关联后每天可免费阅读 1 篇;额外文章需在小程序看广告解锁。

小程序码

微信扫码打开「逐日AI」,进入相同课程和章节,选择看广告解锁,完成后刷新本页。

面试题库

  • 怎么把画面质量这种主观判断变成可自动判定的检查?How do you turn a subjective judgment like visual quality into an automatable check?
    国内高频海外高频进阶#quality-check#evaluation#multimodal

    🔒 解锁本章后查看答题要点。

  • 内容安全审核放在生成前还是生成后?为什么两边都要有?Should content safety checks run before generation or after? Why both?
    国内高频海外高频基础#content-safety#moderation#pipeline-design

    🔒 解锁本章后查看答题要点。

  • AI 生成的视频对外发布,合规上你必须做哪几件事?Before publishing AI-generated video, what compliance work is mandatory?
    国内高频深入#compliance#labeling#copyright

    🔒 解锁本章后查看答题要点。

评论