第 2 周 · D11🔒 锁定约 6 小时
质检与合规:机器审片、内容安全、生成内容标识与版权边界
用视觉模型给成片自动挑毛病,把内容安全检查放进流程,并把生成内容标识与版权这两条硬线落到导出环节里。
今日目标
- 能用视觉模型对生成结果做可判定的质量检查,并把不合格的镜头自动打回重做
- 能说清内容安全审核在流水线里该放几道、分别放在哪
- 能说清生成内容标识的显式与隐式要求,并在导出环节把它们做出来
昨天的审核台让人能挑毛病了,今天把其中能交给机器的那部分交出去,并且把上线前必须过的两条硬线补上。读完回到页面顶部把这三条勾掉。
小白版讲解
质检与送审:机器能审什么
剧组里有两道流程常被外行混在一起:一道叫质检,看的是「拍砸了没有」;一道叫送审,看的是「能不能播」。前者由制片和剪辑自己做,后者要过外部的规则。它们的判据完全不同——一条画面崩坏的镜头质检不过但送审无所谓,一条画面精美却出现真实明星脸的镜头质检满分但送审直接毙掉。
生成式流水线把这两道都要做,而且都得自动化,因为量太大了。五集两百个镜头,靠人逐帧看是不可能的。
先说质检。机器现在能审的东西,按「本地量得出来」和「必须让模型看图」分成两类,这个分类是今天最重要的一条:
本地量得出来的(客观项):分辨率对不对、音画差多少毫秒、字幕一屏放不放得下、配音响度落没落在合理区间。这四项用 ffprobe 和几行算术就能得出确定的数字,不需要任何模型,也不会有两次跑出不同结果。
必须让模型看图的(主观项):角色一致性、画面崩坏(多手多指、结构错乱、明显糊)。这类判断本地没有可靠的代理指标——有人试图用平均色距离来近似角色一致性,实测下来噪声大到没法用,它测不出脸,只能测出光线换了。
这个分类的价值在于账算得清:客观项的结果是确定的,出问题一定是文件真有毛病;主观项的结果带不确定性,出问题可能是模型看错了。把两类混成一个总分,事故来的时候你分不清该修文件还是该修提示词。
面试题库
怎么把画面质量这种主观判断变成可自动判定的检查?How do you turn a subjective judgment like visual quality into an automatable check?
国内高频海外高频进阶#quality-check#evaluation#multimodal🔒 解锁本章后查看答题要点。
内容安全审核放在生成前还是生成后?为什么两边都要有?Should content safety checks run before generation or after? Why both?
国内高频海外高频基础#content-safety#moderation#pipeline-design🔒 解锁本章后查看答题要点。
AI 生成的视频对外发布,合规上你必须做哪几件事?Before publishing AI-generated video, what compliance work is mandatory?
国内高频深入#compliance#labeling#copyright🔒 解锁本章后查看答题要点。
