AI 图片检测为什么会漏掉没见过的生成方式
编译 CVPR 2023 研究,理解生成模型变化给检测器带来的挑战。
阅读要点
模型在已知数据上的表现,不能直接推导为它对所有新生成模型的识别能力。
检测器可能学到某一类生成模型的特征[1]
这项研究分析了用 GAN 生成图训练的真假分类器。研究发现,一些分类器依赖已知生成方式的特征;遇到训练阶段未接触的生成模型时,生成图可能被归入真实类别。同类生成模型之间表现良好,不等于能跨生成模型家族泛化。
研究提出了更广泛的特征空间[1]
作者探索使用大型预训练视觉语言模型的特征,通过近邻分类与线性探测改善跨模型识别。论文讨论的是其所用数据与实验条件下的结果,并不是所有检测服务的统一能力,也不是本站模型的测试报告。
怎样理解本站的低风险结果
较低的模型风险分值表示当前模型在这份输入上给出的评估,不等于已经证明真实拍摄。遇到明确的 AI 来源声明、局部编辑或未知生成方式时,即使分值较低,也应继续核实来源。重要判断需要结合独立材料,不能依赖单次模型输出。
- 阅读报告中的模型版本与适用限制。
- 检查文件声明与模型判断是否存在差异。
- 保留原文件和检测记录,避免把低风险结论改写成“已证实真实”。
原始资料与编译说明
本文为中文节选编译与本站使用解读,未全文翻译转载。与本站相关的操作建议由云屿来整理,不代表原始资料机构对本站的认证或评价。
- Towards Universal Fake Image Detectors That Generalize Across Generative ModelsUtkarsh Ojha, Yuheng Li, Yong Jae Lee / CVPR 2023发表于 CVPR 2023
配图由云屿来原创绘制,仅作原理或流程示意,不包含用户材料或检测实验数据。