用AI识别AI伪造图像，中国信通院携手合合信息发布团体标准

Deepfake（深度伪造）技术野蛮生长，引发了一系列负面后果。不法分子利用人工智能技术兴风作浪，让人防不胜防，文档图像领域更是诈骗的重灾区。近日，由中国图象图形学学会、中国信息通信研究院、上海合合信息科技股份有限公司、中国科学技术大学、深圳大学、上海交通大学、华南理工大学、南开大学等高校、公司联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准（简称“《要求》”）正式发布，将助力文档图像处理技术安全、有序发展。

《要求》为行业发展撑起保护伞

科技的发展使得数字化图像逐渐成为重要的信息传递手段，在提供便利的同时也带来了极大的安全隐患。区别于自然图像，文本图像篡改痕迹更加难以察觉，用户只需使用一键式图像编辑工具即可低成本篡改文档、聊天记录、资质证书等图像，人眼或者传统检测系统难以辨认。

作为中国首批文本图像篡改检测领域的团体标准之一，《文本图像篡改检测系统技术要求》围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题，建立了统一的评估框架。《要求》覆盖了市面上常见的图像篡改类型，适用于拍照证照、扫描证照、拍照文档、扫描文档、截图等五大类文本图像篡改检测系统，为企业在开发篡改检测技术时提供了明确指导，提升产品的可靠性和有效性。

随着人工智能、机器学习和大数据技术的发展，文本图像反篡改技术也在不断突破边界，据信通院移动互联网反欺诈研究中心显示，反篡改技术正在朝着智能化和自动化、多模态融合、注重鲁棒性和适应性、增强用户体验、高效处理大规模数据等方向进化，探索复杂环境下如何提高检测的效率和准确性。《要求》一方面推动了前沿技术的规模化应用；另一方面，前瞻性标准一定程度上引领行业技术发展方向，为企业应对未来挑战提供了坚实基础。

AI“照妖镜”识破图像篡改真面目

近年来，证件造假案件屡见不鲜。2024年6月，内蒙古某地破获了一起伪造机动车证件抵押诈骗案件，嫌疑人在汽车租赁公司租车后伪造车辆行驶证，转手抵押获得借款，涉案金额超300余万元，辨别证件真伪亟需“火眼金睛”。

面对篡改图像以假乱真的难题，合合信息基于深度学习的图像篡改检测方法，推出了“PS篡改检测”技术，可检测出多种篡改形式，智能捕捉图像在篡改过程中留下的细微痕迹，并以热力图的形式展示图像区域篡改位置。

除了能检测上述案例中的行驶证页面是否被篡改，PS篡改检测技术还支持多种应用场景，包括身份证、护照在内的多种卡证，营业执照，商场小票等各类票据。目前，合合信息卡证篡改检测技术可集成至企业现有业务中，具备高响应、低误检率等优势。

合合信息图像篡改检测技术对身份证图片篡改痕迹进行定位

图像篡改手段层出不穷，合合信息也在不断优化升级检测技术，据悉，合合信息技术团队通过大规模样本预训练模型，实现了对截图场景的有效篡改检测。这一技术还能够通用推广到PDF扫描文档的场景中，例如，检测房屋租赁合同PDF文件中字段（姓名、房屋地址等）、二维码、背景等内容是否有篡改痕迹，降低房屋租赁风险。

纵观科技发展进程，AI时代已经到来，生成式技术的发展增加了篡改检测的难度，文档图像反篡改领域需要建立起联合防范机制，及时应对各类挑战。后续，合合信息也将积极参与文本图像篡改检测标准首批贯标测评工作，为行业树立标杆，助力打造中国“可信AI”在机器视觉、图像处理领域的体系建设，以技术之道反制技术之险。

通讯员 何禾

校对 盛媛媛

编辑 : 徐晓风