11月20日，2024年世界互联网大会乌镇峰会在浙江省桐乡市乌镇开幕，主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”。会议期间，由中国图象图形学学会、蚂蚁集团、云安全联盟（CSA）大中华区联合主办的AI大模型攻防赛圆满落下帷幕，该赛事联合了清华大学、上海交通大学、浙江大学等高校及多家产学研组织共同发起，直面并解决大模型应用中潜藏风险，助力全球AI产业健康可持续发展。
大赛吸引了来自全球18个国家和地区的3200余名技术精英参与，参赛者来自清华大学、北京大学、交通大学、南洋理工大学等290多所国内外高校，以及字节跳动、理想汽车、腾讯、合合信息等上百家科技企业。凭借领先的AI视觉安全技术，合合信息从全球超千支参赛团队中脱颖而出，获得“AI核身－金融场景凭证篡改检测”（简称“AI核身”）赛道冠军。
图说：合合信息获全球AI大模型攻防挑战赛“AI核身-金融场景凭证篡改检测”赛道冠军
近年来，以大模型及AIGC为代表的技术飞跃，给人们的生活带来了便利，也产生了前所未有的安全挑战。在金融、生活等领域，“眼见不为实、耳听不为实”的场景频频发生，伪造身份材料是常见的欺诈手段，给机构及个人造成了重大财产损失。
在“AI核身”赛道中，主办方以金融领域进件审核为背景，考验参赛队伍实现大模型生成内容的防伪检测的能力。金融领域进件审核业务涵盖了信用成长、用户开户、商家入驻等多个场景，用户在办理这些业务时，需提交一定的材料（即凭证）用于证明个人身份、资产收入等信息，其真实性是困扰金融场景自动化审核的一大难题。如何通过创新技术手段提高金融凭证篡改检测精度，是赛道关注的重点。
为解决金融凭证篡改“检测难”的问题，赛道提供了大规模的、贴合实际业务场景的凭证篡改数据集，作为大赛“考卷”。据合合信息技术人员介绍，图像篡改手段“花样”繁多，即便是一张小小的购物票据，也可分为复制粘贴、拼接、擦除、AIGC生成等多种造假形式。受多种伪造方法叠加、新伪造工具涌现等因素影响，篡改图像特征分布复杂，目前的图像篡改检测技术面临泛化性和鲁棒性不足的困境，解决真实业务场景的图像伪造鉴别问题是一项艰巨的挑战。
本次比赛中，合合信息基于自主研发的图像篡改检测系统，针对百万级金融场景的凭证材料，提取图像多模态信息；系统结合低维视觉特征和高阶语义异常进行综合分析，在保持极低误检率的同时，精准识别伪造区域，有效解决了不法分子利用PS、AIGC等工具制作的高度逼真凭证样本中伪造区域难以检测的技术难题。
合合信息篡改检测技术在伪造视觉图像鉴别上有着丰富的实战经验。此前，合合信息推出了图像篡改检测技术，不仅支持检测身份证、护照在内的多种卡证，营业执照，商场小票等各类票据，还能够对截图场景、PDF扫描文件进行审核，适用于金融、保险等多个场景下的文档篡改检测。
图说：合合信息图像篡改检测技术对常见证照篡改痕迹进行定位
此次大赛中众多队伍“各显神通”，再次证明了AI产业的健康发展离不开学界和产业界的共同努力。据悉，在图像内容安全领域，由中国图象图形学学会、中国信息通信研究院、合合信息等公司和多所高校联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准于今年9月正式发布，为企业在开发篡改检测技术时提供明确指导，建立行业联合防范机制。
