泰伯网3月8日讯 据报道，深度合成技术的影响范围正在不断扩大，深度合成技术滥用所造成的负面风险也在不断加剧，但鉴别难度也在快速提升。
根据瑞莱智慧发布的《深度合成十大趋势报告》，深度合成技术的影响范围正在不断扩大。相比2017年，2021年国内外十家主流音视频平台中的深度合成内容新增量级超过十倍。
同时，深度合成技术滥用所造成的负面风险也在不断加剧，并且产生许多实质性的伤害。例如危害可能涉及社会国家安全、公司以及个人名誉造成的损失。
而在社会层面，中国社会科学院科学技术和社会研究中心段伟文教授表示，由于人类对视觉更加信任，视觉上的伪造要比其他媒体形式的伪造影响更大。如果视频内容的造假持续，公众会对所有的视觉内容真实性产生怀疑，它会大大削弱公众对于媒体的信任，甚至丧失对揭示真相的信心。
目前深度合成的鉴别需求在快速增长，但是鉴别难度也在快速提升。人工智能公司瑞莱智慧CEO田天表示，鉴别难度提升的原因主要有两点，一是深度合成的逼真度正在快速提高，已经超越了人眼鉴别的能力范围，人眼鉴别它的难度越来越大，甚至到没有办法分辨的成都。其次，目前新的深度合成技术具有强对抗性，它天然针对一些检测方法进行对抗攻击，使检测方法失效。
具体来看，瑞莱智慧副总裁唐家渝分析称，深度合成鉴别具体的技术难度主要有三点：伪造的规则不断快速迭代、再编辑导致的传播效果折损可能无法保证检测效果、算法判断需要可解释性。
目前，围绕深度合成技术，国家层面已经逐步建立治理和监管的机制。2022年，网信办发布的《互联网信息服务深度合成管理规定（征求意见稿）》里，旨在促进深度合成技术依法合理有效利用，并且规范发展互联网信息服务深度合成活动，对深度合成的应用治理提出了非常明确的要求规范。
{{item.content}}