中国互联网络信息中心日前宣布了《天生式人工智能应用生长报告（2025）》。。。。。。。报告显示，，，，，，，，我国天生式人工智能产品用户规模已达5.15亿人。。。。。。。报告同时也提出，，，，，，，，随着天生式人工智能的高速普及，，，，，，，，其带来的换脸换声、版权侵权、学术滥用等问题也越发凸显。。。。。。。这些问题在实践中保存哪些体现？？？？？？怎样治理和应对这些危害挑战？？？？？？

使用AI换脸换声天生虚伪广告案件频发

天生式人工智能的多模态能力，，，，，，，，可以让用户容易给视频中的人物换脸换声，，，，，，，，甚至直接天生完全虚构的视频，，，，，，，，给不法分子带来可乘之机。。。。。。。近期就爆发了多起AI换脸换声，，，，，，，，天生虚伪广告的案件。。。。。。。好比，，，，，，，，有的伪造奥运冠军推荐土鸡蛋，，，，，，，，尚有的伪造医生形象推销保健品，，，，，，，，严重误导公众。。。。。。。

这些换声和换脸的AI深度合成是怎样制作出来的呢？？？？？？面临这些以假乱真的视频，，，，，，，，又该怎样识别？？？？？？

业内人士告诉记者，，，，，，，，随着AI换声换脸手艺越来越成熟，，，，，，，，已经足以抵达以假乱真的田地。。。。。。。区分一段视频或者声音是否是经由深度合成，，，，，，，，最好的步伐照旧通过AI去识别。。。。。。。即用AI去识别AI。。。。。。。

3377体育网官网入口网络清静专家 潘季明：从手艺角度来说，，，，，，，，最快的方法照旧基于AI的方法去举行识别，，，，，，，，如专门的深度伪造判别模子，，，，，，，，用于剖析视频和音频中的不自然的特征，，，，，，，，如检测眨眼频率、面部肌肉运动的心理一致性、音频与唇形同步率、光源一致性等细微的物理或心理破绽。。。。。。。

专家：治理焦点在于周全落实内容标识制度

近两年，，，，，，，，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。。。。。。。对此，，，，，，，，专家体现，，，，，，，，治理的焦点在于周全落实内容标识制度。。。。。。。

北京航空航天大学法学院副教授 赵精武：我国自2025年9月起正式施行了《人工智能天生合成内容标识步伐》，，，，，，，，其中明确要求，，，，，，，，所有AI天生的文字、图片、视频等内容必需添加显式标识以“亮明身份”，，，，，，，，同时勉励添加数字水印等隐式标识。。。。。。。平台企业应当依据《人工智能天生合成内容标识步伐》，，，，，，，，从源头嵌入标识机制，，，，，，，，为AI天生内容附加不可改动的数字水印！！。。。。，，，，，，并确保这些标识在经由剪辑、压缩后仍能被准确识别。。。。。。。

专家体现，，，，，，，，AI深度合成的使用者在通过AI制作视频时，，，，，，，，应该有一条侵权执法界线，，，，，，，，要合规正当使用人工智能深度合成。。。。。。。

北京航空航天大学法学院副教授 赵精武：在明确正当性界线方面，，，，，，，，需要严酷区分AI换脸手艺的正当应用与不法滥用的界线。。。。。。。正当应用通常包括影视制作、教育教学、医疗康复等具有正当价值的场景，，，，，，，，这些应用需遵照执法上划定最小须要原则，，，，，，，，确保使用规模和目的相匹配，，，，，，，，并获取响应授权。。。。。。。而不法滥用则主要体现为未经授权的肖像冒用、虚伪信息撒播、淫秽色情内容制作等场景。。。。。。。

AI大模子训练引发版权问题 矛盾怎么破？？？？？？

再来看人工智能带来的版权侵权问题。。。。。。。早在去年10月，，，，，，，，文学界、音乐界等超万名人士揭晓了一份团结声明，，，，，，，，训斥“未经允许使用创意作品来训练天生式人工智能”的行为。。。。。。。人工智能大模子使用的数据为何会引起版权争端，，，，，，，，又该怎样破局，，，，，，，，来听听专家怎么说。。。。。。。

AI业内人士告诉记者，，，，，，，，现在人工智能大模子训练的数据，，，，，，，，绝大大都来自于网络，，，，，，，，这些数据就包括含有版权的相关数据。。。。。。。

3377体育网官网入口网络清静专家 潘季明：现有的大模子都是基于海量的数据举行训练的，，，，，，，，其泉源包括像互联网数据，，，，，，，，以及图书、论文、行业数据等，，，，，，，，经由数据预处置惩罚，，，，，，，，通过无监视学习、微调、强化学习之后，，，，，，，，便可用于内容天生。。。。。。。然而模子是没有版权意识的，，，，，，，，它不知道哪些内容是涉及版权，，，，，，，，哪些不可随便天生，，，，，，，，除非对现在数据举行一个明确的版权标识。。。。。。。而现在的大模子基本上不管有没有版权，，，，，，，，都会去举行一个数据抓取训练。。。。。。。

针对人工智能大模子涉及的版权问题，，，，，，，，专家体现，，，，，，，，生长人工智能不可以牺牲版权为价钱，，，，，，，，两者协调共生应以尊重知识产权为条件。。。。。。。

北京航空航天大学法学院副教授赵精武先容，，，，，，，，AI开发运营者需建设周全的著作权合规机制，，，，，，，，包括：

? 在训练数据网络阶段举行版权审核，，，，，，，，优先获取授权和使用开放允许的资源；；；；；；；在模子训练历程中保存数据泉源纪录；；；；；；；

? 在内容天生环节嵌入防剽窃检测；；；；；；；

? 在输出阶段需要添加版权标识和水印。。。。。。。

另一方面，，，，，，，，主管部分需要扩充训练数据供应渠道，，，，，，，，化解训练数据不充分与版权的冲突逆境。。。。。。。

学生和研究职员滥用AI写论文抄作业引关注

除了适才说到的问题，，，，，，，，报告中也提到，，，，，，，，学生和研究职员将天生式人工智能用于写论文、抄作业的情形也正引起各界关注。。。。。。。

专家体现，，，，，，，，随着天生式人工智能在学术研究中的普遍应用，，，，，，，，学术诚信系统面临亘古未有的挑战。。。。。。。简朴的榨取步伐已被证实效果不彰，，，，，，，，且难以执行。。。。。。。“堵不如疏”的治理理念正成为全球学术界的共识，，，，，，，，其焦点在于认可AI手艺提升科研效率的起劲价值，，，，，，，，同时通过规范指导确保其应用不损害学术诚信。。。。。。。

北京航空航天大学法学院副教授 赵精武：在教学运动中，，，，，，，，西席应当设置专门环节指导学生准确使用AI工具，，，，，，，，将该类工具从“偷懒”“图省事”的过失定位调解为“提升学习效率”“辅助科研”的准确功效定位，，，，，，，，明确它的辅助定位的属性。。。。。。。同时，，，，，，，，西席还需要设计能够评估学生头脑历程的审核方法，，，，，，，，镌汰对纯文本输入的依赖，，，，，，，，增添历程性评价比重。。。。。。。

文章泉源：央视新闻客户端

相关阅读

1、“有图”≠“有真相”！3377体育网官网入口专家接受央视采访，，，，，，，，谈怎样区分AI造假图片

2、一键盗声仅需十几秒！3377体育网官网入口专家对话央视记者，，，，，，，，展现AI克隆声音原理并给出提防建议

3、AI数据污染可能引发大危害！央视对话3377体育网官网入口专家展现背后原理，，，，，，，，并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，，，，，，，，央视对话3377体育网官网入口专家共推手艺“向善而行”！