3377体育网官网入口

AI天生视频以假乱真！3377体育网官网入口专家对话央视呼吁公众注重甄别，，，，，，，，小心引流新套路

AI天生视频以假乱真！3377体育网官网入口专家对话央视呼吁公众注重甄别，，，，，，，，小心引流新套路。。。。。。。

新闻中心

AI天生视频以假乱真！3377体育网官网入口专家对话央视呼吁公众注重甄别，，，，，，，，小心引流新套路

宣布时间：2025-12-17

浏览次数：2150

分享：

近年来，，，，，，，，天生式人工智能手艺被普遍应用，，，，，，，，在为人们提供便当的同时，，，，，，，，也让造谣者有了可乘之机。。。。。。。近期就有多起AI天生谣言在网络普遍撒播，，，，，，，，误导公众认知，，，，，，，，破损网络情形。。。。。。。

今年11月28日网友上传的一段视频，，，，，，，，一名模特在展出的车辆旁边，，，，，，，，衣着袒露，，，，，，，，且做出不雅行动。。。。。。。而当天车企并没有安排模特为车辆宣传，，，，，，，，车企选择报警。。。。。。。

12月10日，，，，，，，，广州警方转达“车展不雅视频”事务：李某为炫耀小我私家手艺用AI天生虚伪视频，，，，，，，，被行拘10日。。。。。。。

珠峰装电梯、长城贴瓷砖、黄河设玻璃护栏是近几年泛起的典范网络谣言。。。。。。。不过最近，，，，，，，，网络上珠峰装电梯视频依赖AI天生工具，，，，，，，，制作得越发优异，，，，，，，，再次席卷而来。。。。。。。

内容虽然荒唐，，，，，，，，可是由于撒播普遍，，，，，，，，官方紧迫辟谣，，，，，，，，西藏相关部分称，，，，，，，，现在珠峰暂无装置电梯妄想，，，，，，，，网传图文视频为AI天生的虚伪信息。。。。。。。部分营销号使用AI伪造西藏种种打卡景点的虚伪图文视频，，，，，，，，用虚伪话术吸引流量，，，，，，，，提醒网民切勿相信此类谣言。。。。。。。

明确所有AI天生内容都要“亮明身份”

以上这些使用AI天生的谣言视频，，，，，，，，效果都抵达了“以假乱真”的水平，，，，，，，，并且在宣布撒播的历程中，，，，，，，，都没有标注AI天生标识，，，，，，，，其效果就是，，，，，，，，给网友错觉以为这是真的。。。。。。。

事实上，，，，，，，，今年9月1日起，，，，，，，，《人工智能天生合成内容标识步伐》正式施行，，，，，，，，明确所有AI天生的文字、图片、视频等内容都要“亮明身份”，，，，，，，，标注AI天生的标识。。。。。。。通凡人工智能天生的视频或者图片以及文字标识问题，，，，，，，，涉及三个主体：AI天生工具，，，，，，，，信息宣布和宣布信息的平台，，，，，，，，每一个环节都应标注。。。。。。。

怎样“打上”AI天生标识？？？？？？总台记者演示

总台记者也针对AI天生标识的标注举行了演示。。。。。。。

总台央视记者崔世杰：我给AI工具一个提醒，，，，，，，，让他用雪山、湖泊和老虎制作一张图片，，，，，，，，AI给的图片是这样的。。。。。。。这张图就是典范的人工智能天生的图片，，，，，，，，AI标识在那里呢，，，，，，，，在图片的左上角写有AI天生字样，，，，，，，，若是下载到手机中，，，，，，，，标识会到右下角。。。。。。。

信息宣布者怎样在自己宣布的信息中打上AI制作的标识呢？？？？？？以视频号为例，，，，，，，，翻开已经宣布的信息，，，，，，，，在下边找到这个箭头标记，，，，，，，，点开，，，，，，，，找到视频标注的选项点击，，，，，，，，这里有几个选项——内容为AI制作、内容为虚构剧情，，，，，，，，点AI制作。。。。。。。再看视频下方会有一行字，，，，，，，，作者提醒，，，，，，，，内容为AI手艺制作。。。。。。。

一些人为了博眼球将AI天生标识二次加工给去掉，，，，，，，，发到平台上。。。。。。。这时间作为谣言散布的最后守门员，，，，，，，，平台就要去识别，，，，，，，，并且打上标识。。。。。。。刷短视频时一定看到过这样的文字，，，，，，，，在视频下方写着内容可能使用了AI图像编辑手艺，，，，，，，，请注重甄别。。。。。。。这行字就是平台识别判断后加上去的。。。。。。。

平台怎样检测AI天生内容？？？？？？为何有丧家之犬？？？？？？

有了执律例则，，，，，，，，手艺上也会举行标注提醒，，，，，，，，为何网络平台还会泛起此类谣言视频？？？？？？记者走访了视频平台和AI天生研究团队，，，，，，，，来看看为何会有部分AI天生谣言成为丧家之犬，，，，，，，，进而误导网友。。。。。。。

相关数据显示，，，，，，，，短视频平台面临的是天天以亿为单位的网民上传的内容。。。。。。。

某平台生态运营司理陈咏月：现在，，，，，，，，平台对AI天生内容的审核接纳机审和人审相团结的方法，，，，，，，，也在一直强化识别能力。。。。。。。详细来说，，，，，，，，平台通过网络样本，，，，，，，，使用AI能力，，，，，，，，训练了多个对AIGC内容识别的模子，，，，，，，，来识别一条视频内容是否是AI制作的。。。。。。。

那么详细AI识别工具在识别是否为AI天生的作品时，，，，，，，，会注重哪些方面呢。。。。。。。

3377体育网官网入口网络清静专家、中国盘算机学会盘算机清静专委会执行委员潘季明：首先是针对文本的统计特征剖析手艺，，，，，，，，寻找AI写作过于平稳、缺乏人味的“机械指纹”。。。。。。。其次是基于深度学习模子的检测手艺，，，，，，，，通过对特定天生算法的缺陷举行识别，，，，，，，，剖析像素和频域中保存的AI天生伪影，，，，，，，，如纹理重复或特定图案。。。。。。。第三是多模态融合检测手艺，，，，，，，，使用大模子的通用明确能力来捕获跨模态、高级语义上的纷歧致来实现。。。。。。。

不过平台和专家也坦言，，，，，，，，现在的AI工具的识别能力，，，，，，，，还无法做到完全准确，，，，，，，，其主要缘故原由是AI天生工具在一直成熟，，，，，，，，而AI识别工具始终处于追赶状态。。。。。。。这让AI谣言类信息未被检测出来难以阻止。。。。。。。

陈咏月：可是手艺在一直生长，，，，，，，，模子识别的效果并纷歧定完全准确。。。。。。。

潘季明：现在主流的检测手艺主要面临三大难题：一是保存理论瓶颈，，，，，，，，随着AI模子能力一直增强，，，，，，，，其输出的统计特征越来越靠近人类高质量作品，，，，，，，，导致理论上仅靠统计指标已无法区分，，，，，，，，也就是概率漫衍重叠；；；；；；其次是文本只需简朴润色或同义词替换，，，，，，，，图像只需压缩或截图就能破损水印或伪影，，，，，，，，使检测器失效；；；；；；第三是泛化性缺乏，，，，，，，，检测器通常是针对旧模子训练的，，，，，，，，面临新的、未见过的AI天生模子，，，，，，，，检测效果会显著下降，，，，，，，，导致检测始终处于“滞后”状态。。。。。。。

AI提供者、创作者及平台应配合提防AI滥用

专家体现，，，，，，，，提防AI滥用不但是识别工具手艺更新问题，，，，，，，，同时也要加速建设“数字信任生态系统”。。。。。。。

陈咏月：AI滥用的治理是个系统性工程，，，，，，，，网络黑灰产为了利益也会举行手艺升级，，，，，，，，还会有更多的手艺对抗。。。。。。。以是对AI滥用的治理仍然需要AI服务提供者、创作者、内容撒播平台、宽大用户配合起劲。。。。。。。

潘季明：通过深化使用多模态融合剖析、动态对抗训练手艺以及区块链存证追溯等手艺，，，，，，，，团结内容标识规则、行业统一的检测标准，，，，，，，，以及可诠释的检测效果?等治理框架，，，，，，，，配合实现?从被动识别到自动验证，，，，，，，，从局部判别到全局可信?的识别追踪计划。。。。。。。

注：文章泉源于央视新闻客户端

相关阅读

1、换脸换声、版权侵权......3377体育网官网入口专家对话央视记者，，，，，，，，谈天生式AI被滥用该怎样治理

2、“有图”≠“有真相”！3377体育网官网入口专家接受央视采访，，，，，，，，谈怎样区分AI造假图片

3、一键盗声仅需十几秒！3377体育网官网入口专家对话央视记者，，，，，，，，展现AI克隆声音原理并给出提防建议

4、“清朗”行动狠刹AI滥用歪风，，，，，，，，央视对话3377体育网官网入口专家共推手艺“向善而行”！

上一篇 3377体育网官网入口出席第三届电子系统工程大会，，，，，，，，泛论“AI+清静”双轮驱动下的立异实践

下一篇 3377体育网官网入口受邀出席鸿蒙办公工业峰会，，，，，，，，携手启动擎云星河妄想

最新运动

公司声誉最高声誉加冕！3377体育网官网入口荣获2025年中国通讯学会科学手艺奖特等奖

2025-11-27

连忙审查

市场动态 3377体育网官网入口2025→2026：没有最好，，，，，，，，只有更好??

2026-01-04

连忙审查

市场动态《网络清静法》完成修改，，，，，，，，3377体育网官网入口深化“AI+清静”筑牢生长基本

2025-10-29

连忙审查

推荐新闻

3377体育网官网入口防火墙一连25年连任海内市场第一

审查详情

智算一体机标杆企业！3377体育网官网入口入编《2025-2026年中国智算一体机行业研究报告》

审查详情

3377体育网官网入口一连12年获CNNVD一级手艺支持单位称呼

审查详情

3377体育网官网入口与华为正式开启周全合作，，，，，，，，团结宣布“智算+清静”两大新品！

审查详情

3377体育网官网入口一连五届入选CICSVD国家工业信息清静误差库手艺组成员单位

审查详情

3377体育网官网入口智算一体机首批通过工信领域能力认证！

审查详情

推荐产品

解决计划

在线咨询

销售咨询>
手艺支持>
云服务支持>
售前支持>

在线留言

手艺支持>
售前支持>
培训营业>
清静服务>

客户服务热线

400-777-0777
7*24小时服务

联系邮箱

servicing@topsec.com.cn

扫码关注

【网站地图】【sitemap】