公安机关查处网络谣言丨AI 背后的陷阱：有图未必有真相，警惕谣言 “新伪装”

来源：杭州网警网址：https://mp.weixin.qq.com/s/4fYwsfR-EUO2xQ6e6SsQZA

近年来，AI技术生长迅速，成为全球科技领域的热点。AI已经从纯粹的学术研究生长成为改变人类生活方法的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。

真实案例

2024年8月，一则令人震惊的消息在网络上迅速流传。“南平松溪县遭遇严重大风袭击，造成枣岭街一人死亡”。这则消息图文并茂，甚至另有逼真的视频片段，一时间引得大宗网民关注和转发。但经公安机关核查发明，这竟然是用 AI编造而成的网络谣言视频。

经查，该谣言系宣布者周某为博取关注、获取流量，通过AI软件生成的。周某对图片和视频剪辑拼凑后，制造出“有图片”“有文字”“有声音”的虚假信息，宣布至网络平台上，造成社会不良影响。

公安机关依法对周某给予行政处分。

案例剖析

造谣者利用AI低本钱、高效率、操作简单的特点，通过提供要害字，AI软件便会自动在网络上抓取相关信息，以热点新闻和随机网络音视频为素材，批量化生产网络谣言，投放到各大网络平台上，实现吸引眼球或流量变现的目的。谣言的流传率和影响力成倍增加。

当谣言披上AI的外衣时，不但能自动生成文本，还能生成迫近真实的图片和音视频，让不保存的场景变得栩栩如生，让虚构的人物似乎真实保存一般。这就完全推翻了我们通例认知里的“有图就有真相”，使我们对网络谣言自己难辨其真假。

AI谣言已经成为亟需治理的一道网络新课题，那么在日常生活中，我们怎样擦亮眼睛，识别并抵制AI谣言呢？

好奇之心要适度：面对新奇夸张的信息，先别急着一探究竟，AI就是选择、抓取各人关注话题来制造网络谣言，利用网民好奇心进行流传。

来源不明不轻信：切记不要盲目相信和流传未经证实的信息。在社交媒体或网络上看到可疑信息时，可以先进行核实或者期待官方消息宣布后再做判断。

权威渠道常关注：在上网浏览信息时要坚持对信息来源的警惕性，多订阅官方媒体、政府部分的账号，尽量选择权威、可信赖的媒体或机构作为信息来源。

逻辑剖析不可少：注意网络信息的逻辑性，如果发明一条信息在逻辑上保存明显的漏洞或矛盾，它很可能是经过改动或假造的。

END

?文章来源：杭州网警

联系电话：0571-86937504