一段时间以来,散布虚假信息的短视频频现网络,严重扰乱社会秩序。造谣短视频会造成哪些影响?如何治理?为此,记者采访了中国社会科学院大学新闻传播学院副院长、教授黄楚新。

记者:虚假信息如何通过社会矛盾挑动社会分裂?

黄楚新:虚假信息擅长用“微真实”包装“宏谬误”,虚假信息的编造者通常会选取现实中确实存在的个案,通过剪辑、拼接配以极端化叙述,让观众逐渐将个案认知内化为普遍规律。此外,由于算法推荐系统对冲突性内容的偏好,与分歧、矛盾相关的关键词会获得远高于普通内容的曝光量,驱动“争议—流量—更大争议”的恶性循环。传播学中的框架理论指出,负面框架通过聚焦特定群体的“威胁”属性,诱导受众在短时间内产生情绪化分享行为,进一步加剧谣言的病毒式扩散。情绪传播机制则通过不安、愤怒等负面情绪的传染效应,促使个体在同质群体中不断强化既有偏见,形成信息茧房,加剧群体对立与社会分裂。

记者:造谣者背后大多有MCN机构的操纵,其如何从造谣中获利?

黄楚新:MCN机构参与造谣、辟谣的行径,多源于其奉行的“流量为王”的底层逻辑,通过AI低成本生产内容,批量制造耸动标题并配以夸大其词的表述,吸引浏览量,之后再依托平台分成、广告投放及流量变现机制获利。而到此仅为其“吸金”的第一阶段。在第二阶段,造谣机构会利用用户对“真相”的好奇心,趁着热度发布辟谣或经“事实核查”后的内容,获得二次推送的机会以及持续的流量红利,达成在“造谣—辟谣”的闭环中盈利的目的。而违法主体为预防自身行径暴露,会注册多个自媒体账号,统一交由MCN机构运营,并在暴露时,更换或包装新账号继续输出,以此来规避风险。此外,部分MCN机构还通过“引流”“控评”“有偿删帖”等配套服务,将触手从内容生产端伸到舆情管理端,形成覆盖谣言“前端”到“后端”的灰色产业链。

记者:目前的AI识别技术能否有效应对深度伪造内容?

黄楚新:当前,基于多层卷积神经网络(CNN)和循环神经网络(RNN)的AI识别技术,能一定程度上有效识别音频与视频中的伪造痕迹,如面部细节中微小的失真情况等。但是一旦遇到更高分辨率、更复杂的多模态伪造时,其检测效果将会大打折扣,出现漏判情况。而在检测使用了滤镜、美颜、色彩校正等后期操作的内容或者经过多次压缩、截帧、网络传输的低质量视频时,则可能出现误判真实内容的情况。而此恰恰证明了,投喂给AI的训练数据难以囊括真实世界存在的所有内容,伪造手段的不断进化也帮助其绕过现有的检测模型,与检测手段打起了“游击”。AI识别技术的发展任重道远,未来还需通过对抗训练等综合手段,不断提高技术的精准度与鲁棒性。

记者:是否可以采用“区块链溯源”等方式惩治造谣者?

黄楚新:区块链溯源系统在实际应用过程中,首先要打破供应链上下游各方的数据孤岛,但这一步就存在极大困难,机构与平台多采用私有系统保存原始数据,难以获取完整信息链条。而区块链的数据可追溯与不可篡改特性,和用户隐私保护之间存在天然冲突,公开链上交易和操作记录,将暴露个人或企业的敏感信息,对他人隐私权造成威胁。同时,链上数据的真实性、上链成本与技术复杂性也是对实际应用造成制约的重要因素。其次,不同平台的数据格式、加密算法不统一,导致跨链溯源难以实现,进一步加剧了应用推广的难度。总体而言,在技术、治理以及经济多重因素交织下,区块链溯源在实战中面临系统性挑战。未来,需要在标准化、跨链协同、合规设计和技术优化等方面持续发力。