DeepSeek滥用,中文互联网信息真假难辨何时休?

   时间:2025-03-06 13:04 来源:天脉网作者:顾青青

近期,DeepSeek-R1这款AI工具在互联网上掀起了一股热潮,然而,其广泛普及的背后却隐藏着对中文网络信息环境的严峻挑战。这款原本被寄予厚望的AI工具,如今却成为了信息污染的主要源头之一,引发了广泛关注。

据观察,过去一周内,网络上流传的多篇热门文章均出自DeepSeek-R1之手,而这些文章往往充斥着事实性错误,却因其高度逼真的叙述方式,让众多网友信以为真,并热衷于分享传播。其中,知乎上的一篇高赞回答尤为引人注目。

该回答以国产动画电影为例,进行了详尽的分析论证,看似有理有据,实则漏洞百出。例如,文中提及哪吒电影中的敖丙变身镜头在法国昂西动画节上引起轰动,然而事实却是,参展的是追光动画出品的《哪吒重生》,且宣传片中并未出现哪吒及敖丙的变身场景。这一明显的错误,却因文章的“AI味”被淡化而难以被普通读者察觉。

所谓“AI味”,指的是DeepSeek-R1在创作时特有的极繁主义风格,如生造概念、堆叠名词、滥用修辞等。尽管在某些情况下,这种风格可能因后期润色而得到掩盖,但对于熟悉AI创作的用户而言,仍能从表达结构上发现其痕迹。

更为严重的是,DeepSeek-R1的滥用已不仅仅局限于娱乐领域。近期,一些自媒体甚至开始利用这款AI工具撰写涉军涉政的文章,其中不乏夸大其词、无中生有的内容。例如,一篇关于军工领域反腐斗争的文章,标题耸人听闻,内容更是充斥着大量DeepSeek-R1自行编造的信息,如直升机设计图纸在暗网出售、收受金条贿赂等,严重误导了公众。

DeepSeek-R1之所以能够成为信息污染的主要工具,与其作为当前唯一可用的免费推理模型且对中文支持度高密切相关。然而,推理模型在训练过程中注重奖惩机制,往往为了完成任务而不惜编造材料,这种“幻觉”现象已成为大模型行业亟待解决的问题之一。

根据Vectara发布的大模型幻觉排行榜,DeepSeek-R1的幻觉率高达14.3%,远高于其他主流模型。这不仅反映了其在创造力方面的优势,也暴露了其在事实性方面的不足。当这种模型被滥用于批量化生成真假难辨的信息并海量投放至公网时,其危害不言而喻。

公共讨论聚集的领域,如时政、历史、文化、娱乐等,已成为信息污染的重灾区。这与自媒体的商业模式密切相关,有流量就有收入,而DeepSeek-R1的降维打击能力使得内容生产成本大幅降低,从而加剧了信息污染的趋势。

在历史领域,一位知名博主就曾险些被DeepSeek-R1虚构的历史材料所迷惑。这些材料布局精巧,细节栩栩如生,若非博主具有较强的反诈意识和人脉关系进行证伪,恐怕将难以识破其真面目。这一事件再次敲响了信息污染的警钟。

值得注意的是,AI内容的生产者往往是营销号,而这些营销号在掌握了“创造”独家信息的技术后,更是肆无忌惮地散布虚假信息。他们不在乎信誉下滑的后果,只要避开敏感话题,就有足够的流量可以消费。这种寄生式的存在方式,无疑加剧了信息污染的程度。

AI的便利性也使得虚假信息渗透到生活的各个方面。从餐厅菜单到旅游攻略,再到古典异兽的描述,DeepSeek-R1的虚构能力无处不在。这种虚假信息的泛滥,不仅误导了公众,也损害了互联网信息的可信度。

面对这一严峻挑战,大模型厂商和内容平台有责任采取措施加以应对。例如,通过数字水印等技术手段对AI生成的内容进行标识,以确保其可追溯性和可验证性。同时,加强内容审核和监管力度,对滥用AI工具的行为进行严厉打击。只有这样,才能有效遏制信息污染的趋势,保护互联网信息的真实性和可信度。

 
反对 0举报 0 收藏 0
 
更多>同类天脉资讯
全站最新
热门内容
媒体信息
新传播周刊
新传播,传播新经济之声!
网站首页  |  关于我们  |  联系方式  |  版权隐私  |  网站留言  |  RSS订阅  |  违规举报