【欧洲时报来米编译】据《回声报》报道，人工智能（AI）生成的内容正在充斥整个网络，比如以Meta的图像和视频工具Muse制作的“作品”。这一现象不仅加剧了诈骗行为，也引发了用户的厌倦情绪，而各大平台在遏制这种泛滥趋势时显得力不从心。
随着AI的崛起，海量的不真实内容如海啸般席卷互联网。这些在网络工具辅助下生成的、有时甚至极为劣质的“AI垃圾”（AI slop）正在各个平台、尤其是社交网络上迅速蔓延。
而各大社交平台本身也在推动这一趋势的“常态化”。以Meta为例，该公司推出了全新的AI图像与视频生成工具Muse。用户可以直接通过Meta AI或是通过Instagram和WhatsApp使用该工具，只需点击几下，就能基于自己或他人公开发布的内容，定制出专属的视听内容。
诈骗行为的“工业化”
Muse只是众多AI工具中的一款，但它的出现进一步加速了此类内容的“大规模工业化”。尽管在现阶段还很难精确统计网络内容中AI生成的真实占比，但根据Kapwing的一项研究，在YouTube算法推荐给新用户的视频中，有超过20%属于“AI垃圾”。
而在平台之外，Graphite.io的另一项研究显示，由AI撰写的文章目前已占到网络发布内容总量的一半。
这种“内容雪崩”带来了多重风险。首先是诈骗风气日盛：随着深度伪造技术在社交网络上泛滥，利用真实身份进行冒用和诈骗的案例迎来了爆发式增长。
根据Surfshark的数据，这类诈骗带来的损失在2025年达到了11亿美元，同比翻了三倍。而Meta旗下的社交网络（如Facebook和WhatsApp）也因对此类诈骗防护漏洞较多而直接受到了批评。
“利用AI生成内容已变得极其简单且廉价。”Surfshark研究团队负责人科斯塔（Luis Costa）表示，“过去，根据所追求质量不同，生成一分钟深度伪造内容可能要花费300到20000美元。但如今，借助现有各类AI工具，这一成本已大幅降至区区几美元，客观上推动了此类行为的工业化。”
20%法国年轻人曾伪造文件
法国AI初创公司Shift Technology首席执行官贾维什（Jeremy Jawish）呼吁重建整个信任体系。
一张挡风玻璃裂纹的照片、一张iPhone收据或一份简单的书面声明：过去，这些都被视为有效证据。而如今，AI可以轻松生成这些证据。
一项研究显示，10.8%的法国人承认曾使用伪造文件，成功率高达73%，令人担忧。年轻一代受到的影响尤为严重：超过20%的35岁以下人群承认曾为银行交易伪造文件。
虽然文件欺诈并非起源于人工智能，但改变的是伪造的经济模式：如今， 42.5%的欺诈案件都出自这项技术。在法国，文件造假每年给法国经济造成超过650亿欧元的损失，相当于国内生产总值的2.5%。
内容重复且缺乏创意
除了诈骗之外，网络“失真”也开始给平台用户带来沉重负担。ReverseLookup的一项调查显示，64%的受访者认为过去两年间的在线内容变得越来越重复。近半数受访者曾因内容重复或缺乏价值而屏蔽过某些账号，还有42%的人表示他们会直接无视那些被判定为AI生成的内容。
Bloom机构的创始人布雷顿（Bruno Breton）警告说：“我们预测，未来几个月内将有超过3000亿张AI生成图像问世，这不仅会损害社交网络，还将导致整个网络更加‘虚构化’。这种现象在某些社交网络（如X）上已经显现，那里的讨论空间正日益被不真实的内容所淹泛。”
意识到这一风险后，各大平台开始尝试遏制这一趋势，每年清理数以十亿计的违规账号。然而，来自各大品牌方的“第二波更大浪潮”已崭露头角。由于在聊天机器人中的搜索引擎优化已成为各家竞争的核心焦点，不少品牌开始在Reddit等容易被抓取数据的平台上，充斥大量关于自家产品的虚假内容。
“互联网死亡理论”
面对这种算法“游击战”，Reddit正试图利用AI工具进行严厉打击，据称每天能清除25000条虚假帖子，自今年年初以来已将用户接触“垃圾内容”的概率降低了20%。尽管Google和ChatGPT已经与Reddit签署了合作协议以获取“人类”数据，但这场不真实内容的雪崩可能会打破这种信任。
最重要的是，这一现象继续为许多网友提供了谈资，他们认为这是“互联网死亡理论”（即人类不再是互联网的主导者，而仅仅是被动旁观者）的又一例证。在这一链条的末端，甚至引发了人们对“真正断网”的假设：在ReverseLookup的调查中，61%的受访者表示，他们计划在未来一年里将更多的时间投入到本地社区，甚至直接选择离线生活。
（编辑：法雨）
声明：转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与本网联系，我们将及时更正、删除，谢谢
法国女宇航员首次完成太空行走