何若

林黛玉“倒拔垂杨柳”，宋江、吴用、花荣“桃园三结义”……刷手机时，你有看到过如此牛头不对马嘴的内容吗？而这些，统统都是AI的“杰作”。

技术狂飙，“万事问AI”俨然成了新潮。舆论场更不乏“既然有工具，何必自己整理资料、遣词造句”之类的论调。不过，媒体调查发现，AI生成的内容很多时候并不靠谱。或是瞎编乱造，拼凑或虚构一些事实，让其生成的内容显得合理自洽；或是左右摇摆，在判断表态时顺杆儿爬，“说了一堆等于没说”。一来二去，有网友直呼，“为啥我的AI爱胡说？”

说起来，这其实是大模型的原生性技术缺陷。学界频频提及的“AI幻觉”与“机器欺骗”，说的都是这个毛病，即便是全球最先进的模型也不例外。而与人说谎、说错话时容易心虚、打磕巴不同，AI在呈现错误答案时仍看上去“自信满满”，很容易让不熟悉AI或特定领域的人信以为真。至于出现“幻觉”的原因，目前尚无定论，有可能是AI在转录和翻译海量数据时出了岔子，也可能是它们在“数据不足”情况下的“急中生智”。

如果说AI一本正经胡说八道属于“无心之失”，那么，利用AI造谣生事则是更值得警惕的“有心之恶”。以往，为了抓人眼球，造谣者很要费些心思编造拼接，刺激情绪。如今，敲敲键盘就可批量生产不实内容，且能将文字、声音、图像和视频等深度融合，速度快、产量高，蛊惑力强，辨别难度越来越大。很多煞有介事的“小作文”原本还得自己编，现在都可交由AI定制，悬疑惊悚、卖惨苦情，样样信手拈来。

一键生成、坐收流量。在AI助力下，一个人就是一支谣言队伍，一切信息都可能变得亦真亦假。从恶搞名人，到捏造热点，再到“改写”历史，AI在一些人手中迅速“黑化”，沦为哗众取宠的引流工具。更令人震惊的是，不少虚假信息竟能产出百万、千万量级的浏览量。网络造谣的门槛与成本之低，效率与收益之高，破坏与影响之大，让人细思极恐。

“后真相时代”，网络信息生态本就繁乱杂芜、泥沙俱下，在AI“加持”下，信息河流被污染的速度与烈度大有更快、更强之势。

首要一点，网络高质量文本的产出会降低。试问，当AI生成的内容可以轻松“10万+”的时候，我们还会不会有写作热情？作家郑渊洁前段时间直言，自己写不过AI。但他没点明一个事实，AI之所以这么能写，是因为有太多“郑渊洁”为之提供了训练数据。据统计，“现实世界所能提供的用于训练AI模型的数据几乎已被耗尽”，且未来人类对高质量文本的需求量，远超于数据产生的速度。今后，如若一个个写作者开始“躺平”，我们可以拿来对抗“AI污染”的清新“水源”就会越来越少。

另一方面，“AI污染AI”的现象会进一步加剧。有研究就发现，当人类越来越多地通过AI生成内容，这些数据会大量进入在线数据库，被用来训练未来的AI。如果一代又一代地延续下去，最终将导致“模型崩溃”，AI无法再区分事实和虚构。就像用塑料垃圾散布海洋、用二氧化碳攻占大气，长此以往，真假难辨的劣质信息很可能会填满互联网。

AI污染泛滥并非耸人听闻，遵从科技伦理、人本主义、法治理念，不断完善AI相关法规，力求价值引领与技术“纠错”并行，最大程度争取科技向善，已经是颇为紧迫的任务。于个人而言，保持思考、心怀热忱，提升思辨力、创造力，保护的将是每个人的信息水源。