人工智能“悄然实现”观点塑造

参考消息网报道 西班牙《趣味》月刊网站3月3日刊登题为《隐形偏见：人工智能如何塑造你的观点》的文章，作者是塞尔希奥·帕拉，内容编译如下：

当下，人们获取信息的渠道早已不再局限于书籍与数字百科全书，大语言模型成为了新的信息来源。这类模型可将海量的历史信息与知识浓缩为流畅且极具说服力的文本段落。它们向用户承诺了精准、中立、即时可得的信息，但一段看似客观的叙述，是否会在我们毫无察觉的情况下，左右我们的既有观点？

为研究这一问题，研究人员近期在美国开展了一项纳入1912名受试者的预注册实验。这项发表于《国家科学院学报》的研究，对比分析了聊天生成预训练转换器ChatGPT-4o生成的历史事件摘要与维基百科摘要的文本，会如何影响读者的社会与政治观点。

研究结果显示，即使事实本身完全未被改动，叙述事实的方式也足以偏移我们的意识形态立场。

该实验将维基百科的摘要与ChatGPT-4o生成的文本进行对照，内容聚焦20世纪美国的两起历史事件——美国钢铁工人罢工和第三世界解放阵线抗议运动。所有版本的内容在事实层面均准确无误，唯一的变量是叙事框架的差异。

研究人员区分了两类偏见，分别是潜在偏见与提示词诱导偏见。前者会在潜移默化中自然形成，源于模型训练过程中可能渗入的意识形态倾向；后者则是刻意为之的，通过指令让系统采用自由派或保守派的叙事视角。研究的核心问题是，这些或隐晦或直白的叙事微调是否会改变读者的认知？

研究发现，阅读人工智能生成的“默认版本”摘要的受试者，相比阅读维基百科文本的受试者，呈现出更偏向自由派的观点。

当文本采用明确的自由派叙事框架时，受试者的立场偏移幅度更大。而保守派叙事框架的文本则会让受试者的立场向更保守的方向偏移。

真正值得关注的，并非这种影响的幅度，而是它的作用机制。全程没有虚假信息，没有直白的宣传，仅靠叙事侧重、细节取舍与措辞选择就实现了观点引导的效果。撬动观点变化的，是叙事形式，而非内容本身。

采用自由派叙事框架的摘要，能影响所有意识形态立场的读者，无论自由派、温和派还是保守派，其立场均向同一方向发生了偏移。与之相反，保守派叙事框架的文本，仅在本身就是保守派的读者群体中，产生了显著的影响。这种不对称偏差表明，大模型在潜在层面，可能与某些叙事框架的契合度更高。

此外，补充分析显示，面对很多事件时，即便没有明确的意识形态指令，ChatGPT-4o也会自发生成带有自由派倾向的摘要。这引出了一个令人不安的假设，即潜在偏见或许很难被彻底中和，而某些叙事框架，甚至需要刻意下达指令才会被模型采用。

需要强调的是，该研究并未在人工智能生成的内容中发现歧视性或极端化内容。这种影响认知的现象要隐蔽得多，体现在责任归属的分配、措辞选择、成因阐释的优先级与后果呈现的侧重度上。概言之，叙事架构会对个体观点的形成逻辑产生显著影响。

这项研究促使我们重新审视当下人们越来越依赖人工智能工具获取信息的现状。如果仅仅阅读一段事实无误的摘要，就足以左右我们的态度，那么这对公共辩论而言，究竟意味着什么？

该研究也承认自身的局限性在于仅分析了两起历史事件与一款特定的人工智能模型，而其他模型可能会因其训练数据与对齐技术的不同，呈现出不一样的规律。但即便如此，研究的核心结论依然成立。算法说服无需借助直白的信息操纵，它可以通过语言本身的细节悄然生效。

在这个信息误导往往与赤裸裸的虚假信息绑定的时代，我们所需要的不仅是分辨信息的真伪，更是要理解对真实事实的筛选与叙事框架搭建，会如何塑造公众舆论。

或许，我们当下面临的挑战，不仅是要求机器输出的信息精准无误，更要培养自身针对叙事细节的批判性媒介素养。

因为归根结底，每一段叙述，无论出自人类还是人工智能，都是基于特定视角，为过往绘制的一幅认知地图。而在某个几乎无法察觉的视角偏差里，或许就藏着潜移默化改变我们的种子。（编译/张微雨）