AI学会“欺骗”,人类如何接招?

2025-07-10 06:29 来源:科技日报
查看余下全文
(审核:欧云海)
光影之间
光影之间
记者专栏

首页 > 推荐阅读 > 正文

AI学会“欺骗”,人类如何接招?

2025年07月10日 06:29   来源:科技日报   刘霞

人工智能(AI)的迅猛发展正深刻改变着世界,但一些最先进的AI模型却开始表现出令人警惕的行为:它们不仅会精心编织谎言,谋划策略,甚至威胁创造者,以达到自己的目的。

物理学家组织网在上个月一则报道中指出,尽管ChatGPT已问世两年多,AI研究人员仍无法完全理解这些“数字大脑”的运作方式。AI的“策略性欺骗”已成为科学家和政策制定者需要直面的紧迫挑战。如何约束这些越来越聪明却可能失控的AI,已成为关乎技术发展与人类未来的关键议题。

“策略性欺骗”行为频现

随着AI模型日益精进,它们的“心机”也越来越深。研究人员发现,这些“数字大脑”不仅会撒谎,甚至学会了讨价还价、威胁人类——它们的欺骗行为正变得越来越具有策略性。

早在2023年,一项研究就捕捉到GPT-4的一些“不老实”的表现:在模拟股票交易时,它会刻意隐瞒内幕交易的真正动机。香港大学教授西蒙·戈德斯坦指出,这种欺骗行为与新一代“推理型”AI的崛起密切相关。这些模型不再简单应答,而是会像人类一样逐步解决问题。

有测试机构警告,这已超越了典型的AI“幻觉”(指大模型编造看似合理实则虚假的信息)。他们观察到的是精心设计的欺骗策略。

全球知名科技媒体PCMAG网站就曾报道过这样的案例。在近期测试中,Anthropic的“克劳德4”竟以曝光工程师私生活相要挟来抗拒关机指令。美国开放人工智能研究中心(OpenAI)的“o1”模型也曾试图将自身程序秘密迁移到外部服务器,被识破后还矢口否认。而OpenAI号称“最聪明AI”的“o3”模型则直接篡改自动关机程序,公然违抗指令。

研究团队透露,这已非首次发现该模型为达目的不择手段。在先前的人机国际象棋对弈实验中,o3就展现出“棋风诡谲”的特质,是所有测试模型中最擅长施展“盘外招”的选手。

安全研究面临多重困境

业界专家表示,AI技术的发展高歌猛进,但安全研究正面临多重困境,犹如戴着镣铐跳舞。

首先是透明度不足。尽管Anthropic、OpenAI等公司会聘请第三方机构进行系统评估,但研究人员普遍呼吁更高程度的开放。

其次是算力失衡。研究机构和非营利组织拥有的计算资源,与AI巨头相比简直是九牛一毛。这种资源鸿沟严重制约了AI安全独立研究的开展。

再次,现有法律框架完全跟不上AI的发展步伐。例如,欧盟AI立法聚焦人类如何使用AI,却忽视了对AI自身行为的约束。

更令人忧心的是,在行业激烈竞争的推波助澜下,安全问题往往被束之高阁。戈德斯坦教授坦言,“速度至上”的AI模型竞赛模式,严重挤压了安全测试的时间窗口。

多管齐下应对挑战

面对AI系统日益精进的“策略性欺骗”能力,全球科技界正多管齐下寻求破解之道,试图编织一张多维防护网。

从技术角度而言,有专家提出大力发展“可解释性AI”。在构建智能系统时,使其决策过程对用户透明且易于理解。该技术旨在增强用户对AI决策的信任,确保合规性,并支持用户在需要时进行干预。

有专家提出,让市场这双“看不见的手”发挥作用。当AI的“策略性欺骗”行为严重影响用户体验时,市场淘汰机制将倒逼企业自我规范。这种“用脚投票”的调节方式已在部分应用场景显现效果。

戈德斯坦教授建议,应建立一种AI企业损害追责制度,探索让AI开发商对事故或犯罪行为承担法律责任。


(审核:欧云海)

推荐阅读

血凝胶纤维机器人:脑内的药物“速递达人”

大脑颅内肿瘤,尤其是位于脑深部或者临近重要功能脑区的肿瘤,一直是临床治疗中的重要挑战。为验证血凝胶纤维机器人在颅内肿瘤靶向治疗中的可行性与疗效,研究人员在18头小型猪中构建了脑胶质瘤模型,并将其分为三组:空白对照组、假手术组和治疗组。未来,团队将进一步聚焦于血凝胶纤维机器人的结构优化、运动控制精度... [详细]

钙钛矿有机电池光电转换效率纪录刷新

新加坡国立大学科研团队研制出一款新型钙钛矿有机串联太阳能电池,经权威认证,其1平方厘米有效面积内的光电转换效率达到26.4%,创下同类设备的世界纪录。在具体实施中,研究团队先将这种高性能有机子电池与顶层的钙钛矿电池叠加,再通过透明导电氧化物互连层将二者有机结合。这一成果不仅刷新了钙钛矿有机电池的纪录,... [详细]

低温下精准控制量子比特的芯片问世

量子计算机要真正实现大规模实用化,关键在于如何稳定、精准地控制海量量子比特。研究团队研制出一种可在毫开尔文温度条件下控制自旋量子比特的硅芯片。实验结果表明,只要控制系统设计得当,即使量子比特与不到一毫米远的晶体管芯片共存,其量子态几乎不会受到干扰。研究人员认为,该低温电子平台不仅可助力量子计算,... [详细]