外媒：人工智能企业为何争抢哲学家？

参考消息网报道 英国《经济学人》周刊网站6月24日发表文章，题为《为什么大型人工智能实验室在招聘如此多的哲学家？》，文章内容如下：

十年前，随着人工智能（AI）革命加速发展，人文艺术专业的学生被告知，他们应该“学习编程”。这或许是个糟糕的建议。如今，程序员或许可以考虑学习哲学。

今年早些时候，纽约联邦储备银行公布的数据显示，美国哲学专业的毕业生比计算机科学专业的毕业生更容易找到工作。许多哲学毕业生都被人工智能公司抢走了。耶鲁大学的哲学家卢西亚诺·弗洛里迪说，学生还没毕业就收到工作录用通知。学术界的人才也在流失。弗洛里迪博士把哲学系人才流失的规模形容为“大出血”。

哲学可以为人工智能研究人员提供的某些教诲源远流长。苏格拉底式辩论法——按照古希腊哲学家柏拉图的描述——运用假装无知和循序渐进的提问来澄清意义、发现矛盾并揭示深层影响。当前的很多人工智能系统都倾向于阿谀奉承。路德维希-马克西米利安-慕尼黑大学的哲学与人工智能专家约尔格·诺勒说，用苏格拉底式辩论法训练的模型不太热衷于讨好他人，而更愿意追求真理。

此外，还有“苏格拉底式无知”的概念。在柏拉图的《申辩篇》中，苏格拉底声称他的智慧主要在于意识到自己所知甚少。把这种谦逊植入模型有助于限制过度自信，而过度自信正是诺勒博士所说的“人工智能的不成熟”这一常见缺陷。谷歌“深层思维”公司是设在伦敦的人工智能实验室，该公司的资深哲学家亚松·加布里埃尔认为，整个行业幻觉现象的普遍减少正是得益于这类努力。他说，从更广泛的角度看，哲学课程是一种“强大的机制”，可以提升被称为“长链推理过程”的人工智能思维链。

哲学训练还能以更具体的方式影响模型的观点。特拉华大学技术哲学家托马斯·鲍尔斯指出，如果给人工智能法律助手输入约翰·洛克的著作，它就会倾向于把健全的财产权视为社会的基石。如果你不喜欢这些原则，模型开发者还有其他选择。美国计算机巨头国际商用机器公司（IBM）推出的“Granite”系列模型就配备调节滑块，让企业客户能够更好地使输出结果与自身的企业理念相契合。IBM人工智能伦理部门负责人弗朗西斯卡·罗西说，这些调节滑块可以让用户选择如何在各种哲学权衡之间取得平衡，例如个人能动性与社会和谐之间的平衡。

哲学也能帮助保障安全。研究人员记录了人工智能模型中各种各样令人担忧的行为，包括试图逃避监管，甚至勒索用户。模型构建者试图阻止此类不当行为的一种方法是所谓的“人工智能宪政主义”。这指的是围绕一套规则和原则构建模型，这些规则和原则源自具有法律或道德权威的哲学著作。

总部设在旧金山的人工智能实验室Anthropic就是这一理念的倡导者。其“克劳德”模型的“宪法”融合来自各种来源的材料，例如康德的著作、苹果公司的服务条款以及《世界人权宣言》。其最新版本由Anthropic的资深哲学家阿曼达·阿斯克尔领导，于1月21日发布。Anthropic的一些员工把这份78页的宪法戏称为“克劳德”模型的“灵魂文件”。

然而，最大的问题是，首先应该在这些宪法中加入哪些规则。哲学家主要关注两大伦理框架。一是道义论。这套伦理得到康德等人的推崇，它制定严格的规则，禁止诸如撒谎、胁迫以及把人视为手段而非目的等行为，即便这些行为是为更大的利益。Anthropic的宪法就融入许多道义论的约束。鲍尔斯博士说，这些约束可以使人工智能的行为更加一致，对于在家庭和公共场所部署机器人来说是一大优势。

秉持道义论世界观的模型还有其他益处。其中之一是更高的诚实度，这是“克劳德”模型被广泛提及的一个特点。牛津大学的哲学家尼克·博斯特伦指出，更诚实的模型更不容易误导用户。另一家硅谷实验室因弗莱辛人工智能公司也对其旨在提供情感支持的聊天机器人Pi施加道义论的约束。其负责人肖恩·怀特说，Pi能够很好地识别有伤害自己或他人风险的用户。弗洛里迪博士说，道义论的宪法也有助于让人工智能遵守法律。

人工智能哲学家感兴趣的另一种伦理方法称为后果主义。它权衡成本和收益来决定行动方案。更符合后果主义的模型包括开放人工智能研究中心（OpenAI）的聊天生成预训练转换器（ChatGPT）和谷歌的“双子座”。谷歌的人工智能模型旨在产生“可能的总体收益，且该收益要显著大于可预见的风险”，这是典型的后果主义目标。

后果主义算法在自动驾驶汽车软件中也至关重要：如果事故不可避免，就必须决定以最不悲惨的方式发生碰撞。自动驾驶汽车制造商“出行新方式”公司的高级工程师克里斯·格迪斯说，目前的趋势是让驾驶软件更倾向后果主义。后果主义也是人工智能武器系统的核心。美国联合人工智能中心（负责为美国武装部队研究人工智能）前负责人杰克·沙纳汉说，必须权衡军事目标与可能造成的平民伤亡。

棘手的问题层出不穷——这正是哲学家们最喜欢探讨的情形。是否存在应该凌驾于道义论规则之上的情况？当后果不明时我们该如何决定？人工智能系统是否应该考虑动物福利或环境状况？哲学家、Nauto公司的老板斯特凡·赫克提出，优先保障年轻行人而非老年行人是否符合道德规范？他的公司为卡车和其他商用车辆开发人工智能安全系统。赫克预测，这将引发诸多伦理诉讼：毕竟，后果论算法明确允许造成某种伤害，只要这种伤害旨在避免更严重的后果。

批评者担忧“道德技能退化”：如果计算机越来越多地做出伦理判断，人们是否会越来越不愿意做出自己的判断？路易斯维尔大学的人工智能理论家罗曼·扬波尔斯基认为，道德“并非亘古不变，不同文化各有标准，可以为达到某种目的被人操纵，而且往往要等事后才看得清楚”。失业的程序员们注意了：人工智能哲学家的工作机会似乎还多的是。（编译/赵菲菲）