欢迎来稿
当前位置首页 > 科技新闻 > 正文

人工智能的善与恶

2021-01-18 10:16 来源:北京日报

  何家弘

  人工智能是人类智能创造出来的,但是,人工智能一旦被创造出来之后,就有了自己的独立性,就会给社会带来一些特殊的影响,因此就需要治理。

  我以为,智能社会治理应该包括两个方面:第一是智能社会的治理;第二是智能的社会治理。人工智能技术在社会中的广泛应用,会促进社会的发展和变化,也会产生一些新的问题。对于这种新型社会,我们应该如何治理?这里要研究的是作为治理对象的人工智能。另外,人工智能技术也广泛地应用在社会治理之中,就是要运用人工智能的方法对人类社会进行治理。这里要研究的就是作为治理手段的人工智能。当然,这两个层面的治理是相互影响、相辅相成的。

  人工智能确实有很多优越的地方,可以给我们的工作和生活提供很多方便,帮我们解决不少难题。人工智能也是一把双刃剑,既能做好事,也能做坏事。这是我们研究智能社会时不能忽视的问题。现在的计算机、互联网、大数据等新的科学技术给我们的社会发展提供了技术支撑,开拓了发展空间。但是,我们在社会治理中运用这些智能技术的时候,是不是应该有一个底线?哪些是我们可以让人工智能尽力去完成的,哪些是不应该让人工智能去完成的?我们不能让人工智能变成无所不能,更不能让人工智能变成人类社会的主宰。人类创造人工智能的初衷是善良的,但是其发挥的作用也可能是邪恶的。比如说,人工智能就可能侵害到我们的隐私权。

  人工智能的发展,正在改变人类社会,改变我们的人生。那么,人工智能会不会改变人类,会不会改变我们的人性?这也是值得我们思考的问题。我在想,人工智能的发展会不会让人类变得很弱智或者很低能?20多年前,我们有了智能照相机,那时叫“傻瓜”相机。在那以前,照相是个技术活儿。照相的人得根据经验自己定光圈,定快门速度,再根据距离调焦距,挺有难度。后来有了智能照相机,这些问题就都不用人干了,所以叫“傻瓜”相机。这并不是说相机很傻,而是说傻瓜都会照相。于是,人就不会照相了!

  由此可见,人工智能在给我们提供各种方便的时候,也导致了我们人类一些能力的减退。人体的功能必须经常使用,长期不用就会退化。我现在有一个感触,那就是提笔忘字。我平时用电脑,很少动笔写字,我的写字功能就有明显的减退,不仅写不好,而且不会写了。现在,我们在家庭生活中也有了很多人工智能的东西,例如智能扫地机、智能洗衣机、智能电饭锅、智能电冰箱等等。我们从这些家务劳动中解放出来,但同时也就丧失了一些能力。以后,我们可能还有智能床,不仅能调节我们的睡眠,还能帮我们设计好梦。另外,我们一起床,它还能帮我们把衣服都穿上。如此下去,我们会不会越来越笨,人类的子孙后代会不会就变得大脑萎缩,越来越弱智,或是低能?所以,我们在构建智能社会的时候,还是要给人工智能定一个界限,哪些是它可以做的,哪些是它不能做的。

  在计算机和互联网高速发展的当今世界,人类似乎变得更加孤独,更加焦虑,更加自私,更加冷酷,人类社会似乎也变得更加割裂,更加对立,更倾向于不同群体的极端性抗争。在虚拟世界中,极端主义可以肆无忌惮,而且是一呼百应。于是,国际关系也变得更趋紧张,爆发战争的危险也在增长。据说,未来战争可能不需要人类亲自动手了,可以让无人机等智能武器去打仗。但问题是,这些无人机打的不仅仅是无人机,也包括活生生的人!总之,人工智能是一把双刃剑,既能为人类做好事,也能为人类做坏事。因此,我们在创建智能社会的时候,既要开发人工智能的善,也要限制人工智能的恶,要努力构建有人文温度的智能社会。人工智能确实是人类社会的重大发明,但是,我希望这不是人类社会的最后一个重大发明。不要让人工智能成为人类的终结者。

  (作者为中国人民大学法学院教授)

(责任编辑:支艳蓉)

人工智能的善与恶

2021-01-18 10:16 来源:北京日报
查看余下全文