刘宏:人类受到机器人的威胁只有一步之遥

机器人学中有个三原则,如果我们的程序发生了一个突变,产生了一个bug,这三个原则的顺序发生改变,就是一个致命的情况,人类瞬间就会受到机器人的威胁。

人工智能产业的热潮为什么会出现?或者这个热潮能热多久?

我上课的时候经常跟同学们提一个有趣的问题,就是说牛顿聪明还是我们今天的科学家诺贝尔奖获得者聪明?是当年的诸葛亮聪明,还是我们当代的军事家聪明?大家哈哈就笑了,想想还是诸葛亮聪明,还是牛顿聪明。那我们这三百年不是白过了吗?你这两千年不是白过了吗?人类社会进步的标志是什么?是不是个体,是不是个体的聪明程度?显然不是。人类社会进步的标志是什么呢?我们学过科技发展史,工具是人类社会发展的主要脉络。

人类的社会进步基本上分成这样三个大致的阶段,从距今一万一千年开始,过了三千年,走过来,一万一千年以前是旧石器时代,一万一千年到六千年这三千多年是新石器时代,开始使用加工的工具了,距今六千年到三千年是铜器时代,人类是先用铜后用铁的。然后距今三千年左右的时候呢,开始用铁器,人类真正的进入农业文明时代,叫做农业社会。当距今三百年的时候,蒸汽机就出现了,随后,电力出现了,太阳能出现了,各种各样的新的能源、动力工具出现了,人类进入了工业革命时代。其实工业革命的标志是能源工具的革命。那么从1946年第一台电子数字计算机出现,随后小型机,大型机,个人电脑,然后手机、无线通讯、移动通讯、智能手机,人类又进入了一个信息工具的时代。而且信息工具的革命的速度往往是十几年、几年一个周期,那么人类社会的标志叫做信息社会。

中国人工智能学会副理事长、北京大学教授刘宏

所以,我们走过了农业社会、工业社会和信息社会这三个重要的阶段,分别经历了物质工具的革命、能量工具的革命和信息工具的革命,世界是三个过程,物质、能量和信息。那走了一圈以后,人类往哪儿走?人类的工具下一步的革命,下一步的进步在哪里?好,回到主持人的建议,回到日常生活当中来,比如我想喝一杯开水这样一个非常简单的智能服务的需求,真正到家里要实现的时候,首先一定是要有个机器人,网络可以传信息,不能传饮料,不能传白开水,不能传物质,它一定是个物质的载体,是个物质的工具。同时,它的运动要消耗能量,要走更优化的路径,更简洁的路径,消耗更少的能量完成一个任务。接下来就是信息,进行复杂的信息处理、感知、传输、决策、执行。

我们所期望的智能工具,是物质、能量、信息高度融合的工具,未来的智能社会就是物质能量、信息三者高度融合的社会,人工智能就是一个新的革命性力量,把这三者很好的结合在一起,更好地为人类服务。

但这并不意味着人工智能不存在风险,机器人有个概念,叫机器人学的三定律、三原则。最早制定它就是约束机器人,不让机器人危害人类的。第一条就是,机器人不能伤害人类,或者是无所作为,任由人类受到伤害。第二条原则是机器人要听人类的话,除非跟第一条产生矛盾。第三条是机器人要保护自身的存在。当然机器人要保护自己,但是有人类受到威胁的时候,它要保护人类,牺牲自己,这就是机器人的三原则。这是不是彻头彻尾的不平等原则啊,彻头彻尾的不平等条约,是人类给机器人加上的一个枷锁。

在实验室当中实现这三个原则,如果我们的程序发生了一个突变,产生了一个bug,这三个原则的顺序发生改变,就是一个致命的情况,人类瞬间就会受到机器人的威胁。在微观上来讲,人类受到机器人的威胁只有一步之遥,非常危险。

回过来现实问题,我们还要不要搞机器人?机器人还能不能走入千家万户?我个人的观点,在技术上是悲观的,在应用上是乐观的。我们生活当中就有那么一种机器,它已经走入了千家万户,全世界每年通过它直接杀死的人不止十万,你们猜到了吗?汽车,这么危险的工具,但是已经成为人类生活不可或缺的伙伴,和人类如影随形了。技术发展就是这样,机器人也不例外,一定会威胁人类,但是一定会走进人类的日常生活,人工智能将彻底改变这个世界。(根据嘉宾在“聚焦人工智能:红利与忧思”主题政能亮沙龙演讲整理)

下一篇

史忠植:“人工智能”是个与时俱

目前的人工智能领域取得的成就,个人认为只是万里长征的第一步,我们离让人工智能模拟人脑处理问题,还差的很远。