钟义信：勿因“双刃剑”性质去限制人工智能的发展

几十年前，人工智能还只是少数人在默默耕耘，但是1997年曾经让大家吓一跳，国际象棋的世界冠军被IBM的深蓝计算机打败了，深蓝就是一个人工智能的专家系统。但是国际象棋比较简单，如果人工智能机器能打败比较复杂的游戏的世界冠军，那才能够说明问题。没想到2016年，从三月份开始，最早是叫AlphaGo打败了韩国的围棋高手李世石，接着换了一个名字，其实还是这个系统，叫Master。连赢包括中国像柯洁这样的世界一流围棋高手，这件事一下子让全世界的人都吃惊了。

人工智能把围棋的世界高手都打败了，是不是人类的末日就快到了，有很多这样一种恐惧。一下子人工智能从科技界登上了这样一个世界的全景的舞台，但是正像刚才主持人问到的，究竟什么是人工智能？人工智能能够做什么？不能做什么？是不是人工智能就是万能的？是不是人工智能就是全面盖过人。人工智能又如何能够“安全可靠可控”。

人工智能产品的“安全可靠可控”问题涉及：产品质量不达标、产品不安全、产品侵犯公民权益（包括隐私权等）、产品危害社会公共利益、甚至损害国家主权以及国际和平等诸多方面。

中国人工智能学会原理事长、北京邮电大学教授钟义信

需要通过以下几个层面的措施加以防范。技术层面，深入研究和科学制定人工智能产品的质量和分类分级标准，并建立人工智能产品标准的检测检验机构，严把质量关，宣传优秀产品，防止质量低劣产品。伦理层面，深化人工智能伦理学的研究，明确人工智能研究的边界，并在科技界、教育界和产业界展开广泛的宣传教育，使人工智能的伦理道德观念深入人心。法制层面，制定关于人工智能研究、制造、使用的法律法规，制定关于人工智能犯罪活动的惩治条例，严厉打击人工智能技术侵犯公民权益和破坏社会安宁的犯罪行为。国际层面，通过国际合作组织和联合国相关机构，推动制定合作协议，通过国际合作促进人工智能的发展，限制人工智能的滥用。

人工智能犯罪也好，侵犯人权也好，或者不符合标准也好，始作俑者是人，因为每个人工智能机器的背后都是人，即便这个机器它自己，因为人给了它一些目的，给了它一点知识，它自己可以去扩展知识，扩展目的，但是那都是有限的。最根本的是教育人类自己，包括一个团体内部的教育，学校的教育，社会的教育，国际的这种。设想全世界人都有个共同的目标，那可能就没有像现在这样你打我，我打你这种事。伦理、道德、犯罪这些事，归根到底是人类自身的问题，再聪明的机器都是在执行人的意志。教育和国际合作是解决伦理道德，这一类问题的一个非常重要的手段。

同任何其他技术一样，人工智能的“双刃剑”性质也表现为：好人可以用它来为人类造福，坏人可以用它来对社会作恶。人工智能是科学技术进步的成果，它本身是中性的社会生产工具，“利”与“害”的关键，要看被什么人所掌握和利用。

任何技术的背后都是人在起作用。所以，坚持不懈地对人类自身进行教育、宣传、约束、鼓励、惩处，表彰好人，制裁坏人，才是一个永远不能松懈的社会任务。以上建议的四个层面的措施，说到底都是针对人而不是针对技术。人们不能因为“双刃剑”的性质而去妨碍和限制人工智能科学技术的进步与发展。这是一个基本的原则。（根据嘉宾在“聚焦人工智能：红利与忧思”主题政能亮沙龙演讲整理）