中国科学院院士，清华大学人工智能研究院院长张钹，是中国少有的经历了两个人工智能技术阶段的研究者。张钹院士认为，深度学习触及天花板；人工智能在语音识别、图像识别、围棋三个领域外，很难再获得发展；担心“机器人统治人类”，完全是远虑，但脑机接口研究的潜在风险却近在咫尺。所以发展人工智能要慎重，同时也要有敢闯无人区的魄力，有了从0到1的突破，人工智能才能迎来更大发展机遇。

中国科学院院士，清华大学人工智能研究院院长张钹

看看新闻Knews记者：马斯克欲通过脑机接口打造超级人类，但也有人认为这会使机械智能侵占人脑，您怎么看待脑机接口研究？

目前，国内外科研团队都很重视脑机接口这个发展方向，大家在做的研究很大程度上是通过脑机接口去帮助那些残疾人，比如说他手脚不方便，或者视觉、听觉有问题，通过脑机接口技术来帮助他。当然这里也可以通过这个来研究人类智能的一些机制等等，一旦这个芯片广泛植入人脑以后，这个人叫机器人？还是叫做人类？实际上这是很大的伦理问题，所以有很大的争论。我的观点是在这个问题上应该慎重，现在大家都提出了人工智能的管理问题，就是说这个技术如何正确地运用有利于造福于人类，而不是伤害人类。这是大家非常关注关心的问题。

脑机接口技术

看看新闻Knews记者：之所以要慎重发展脑机接口技术，是不是因为这个技术还可能会带来一些潜在风险？

是的，其实这里风险是两个性质的，一种是无意中造成的，一种是有意造成的。无意造成的是指，发展这个技术初衷是想去帮助某些病人，但是做的过程中出现了副作用。比如说你要想在人脑中间植入芯片来帮助他克服视觉的毛病，但是有可能改善了视觉，同时会不会改变他的性格，改变他的行为呢？这个是科研本身的自律问题。

另一方面，如果有人就想做出来一个这种利用芯片植入人脑，使得这个人他不怕死，使得他冲锋陷阵，去破坏、去进行战争或者进行对抗。这个就是有意为之，需要通过法律法规来进行限制。你可以利用核能来发电来造福人类，但是你也可以用核能来制造核武器来毁灭人类，所以关键问题对于任何技术如何正确发展，这里头都有一个原则的问题。

深度学习

看看新闻Knews记者：您怎么评价深度学习的发展现状？

深度学习大概是在本世纪初发展起来了，它最重要的影响就是可以利用大数据，且不需要领域的知识，所以它就使得深度学习变成一个通用的工具，使用的技术门槛比较低，比如说拿人脸识别来讲，过去要搞人脸识别，你必须对计算机提取什么样的特征，才能使得人脸识别得好。那么有了深度学习以后呢，这个特征的提取是由机器自动完成的，所以你只要有这样的一个算法，有这样的软件，任何人都可以用它来进行大数据的处理。因此深度学习在人工智能领域里得到了非常广泛的应用，特别是表现在模式识别上，像图像识别，像语音识别，这是它很大的优势。

到了大概2014年前后，大家逐步地发现深度学习有很多严重的缺陷，这个严重的缺陷表现在什么地方呢？表现在这种学习方法非常不安全，非常容易受到欺骗，非常容易受到攻击，而且很不利于推广到别的领域去。比如说你搞了动物的识别，你要搞其它物体的识别，都得从头学起，那么这些问题就引起了大家说下一步应该怎么做。

那么我的看法呢，为了克服深度学习存在的这些缺陷，下一步必须引入知识，因为深度学习最主要利用的是数据，由于计算机处理数据的能力非常强，因此它表现出来很多优点。但是人类的智慧最主要来自于知识，所以人类的视觉跟计算机的图像识别是完全不一样的，我们必须在下面的发展过程中间要把知识这个引进去。这个把数据驱动跟知识驱动结合的方法叫做第三代人工智能。

看看新闻Knews记者：人工智能发展从第一代走到了如今的第三代，各自的特点是什么？

人工智能发展了60年，第一代人工智能就是以知识推理为模型的这个时代，这个时代我们有的时候有叫符号主义，就是用人类的知识来构建智能系统，当时也有做了好多专家系统，包括计算机辅助医疗诊断等等这些系统。它的局限在于，基本上只能够解决完全信息结构化环境下面的确定性问题，也就说它不能随机应变。

第二代人工智能就是刚才您提到的深度学习，它最主要的是利用数据，但缺点就是我刚才讲过的不安全，不可靠，不可信，不容易推广。

第三代人工智能就是把第一代知识驱动的人工智能和第二代数据驱动人工智能结合起来，通过这两个结合来同时利用这个数据和知识，就可以克服前面两代机器人所存在的局限性。

看看新闻Knews记者：受疫情影响，举办2020世界人工智能大会遇到了前所未有的困难与阻力，最终以云端峰会的形式揭幕，让全球范围内的顶级专家学者在线聚首，共话AI。您对于此次的云端峰会寄予什么样的期待？

我想说，人工智能有这么两个特性，一个它的任何成果对人类的生活，工作，社会都会起非常大的影响。第二个它的研究是非常艰难的，所以要是要真正要实现人工智能的话，我的观点就是必须全世界联合起来，共同来研究人工智能，特别对于这个基础研究，基础研究都需要靠全世界科学家和技术人员共同努力。所以我觉得上海的人工智能大会实际上就是起到这个作用，就是联合全世界的科学家，技术人员来共同发展人工智能，用人工智能来造福全人类。

看看新闻Knews记者：最后，请您谈谈对于上海打造科创中心，发展人工智能有什么建议？ 

科创中心也好，发展人工智能也好，其实最关键件的是要创新，特别是原始创新，因为人工智能发展在这个阶段，实际上已有的技术都会存在着瓶颈或者触及到天花板。我们现在要发展人工智能，其实要走前人没有走过的道路，人工智能从技术上从应用上突破，最关键的问题是要零到一的创新。

那么这个创新呢，最关键的问题在人才，就必须要有敢于闯无人区、勇于创新的人才。我觉得上海这个地方有很大的优势，就是它的人才资源非常丰富，而且这个人才，特别对人工智能来讲，必须要有领导力，有创新的能力，一定要抓住这一点。

（看看新闻Knews记者：周智敏 摄像：赵翔宇 编辑：小真）