“人工智能的不确定性及风险不仅带来了新的挑战，也引发了法律、社会伦理等各方面的问题。”4月19日，在中国科学院科技战略咨询研究院举办的“人工智能的战略挑战”研讨会上，中国科学院科技战略咨询研究院院长潘教峰如是表示。

他认为，在人工智能（AI）已经成为国际竞争新焦点这一大背景下，我们需要在AI发展的这一关键阶段，对其所面临的战略挑战进行冷静、前瞻性的思考。

近年来，随着人工智能的迅猛发展，其所带来的法律、伦理等问题也日益引起争议。

4月4日，由澳大利亚新南威尔士大学人工智能教授发起，美国、日本、中国等30多个国家和地区的研究人员签署了一封公开信，敦促韩国科学技术院停止人工智能武器的研发。

此前，美国当地时间3月18日晚，Uber公司的一辆无人驾驶汽车在亚利桑那州坦佩市撞死了一名横穿马路的女士，成为全球首例无人驾驶致死事故。

对此，出席研讨会的欧洲科学艺术院院士、德国慕尼黑工业大学教授克劳斯·迈因策尔（Klaus Mainzer）告诉《中国科学报》记者，人工智能的伦理问题在德国也引发了学术界和工业界的深入思考。2017年6月，德国交通部下属的伦理委员会发布了一份《自动和联网驾驶》报告，提出了自动驾驶汽车需要遵守的20条伦理规则。这是全球首个自动驾驶汽车伦理原则。

在他看来，现阶段机器学习是人工智能系统不断完善的主要驱动力。但是，机器学习的局限性之一是，其结果大多是以“黑箱”的形式存在的，即人们只能“知其然”，却“不知其所以然”。这是引发人工智能法律、伦理等问题的重要原因之一。以自动驾驶为例，一旦发生事故，我们很难认定谁应当为此负责。也正因为如此，人工智能伦理问题的解决与技术的发展密切相关。可解释、可说明性是目前人工智能系统亟待解决的问题。

中国科学院深圳先进技术研究院研究员乔宇介绍了计算机视觉的最新进展。他表示，计算机视觉是人工智能的核心领域之一，并产生了广泛的应用，但这一领域也面临着从监督学习到无监督学习、从推理到主动学习，以及可解释学习等需要进一步突破的问题。

“目前科学家们主要在从两条路径探索AI的发展：一是以DNN（深度神经网络）为代表的神经网络算法的演进，二是脑科学研究的突破。”科大讯飞北京研究院院长王士进在介绍智能语音技术的进展时表示，相关数据显示，虽然目前中国和美国在全球AI发展中同属第一阵营，但在一些创新性工作方面，中国与美国相比还有较大差距。

迈因策尔认为，未来AI会全面渗透进我们的生活，对于国家核心力的打造具有决定性影响。中国会是人工智能领域居于领导地位的国家之一，甚至可能独占鳌头。而这一地位主要取决于人才的规模和其创新性程度。因此，教育将是最终决定人工智能竞争成败的战略性问题。