微软亚洲研究院院长洪小文:今天的AI只是一个黑盒

2018-05-14
浏览 评论

微软亚洲研究院院长洪小文:今天的AI只是一个黑盒

  本报记者 杨清清 北京报道

  AI(人工智能)带给人类的惊喜还在继续。

  当地时间5月8日(北京时间5月9日凌晨),2018谷歌I/O开发者大会开幕。在整个大会过程中,最抓人眼球的莫过于谷歌助手打电话以假乱真:在预订理发店时间时,谷歌助手不仅清晰表达了自己的预订诉求,甚至在面对复杂对话场景应对自如。例如,当理发店服务员告知它所要求的12点到店时间排满、最近时间只有下午1∶15分的时间段时,它再次询问是否有早上10点到12点排期。

  就在前一天的2018微软Build开发者大会上,微软的语音助手小娜同样“秀”了一笔自己的“表演”。在智能会议室的现场展示环节,演示人员利用搭载了小娜的智能设备语音预订了会议室,甚至,当每位参会人员进入会议室时,小娜还能够念出其名字、主动打招呼以及进行各种交互,与一位常人无异。

  但人工智能真的如看起来的那么“聪明”吗?

  “今天,无论是语音识别、文本翻译、或是计算机视觉等技术所支撑的人工智能,都没有真正理解自己所接受信息的含义。它们只是在匹配预设的模型。”5月8日,在接受21世纪经济报道记者(以下简称《21世纪》)专访时,微软全球资深副总裁、微软亚太研发集团主席兼微软亚洲研究院院长洪小文直言,“它只是一个黑盒,无法归纳和理解,只知道根据输入导出结果。”

  与之相对应的是,人类能够理解。不仅是理解自己已知的概念,甚至面对未知的事物,也可以根据自己过去的经验去尝试理解,去归纳总结,举一反三,这便是所谓“白盒”。

  值得注意的是,白盒智慧,但存在偏差,黑盒机械,但更加公正,这其中各有优劣。因此,洪小文认为,AI可以帮助人类去做一些专业性的任务,面对需要分析决策的环节,则需要人类的智力,“AI+HI(人工智能+人类智能)非常重要。”

  不过,尽管AI本身仍处于黑盒阶段,但搭载AI终端的智能边缘计算正在扑面而至,这一点,从今年微软Build开发者大会上频频提及智能边缘计算,并与大疆无人机、高通合作开发相关开发工具包便可见一斑。在洪小文看来,智能边缘计算必将发生,也特别值得期待。

  黑盒与白盒

  《21世纪》:今年Build大会上现场展示了智能语音技术。当前国外智能语音技术已经找到了智能音箱作为一个较为普及的落地场景,国内则仍在苦苦探索。这背后是中文语音技术本身的问题吗?

  洪小文:即便拥有方言,中文的语音识别也并不难于英文,只要收集到足够多的数据,就不是问题。国外智能音箱(尤其是搭载亚马逊Alexa的Echo)之所以普及,还是与亚马逊电商业务本身有关,外国用户习惯在亚马逊上购物后,就愿意尝试使用更方便的智能音箱来购物。另外外国用户家里空间大又喜欢听音乐,本身就有音箱的需求,所以这种形态的终端更容易普及。

  至于国内用户,平时更喜欢与自己的智能手机交互,在手机上体验购物、听音乐等功能,对于这些用户而言已经足够便捷和直观,并已经养成了这样的习惯,这些因素导致智能音箱在国内没有普及。

  《21世纪》:就语音技术而言,你提到识别不是问题,那目前的问题在哪里?

  洪小文:当前人工智能对语音的反馈包括三个阶段:识别、理解和提供服务,问题的难点是在理解上。由于要理解的内容本身拥有无穷组合,因此便没有精确模型,无法只用建构模式去进行,这还不论更复杂的言外有意的情况。今天的AI只是一个黑盒,但理解本身是白盒,也就是人类拥有的能力:不仅理解所接受的信息本身,甚至还可以对本身不了解的信息进行猜测,部分理解其含义。这对于今天的AI而言非常难解,需要更新的技术才行。

  《21世纪》:存在黑盒与白盒的应用界限吗?或是黑盒必将需要转变为白盒?

  洪小文:对于一些推理过程而言,一定需要白盒,没有白盒的系统很难进行推理。即便黑盒可进行推理,也只存在于某个输出刚好是下一个输入的情况下,这是黑盒的局限性。

  但黑盒也有其好处,从某个角度而言,它不会存在偏差,是什么就是什么,非常公平。白盒推理存在既定立场,例如人类心理状态中多少会有一些偏见,比如关于堕胎、性别倾向等各种容易引起争议的问题,便是源于每个人的既定立场。在这个立场下推理出的东西必然会有所偏颇。黑盒就不会,因此类似于法官这样的角色就需要黑盒的思维,怎样输入就怎样输出。

  因此,当前的合理状态应该是AI+HI(人工智能+人类智能)。AI可以致力于流程性分析,但深度分析、理解和创造仍需要依靠人类。

  可解释AI