约瑟夫·斯发基斯:自主系统是否值得我们信赖?

络石快报 · 2019-11-14

✅蒋欣再揭行内乱象,约瑟夫·斯发基斯:自主系统是否值得我们信赖?-络石快报_约瑟夫·斯发基斯:自主系统是否值得我们信赖?

  新浪财经讯 由中国商务部、科技部、工信部、国家发改委、农业农村部、国家知识产权局、中国科学院、中国工程院等国家部委和深圳市人民政府共同举办的“第二十一届中国国际高新技术成果交易会”于2019年11月13日-17日在中国深圳举行。2007年图灵奖得主,美国国家工程院院士、美国文理科学院院士、欧洲科学院院士、法国科学院院士、法国工程院院士约瑟夫斯发基斯出席“新时代、新技术、新经济”主题论坛并演讲。

  约瑟夫斯发基斯表示,今天网络的基础设施,他的可信度非常低,比如说有很多安全性的问题等等。首先要跟大家强调的一点就是现在存在一个差距,自主系统的知识还有很多的差距,现在要建立的是一个自动化的体系,当前的挑战就是要有一个非常可信赖的无人驾驶汽车的体系。

  今天有很多无人车,他们的制造商都用端对端的机器学习的方式和技术,这也就意味着他们会使用很多的这种神经网络的元素,他们会有很多传感器来处理信息,我们也会提供相应的理论,但是我们也不太知道这个系统到底是怎样进行运作的,也没有保障,所以我认为需要一些科学和工程的基础来帮助我们,所以很难有一个真正的无人驾驶汽车和无人驾驶体系。

  以下为演讲实录:

  大家下午好,今天非常高兴能够来到这里,来到深圳,我觉得在深圳我也是经常来,今天就开始我们的演讲,今天要跟大家谈的是无人驾驶系统是否值得我们信任,我要谈这个系统是因为我们有一个实验室,就在关注到了无人驾驶他的系统,我们希望在深圳也建立这样一个实验室。

  那我们背后的想法,我们知道这个无人驾驶的系统非常重要,物联网也非常重要,我就不跟大家多做解释了,我们现在有几百万台电脑,他们都是连接到平台上,这个平台可以整合相应的服务和系统,这样的话能够利用他的数据挖掘资源,对于分析师来说,物联网他现在有几大挑战,或者说它有几大困难。一个就是我们右边的这个图,就是人类的互联网,它是交互性的,我们能够提出一些要求获得一些服务,这是我们之前的人类的互联网。

  但是今天,我觉得我们提出的是工业互联网,他是非常自动化的一个物联网,比如说现在我们由人控制电脑,他会执行不同的功能,这就是我今天要跟大家讲的工业物联网。

  这就是我们下一代的无人驾驶系统、自动化系统,他会逐渐地去用这个系统来替代人在生产当中的因素,这里要跟大家强调的是自动系统会非常地重要,因为他会去取代人类的作用,有的时候他们会失去控制,所以他需要的是一种非常宽泛的智能,我觉得他需要跟我们的愿景结合起来,跟这种AI结合起来。必须要去应对不同变化的情景及我们提出的一些新的目标。它要去在非常复杂的环境当中运行,所以这样的系统要跟人类进行合作,我觉得它是一种共生的系统和共生的自动化。但是我们现在要达到这个零件要求还是有些限制。

  首先我们就是一种学习赋能的元素,我们不能够去确保这方面有相应的技术和技能。今天网络的基础设施,他的可信度非常低,比如说他有很多安全性的问题等等,还有,这样的一些环境非常地复杂,比如说我们之前提到的无人,他就是在复杂的环境当中难以进行招架,大家都知道,有类似的故事。还有每个国家经济条件也不一样,这些都要考虑在内。

  接下来要给大家讲的是对于无人车来讲有非常重要的一些事情已经发生了,我之前是在航空航天行业和铁路行业工作了几年,也关注到了相应系统的开发,比如说们要给航天的系统去开发的话,那我们就是要通过设计获得安全这样一个概念,但是无人车却没有这样的一种做法。他们所采用的就是这种黑箱子,机器学习,端对端的方式,这样的话安全性就不是特别高。所以这样的标准并没有运用到无人车当中,这样的话无法能够保障无人车的安全性。我的问题就是说这样的一种体系是否可信赖,我觉得这是今天要跟大家讨论的。

  在今天的环境当中,我们这种可信性以及这种无人驾驶汽车信息系统的可信赖度我们今天在媒体上讨论得不多,我们有很多的人他们之前对此非常乐观,就是说他觉得是用无人车是一个非常好的做法新挑战因卡勒,觉得马上就能够把这个无人车开在路上了,比如说艾伦马斯克,他是特斯拉的CEO,他之前给我说过这样的话,也就是在2015年的时候,他说无人车马上就要来了,我觉得肯定不是这样子,我们还需要很多年的努力才能够实现无人车的上路。

  首先要跟大家强调的一点就是现在我们有一个差距,我们这样的一种系统,它的知识还有很多的差距,我们现在要建立的是一个自动化的体系,我们当前的挑战就是要有一个非常可信赖的无人驾驶汽车的体系。今天有很多无人车,他们的制造商都用端对端的机器学习的方式和技术,这也就意味着他们会使用很多的这种神经网络的元素,他们会有很多传感器来处理信息,我们也会提供相应的理论,但是我们也不太知道这个系统到底是怎样进行运作的,也没有保障,所以我认为我们需要一些科学和工程的基础来帮助我们,所以我们很难有一个真正的鸿江一别又重逢无人驾驶汽车和无人驾驶体系。

  在下午的演讲当中,我要跟大家先讲一下自动化和无人系统是什么意思,我们都知道自动化的一些自动系统,也有这种自动的摆渡车,有些机器人也可以完成,我们在讨论机器人汽车,对他们来说技术难点是什么呢?大家知道这些系统有自身的运营环境,所以也会有一些术语,比如说代理1、代理2,还有他们的一些运营的环境,对这些无人驾驶汽车来说,他们的运营环境要在他们完全的掌控之内,这样的话他们要应对的环境都非常复杂,系统的目标是要实现安全和流动性,但是每一个不同的代理商有他们自己的一些目标和法则。比如说你在深圳开车,你经常会去香港,但是问题就是说我们如何去妥协我们独立的驾驶员的目标跟我们公共安全的一些目标。

  我们可以从五个不同的系统来进行比较。这五个系统包括了自动驾驶和(航欢器)来说,我们可以进行控制器的设计,比如说对于其他的,不同的过滤器和稳定的设置也可以进行微调,在这里面从数据上来说,我们很难看到哪一个设置会更胜一筹,因为在这里面,我们首先要经过一些实时的线上数据的收集,现在的问题主要是说对于一个自动驾驶的汽车或者是机器人驾驶的汽车来说,要非常小心,所以在这里面就有不断增加的复杂性,在这个自动化和自主控制里面需要达成一个平衡,在这里面出现了一些挑战和掣肘。

  现在我想给大家解释一下,我们这里面讲到自主性的媒介,它预示着一个系统,包括从环境里面通过传感器收集信息,包括以下两个基本功能,第一个是对情景的意识和判断,他可以从传感器里面收集一些数据,能够对周围的实体环境进行感知,产生观感,并且有一些信息的反馈和回溯,基于信息的意识和敏感度来产生解决问题的一些办法。一旦我们有了这个情景的意识,你就知道怎么样采取一些决策,什么叫做决策呢?在这里面就是说能够发挥什么样的功能,承担什么样的角色,通过这些角色,你就知道对一些功能做一些预判。

  在许多的例子下,我们也希望能够让这些媒介能够创造生成一些知识,在这里面我就不一一去罗列了,其实产生这些知识是我们让这个媒介发挥非常重要的作用。首先它要有自我意识,就是说能够了解一些新的概念、新的情景,不然的话就不够有自我的调整,没有自我调整就不会说是一些新的环境,这就是我们对所谓自主性的定义,我们还远远没有达到高度的自主性,这一张幻灯片里面总结了五个自主性的五个功能,包括了反应、决策、规划、自我意识等等诸如此类的因素。

  如果我们把这一个特征化的描述视为功能化的特征描述,在每一个功能里面,在每一个领域都使用传统的技术或者人工智能AI,问题就是怎么样把这五个功能能够化整为零地去应用,我觉得在未来,我们应该会面临到一些协作,希望能够在人和机器之间实现人机的协作,而这人机协作也是之前科学家所预示的,包括所谓自主性、自动化之间的应用,包括应用在车的一些行动器里面,还有其他的应用,能够达到第五级,第五级是完全的自主化,没有任何认为的干预。现在我觉得对于自主驾驶来说,很多时候我们还处于第三级别,没有达到完全的自主化。

  对于我来说,这个挑战并不是说明天我们要由谁来生产这种自动驾驶的汽车,挑战就是怎么样在第四级那里晋级到第四级,从而跃升到第五级,第五级是最理想的最高级别,现在我们要促进人和机器的人机互动,人机交叉,这就是我想描述的。这里面我描述了五个功能,其中的一个功能是非常地完整,能够由机器去胜任,其中的一些功能是人的操作,问题是你怎么样能够在人和机器的操作当中找到泾渭分明的界限。

  我想最后总结一下,时间差不多到了,总结一下我刚才的发言,未来将会何去何从呢?其实我们总结过去,尤其是过去三到四年里面的发展,我们已经充分见证了自动驾驶汽车的制造商,他们都纷纷地跃跃欲试,希望能够参与这些自动驾驶汽车的发展,其实现在他们的态度得到了修正,或者是说在某个角度上面进行退缩了,之前我见到了因特尔负责自动驾驶技术的负责人,他觉得现在有很多的技术是没有能够得到人类完全的研发和驾驭。就是说现在还是任重道远,这就是关于自动驾驶的第一点,其实自动驾驶也引发了许多技术,是不是有一个提议,传统技术和人工智能的结合,这个结合点的解决方案还没有找到。我觉得人工智能还有一些传统的基本模式、基本技术应该实现整合,但是这需要更多的研发,我们不能够在两者当中取一点,而是两者结合。另外我们希望准备好过渡期,能够让过渡实现更为顺畅平顺,从传统的技术再到完全的自主化。

  其实我们刚才讲到完全的自主化是非常高的一个级别,完全不需要人去干预,也是有很漫长的道路要走,我们刚才讲到人机交互界面的提升是一个前提。另外,可以使用一些显行的技术,还有人类需要隐性的技术,问题是怎么探讨这两者之间的结合。在美国会有一些对自动驾驶汽车的立法要求,现在这些立法也在不断修正,背后的理念就是希望能够让这个技术更好地服务于人类,而不是反过来控制人。

  在今时今日,其实我们在研发这些技术的时候,如果我们购买了一个有自动驾驶技术的一个汽车,他应该有个自动验证,比如说特斯拉会说,我们所有的车都经过了自动驾驶的验证,他得到了某一个自主性,所以这是一个工艺上的认证。

  第四点,我想总结未来会怎么样呢?我们也应该依靠公众的自我意识还有社会责任,比如说我们会不会让机器来为我们做一些关键的决策呢?这会有什么样的后果?因为这是一个非常严肃的事情,我们应该对其进行充分地讨论,由社会各界来共同参与。

  这一个问题的结果不应该由一个公司或者一个行业,而是应该由社会全局去参与,能够让不同的界别都有权重、有比例地去参加,因为没有一方能够去判定技术能够对社会产生什么样的影响,所以这也是美国现在的一些思潮,这对于我们来说是在推动自动化的技术里面非常重要的一个前提。

  最后我想说,我们现在已经进入了一个非常重要的革新,机器会不会取代人,机器会不会严重地入侵到人类的世界,沃恩怎么样去使用这个新的技术,去驾驭它而不是被它所控制,我们应该采取什么样的步骤,而不会说过度地沉迷于人工智能,当然在自动驾驶的系统未来进一步发展,可能会取决于许多的因素,我们怎么样去信任这些系统,怎么样去减少对它的依赖,所以应该能够让这些研究更为客观、科学,能够充分地知会世界各地的演讲,我在演讲之后就要必须离开了,请各位包含。

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

责任编辑:李昂

文章推荐:

中央宣讲团在陕西宣讲党的十九届四中全会精神

美国10月份预算赤字扩大至1345亿美元

车企三季报“冷热不均”边缘车企雪上加霜

专访:力度大、频率高、范围广的开放政策让中国保持对外资吸引力——访联合国贸发会议官员詹晓宁

最高检十厅厅长徐向春“件件有回复”到了关键阶段

马云“杀回”香港!此次阿里回港上市关注八大要点