何积丰院士:智能制造与安全可信人工智能

2021-09-18 09:32:56 江苏省企业技术改造协会 60

首先,跟大家介绍一下智能制造中人工智能技术能发挥什么作用,尤其是在我们生产运维过程中人工智能会有什么样的提质增效的作用。



第二,我想讲讲安全问题,怎么用人工智能来解决我们的制造业升级,也解决我们的安全问题。



我们说的人工智能希望跟我们人类社会是共生关系,这个PPT里面讲了三个部分,最左边是讲人类社会,就是各位企业家希望我们的智能产业对我们的经济起什么作用,推动智能制造、智能医疗、智慧城市、智能农业、智慧交通等等,从这个方面分析大家都知道人工智能的赋能作用挺好的。右面看到人工智能现在给人家印象比较深的就是下棋,下国际象棋、下围棋,把世界冠军都打败了,大家觉得很了不起,觉得人工智能可以代替人。



但是目前多数企业用的人工智能技术,我们称之为是特殊领域的专用技术,不具有通用性的,这是一个很大的挑战。从具体的产业角度来说,GDP总量是比较小,这不是我们的主导产业应该有的特色,我们能够用各种方式把产业规模做大,因此我们推进的技术就是从特殊领域到通用技术,通用技术要做什么事情呢?右边有很多要做的,很多才开始做。


1.jpeg


第一,知识组合。现在我们深度算法、机器学习训练过程中的单类知识比较多,不像人类学知识是综合性的,能够举一反三,很多有相互触发的功能,这是我们希望人工智能做的。



第二,做规划决策。规划决策问题不是现在才有,早期的时候在人工智能里面做过很多药物的因果分析,说某某人生病,我吃什么药可能效果比较好。最近新冠疫苗都出来了,也碰到一个问题,男人效果是比较好的,目前我们的机器学习算法给不出一个好的答案。各位都知道前面几十年我们讨论肺癌是不是因为吸烟造成,也有很多数据基于统计分析,但目前为止还没有判断出是不是因吸烟造成的,说明什么?机器学习数据过程中,还没有能够给出一个决策水平,只能说吸烟跟肺癌有关,到底有多大关系?所以人工智能下一步发展就要在因果关系上下功夫。



第三,自主学习。教育有高等教育和基础教育,当你离开社会以后,要求你有自主学习能力,这个机器做不到,要靠你喂它数据,如果没有数据给他,模型就变成静态了,自主性很差。



第四,脑机接口。早先提出人工智能的专家有一个希望,希望计算机跟人一样感知世界,并改造世界。现在我们计算机做了不少好的事情,比如说能够做翻页能够做人脸识别,但是一问某某人脑子在想什么事情?他知道吗?换句话说,人类社会跟智能机器之间没有办法互通、沟通。我们希望脑电波智慧机器按照脑电波做事情,这些事情现在慢慢在做。马斯克宣布搞一个脑芯片,但是这个芯片还达不到脑机互动,无非是采集脑电波,什么样的事件产生什么样的兴奋信号。我们很希望以后有这样的芯片,能够植到脑子里面去,用脑电波指挥做一些动作,这对社会很有帮助。



第五,思维过程。一百多年前,当莱特兄弟驾驶第一架飞机上天的时候,有什么大数据吗?看到其他东西飞过吗?整个思维过程的高级产品是目前的机器学习做不到的。你再训练机器也不会有这个思维过程,人工智能下一步就要推动脑机融合,推动思维过程的推理,这是我们对人工智能的期望。



人类社会跟人工智能社会如果都能成这个方向发展,我们就可以产生共生的状态,这个共生的状态很模糊,我下面解释一下哪几种共生状态。


2.jpeg


第一是辅助关系。智能驾驶有很多智能模块,能够帮你倒车、停车,警告你边上有一个车要超过你了,但毕竟还是辅助,不是无人驾驶,这是第一类。这些产品种类很多,大家很喜欢。



第二是人在回路。就是人跟智能机器是在做同一个任务,不过分工有差别而已,所以千万不要把机器人跟人对立起来,我们认为机器人是人的徒弟,帮你做点事情,这样的话,我们不会失去很多人工巧匠,他们很多工作是机器人代替不了的。



第三是人类交互。这个图片里面的人,因为某种原因失去了上臂,就搞了电子臂,这个手臂能够接受脑电波信号,可以做很多事情,这类功能是通过机器智能化提高人的体力的办法,其他路径也有,比如说搞机器人的背夹,可以帮你背东西。



第四是竞争关系。某种生产线上机器人把你的饭碗抢了,这是我们不希望看到的,但是这也是客观存在的。



下面我们看一看智能制造里面,我们人工智能体系是什么样的体系,我也把他分成三大块,最主要的就是大家讲的云的框架,有云计算、边缘计算,有智能网关和智能传感器,这个起什么作用呢?通过智能感知我们能够获得环境信息,如果数据太大,通过边缘计算减少传输的流量负担,也减少云的计算负担,所以为什么很强调边缘计算,如果车联网发展起来,不可能一个城市只有一朵云指挥几十万辆汽车,边缘计算是必不可少的,这是计算机框架就是这样的框架。



而我们中间那个人工智能目前能够做什么事情对我们企业智能化有好处呢?我这里分成四大部分:



第一部分是帮你做实时计算,在过程控制的系统,或者离散控制系统里面,实时性是非常重要的,今天上午的专家也说了,最多时间不能超过多少微妙和毫秒,这是我们人工智能能够做的。第二部分能够告诉你发展趋势朝什么方向走,我们称之为态势、感知,企业里面有两个地方用的比较好,一个是仓库管理,警告你库存太低了,跟不上后面生产需要,上下游怎么对接,这是一种态势。



第二种态势就是生产链上有很多设备,关心这些设备什么时候需要维修,什么时候需要置换,这个机器再用两个星期不太行了,要早点维修。当然也有对市场的调查,说市场上这个产品线是供大于求,我们应该把企业生产这方面速度放慢,所以态势感知跟数据融合是密切相关的,这是第二类功能。



第三是动态感知,现在很多感知都是静态的,这个人是好人,那个人是坏人,实际上我们关心发展的趋势,动态发展的趋势很快,今年新冠来了以后,我们线上信息发展就很快,很多东西动态变化比你想想的速度大得多,动态感知也是我们很注重的能够提供的能力。



第四,智能决策。帮助企业家跟领导提供一份能够选择的决策单子,不会代你做决策的,告诉你有几个选项,每个选项有什么长处和短板,这个在决策是很重要的。最近我们在做“十四五”规划,我们做规划的时候请专家帮我们讨论可行性问题,这个也是人工智能可以做的。



最右边就是跟企业最相关的部分,智能制造里面有六个模块是跟各位企业家日常任务有关的,第一就是设备管理,刚才讲到态势感知里面,要知道你这个设备用得怎么样,金融系统很希望知道基金运行情况。前一段时间工商银行在一些企业的数字加工中心上都装了传感器,到底每天工作几个小时,拿它来决定是不是给企业贷款,他就用这个办法在做。我们国家经济每个月统计数字里面难免有水分,是不是有感知办法对设备进行管理,这个设备利用率高不好,如果利用率不高,工厂开工比较低。



第二,质量控制。今天看到有人工智能检测技术,大大提高质量,减少人,因为很多检测技术,人当然能够做,但是做的时间长以后难免会漏掉几个,这个很多用户是不满意的,这个产品线也卖得很好。



第三,状态监测预警系统。现在工业互联网用了以后,互联网本身的短板都带到我们工业互联网上,原先都是专网,人家进不来,过去我们管理系统里面的木马、黑客都有可能带到生产控制线,一个单位说我先用无线通讯挺好的,我说无线通讯是不错,增加了通讯的灵活性,动态很强,但是美国的无人机怎么被伊朗打下来的?就是无线通道被伊朗人进入了,无人机飞的地方就是机场上空,能够降下来,我觉得状态监测系统是非常重要的,如果没有这条的话,很多企业的稳定运行可能会有困难。



第四,故障定位预测和动态调度服务都会用到,智能型的企业都会往这几个方面发展。



下面有一个框架图,从基础、算法、运维、制造四个方面跟大家讨论一下怎么用人工智能新技术。



在基础里面分两大部分,一个是跟硬件相关的,我们工业互联网现在用的4G、5G、用的蓝牙、Wi-Fi都是通讯机制,也有很多传感器,也包括一些基本的东西,比如说雷达、可见光/红外,装在无人车上面,这都属于基础的硬件跟软件。



跟人工智能比较有关的是第二项就是算法,算法里面分成两大类,我用颜色标开了,计算机视觉、图像处理、目标识别这些都是跟常见的算法有关,我们讨论的强化学习、元学习、深度学习,右边我们谈到状态预测、态势感知、时空分析,尤其是时空分析现在变成很大产业,现在智能家居里面有对老人照顾的,老人在房间哪一个位置,是不是不小心摔跤了。



运维部分我们提到有三类平台会建,一个是数据中台,二是核心业务相关的,还有做其他的任务,这里我们说有两个额外工作我们要加强,那么多的机器,那么多的设备互联以后,如何保证他们能够协同工作,放一家无人机很容易,如果放一百架可能他们就相撞了,战场上很多机器人怎么让他们协同作战这是很关键的技术。最后就是需求适配,各种企业都会碰到,但是我们很多部件,无论硬件、软件,一般情况下都是通用性的,这样开发成本就比较低,开发以后都能用,应用过程当中要解决适配性问题,适配性的问题是在我们软件硬件里面都是要关注的。另外就是配置,你可能要高配置,他要一个高皮质,价格便宜一点。



最上面就是制造领域的,今天早上有人讲数字孪生,这是关键装备业的核心技术,我们希望在我们的虚拟系统里面先有你要造物理机器的数学模型,看这个机器做的好不好,人类用的语言智能语言,而人工智能是用的计算语言,没有办法很好的沟通。柔性制造中间对生产线的动态组装,到底哪些需要合在一起这是一类。第二就是产品的柔性制造,最典型的就是海尔生产线上用户体验,用户定义什么颜色,冰箱上放什么东西。



下面我们有一个PPT做了一个总结,我们分成四大块,最左边是第一步互联互通要做到,然后刚才讲到运维的管理,第三就是分析决策,最后就是一旦有大量数据接入,数据也成为产品,就成了行业数据。有的行业里面会知道你要买人家一个模型,有很多数据给你,这个数据可以帮你检查,因此我说以后大家在生产线有不好的数据,也要好好的保留下来。



下面我们讲讲人工智能犯错误的时候,任何高技术都有正面跟反面,有的是跟技术有关,有的是跟设计有关。



第一类自动驾驶事故不断发生。两种原因,一种原因就是训练我们汽车驾驶的场景数据还没有到位,我们知道的信息,美国大概有8000多类场景数据,目前中国只有一半,另外一半没有训练过,在实际场合碰到就变成盲人了,就出问题了,这是第一类事故。



第二类机器人,我估计常州市是没有人做的,医疗用的机器人,医疗机器人比一般的机器人贵很多,机器人是我们制造业的皇冠,这个医疗机器人是皇冠上的钻石,上海一些大的医院进口的国外医疗机器人也出了事故,什么原因呢?它收集的数据受到污染,因为前面开刀的时候,病人出血了,血喷到摄像头上,摄像头就看不到开刀周围的器官情况,关于数据污染造成系统的出错也是人工智能里面经常发生的。有一些语音翻译程序,通常情况下很好,但是一开大会就会出错,因为什么呢?因为环境有污染,有噪声。



第三,人工智能的偏见,这个我就跳过了,在政策制造过程当中,如果让机器人帮你做服务的话,有服务的倾向性,在美国对富人借钱就愿意借给你,如果是老人、妇女、黑人借钱的欲望就不太大。



第四,波音客机坠毁事故。就是传感器的原因,装了两个传感器,告诉我们的驾驶员,我们这个机身是朝上翘太厉害还是正常,而实际过程当中,两个中间有一个出问题,整个系统就出问题了,所以经过一年多,波音还没有想出解决办法,做了那么多飞机,就对付不了两个传感器,制造传感器的老板们,千万不要小看你的产品,你的作用还是生死攸关的。



第五,隐私数据泄露。在我们国内讲的比较少,也很少听客户提出说数据被泄露怎么样。



最后就是AI换脸事故,这就意味着我们人脸识别装置很容易失效,我们机场有一些人脸识别的机器,现在都停下来不用了,什么原因?精准度不到,有时候这个人看不清,有时候我们静态照相还可以,很多小区的网关里面也用了人脸识别,晚上你试试看马上就出洋相了,人工智能现在还在初级阶段。



我们人工智能现在存在的安全缺陷,大家知道以后,在制造你的产品的时候就关注一些问题,分成三大类,物理层、算法层、应用层。在物理层上有很多服务器,也有很多传感终端设备,很容易受到物理层的攻击,计算上面的攻击和通信信号的攻击,在我们已有的算法里面,主要是对用到的训练数据,你部署以后的模型都会受到破坏,现在报道的例子还比较少,有时候我们电网出了一些事故,电网的领导说不知道什么原因,我可以警告你,你的网出问题了,人家可以随时进来。



最后就是应用层,我们在工业、交通、医疗都希望做,但是无论是我们用的设备还是网络都容易受到攻击的,今天上午有一个很好的报告,关于专用的网络,未来的网络,但是我注意到他没有讲到安全问题,因为网信办为什么建立呢?就是网络不安全,美国可以直接到我们的核心数据区偷数据,我们都不知道。从我们做人工智能的产业里面,把两类安全问题做好就够了,一个是数据安全,一个是算法安全。



大家都说数据是最重要的资产,资产当然要保护好,这里分成两种情况,一个是数据保护从采集开始到传输,到成熟,到使用到流通都要保证安全,尤其是流通,数据要买卖,买卖就要放在数据平台上。第二就是数据的质量,采集数据本身就有参差不齐的,最后就是数据隐私问题。



算法里面有可靠性、可解释性和路棒性。可靠性我解释一下,目前我们训练出来的模型是黑盒子,我们知道在多数情况下工作的很不错,用得很放心,但是我们很担心在关键场合会出纰漏,我不知道他为什么会出纰漏,这就是解释性比较差,我不知道工作原理,这是做基础研究的单位很担心我们机器学习算法就有这样的陷阱,也不知道什么时候出问题,这是非常危险的问题。



025-8320 9516
电话咨询
邮件咨询
在线地图