AI攻击如何破解？百度AI安全技术总监聂科峰为你支招

本站原创,作者:章鹰,电子发烧友执行副主编。

智慧城市正在中国蓬勃发展。据悉,我国95%的副省级以上城市、83%的地级城市,总计过500个城市,都在《政府工作报告》或“十三五”规划中明确提出活正在建设智慧城市,并有超过300个城市分别与BAT、华为以及三大运营商等企业签署了战略合作框架协议。

随着我国智慧城市的发展,众多企业也看到了移动终端在智慧城市中应用的重要性,移动终端应用产品在智慧城市中百花齐放。大量智能终端设备和传感器接入智慧城市综合网络,产生了复杂的接入环境、多样化的接入方式和数量庞大的接入终端,全面加大了智慧城市系统的接入风险,也聚集了新型的数据安全风险。在AI技术和物联网技术相互交互下,如何保障网络安全和终端安全已经成为企业关注的焦点。

12月20日,在深圳国际电子展上,雷锋网主办的“AIoT+智慧城市峰会”上,百度AI安全技术总监聂科峰先生带了AIOT市场安全的最新趋势和解决方案。

百度AI安全技术总监 聂科峰先生

AI在智慧城市当中已经开始应用了,在百度看来,AI的大规模应用必须以安全为基石。

什么叫AI+IoT?百度AI安全技术总监聂科峰认为,以传感器为特征的AIoT终端承担了数据采集、AI分析、结果反馈和智能执行等任务。他举例说,比如在监控过程中我们加入了对监控内容AI的分析,AI的反馈并且能给出实时反馈,并且能做一些事情,又比如说监测到一个坏人可能报警,还有流量控制改变红绿灯设计,此外,对于人流量的预测,AI深度学习可以结合时空数据,让城市管理者对人流量未卜先知,这在未来都是AIoT所带来的应用。

之前,笔者在采访Gartner研究总监相斌斌时,了解到IoT市场不成熟,安全是许多企业的担心。35%的企业认为安全是物联网部署获得成功的最大障碍因素,Gartner预测,2020年,超过25%的安全入侵与物联网相关。

百度AI安全技术总监聂科峰认为,在物联网时代,网络安全目的是防止实时的数据被别人监控到,或者一些隐私的数据拿到,但是AI是完全不一样,AI是基于大数据进行分析和判断,然后进行下一步的决策和行动,一旦受到干扰,问题将非常严重,这时候安全非常重要,它承担了采集离线分析,云端分析,我们需要做一些事情,反向执行这方面带来的风险是未来重点关注的。

在他看来AIoT整个系统安全有两大挑战:第一、传统的基于IOT设备需要联网,需要系统,本身就有潜在的风险。加入了AI之后,AI带来新风险,我们可以看到传感器欺骗,这是AI和视觉相关的,软件缺陷有开源、第三方的、基于机器学习的,本身有很多漏洞,这些漏洞带来的缺陷也会影响AI在IOT应该发生的正确响应;第二、基于大数据的污染,系统风险和网络风险这就是非常传统的,移动和PC时代都会面临的问题。

如何构建全面的AIoT安全生态体系?聂科峰指出,应当从数据处理、网络传输、应用设备三大重点领域入手,保障数据安全,建立更可靠的AIoT安全框架,实现模型安全并减少业务漏洞;同时,还应该将软硬件安全方案一起考虑,不仅需要减少算法的不确定性和不可控性,让AI的安全方案更健全更具容错性,也要让数据防线更坚固、让设备端安全响应更加快速、让网络传输方案更加安全稳定。“安全是一个持续的攻防对抗过程,持续响应是未来非常重要的一点。” 聂科峰强调指出。
在AIoT设备中涉及到云、管、端和数据相关,不同层面要提供不同的安全保障。在安全评估中,百度和中国信通院合作,推行行业安全基准,对包括智能音箱、智能摄像头等基与AIoT的设备上市前设定安全评估标准,降低未来可攻击性。目前通过我们建立的安全评估点和安全设备,整个安全状况有明显提升。

第二、百度提供了专业工具可以辅助大家做评估,比如说百度的Advbox,是专门针对AI的安全工具,首先对产品的安全模型做基础性测试。另外可以提供对抗样本来训练客户的模型,使模型加固。第三、我们可以让客户了解对抗样本,这是基于开源的平台,大家在AI上可以检测这些功能。

百度在AIoT安全生态已经有了前瞻性布局,推出了一套先进的“云管端一体化安全防护解决方案”,可为智能设备提供从云端安全、数据传输到设备端安全的一体化安全防护。

“云端我们DDos防护还有漏洞防护,在AI学习这一块百度有对抗样本工具,通讯这一块提供了Mesalink,基于SL的加密通讯的机制。DNS反劫持上,百度开放了搜索多年DNS劫持上的经验,以设备终端为例,百度安全可为智能设备提供安全OTA、证书认证、漏洞防护、病毒防护等四重防护能力。” 聂科峰总结说,“小度在许多智能汽车中得到应用,有很多IOT厂商也不断的将我们的应用落地。我们跟生态的合作伙伴一起,打造生态,希望做到越智能越安全。”