人工智能技术对网络安全的影响

 公司新闻     |      2020-01-23 11:06


 

当前,机器学习、深度学习等人工智能算法严重依赖于数据的分布,如果黑客改变数据分布生成恶意的对抗样本,向人工智能系统发起“投毒攻击”,就可能造成人工智能系统的识别错误。OpenAI 在最新研究报告中指出,攻击者将对抗样本输入图像识别的机器学习模型,就能够使人工智能系统在视觉上产生幻觉,从而出现错误的图片识别结果。一旦人工智能技术在无人驾驶等领域推广普及,“投毒攻击”很可能对人们的生命、财产安全产生巨大威胁。
 
底层开源框架是薄弱环节
 
当前,Google、FaceBook、IBM、百度等国际 IT 巨头纷纷开源其人工智能系统,帮助应用开发人员屏蔽底层实现细节,构建起以自身技术框架为基础的应用生态。然而,不时曝出的安全漏洞推高了人工智能系统的安全风险。2017 年 12 月,奇虎 360、美国佐治亚大学和美国弗吉尼亚大学的安全研究人员一致认为,Google 开源的 TensorFlow、FaceBook 开源的 Caffe 和 Torch 等深度学习框架对第三方开源基础库过度依赖,这会导致其存在大量的安全威胁。安全人员在上述三个框架中发现了 15 个安全漏洞,极易导致人工智能系统遭到拒绝服务攻击、逃逸攻击、系统损害攻击的影响。考虑到基于深度学习的应用往往需要复杂的训
 
练过程,针对深度学习框架的恶意攻击很难在短时间内被识别,这就可能导致攻击持续的时间更长,造成的危害更加严重。
 
基于人工智能技术的网络攻击多样化
 
一方面,人工智能技术降低了网络攻击门槛。随着大量人工智能模型开源,黑客入侵的工具愈发多样化,其可以利用开源工具欺骗识别系统。另一方面,基于人工智能技术的网络攻击危害严重。人工智能技术会进一步丰富攻击模式,以自动化方式提升复杂攻击的速度与效率,加大鱼叉式网络钓鱼等劳动密集型网络攻击的危害;追踪、分析信息系统进化趋势和安全软件更新特点,设计出新的、更强大的恶意程序来发动网络攻击。利用人工智能技术操作无人机或其他智能设备发起定向攻击,可能导致物理设备损害,威胁关键信息基础设施安全,危及个人生命、财产安全。
人工智能技术的勃发,带来的对人类生活方式和生活质量的全面赋能,刷脸取代指纹,无人零售取代有人商业,深度学习和机器训练让机器像人一样思考和做事成为可能。这种情况下,不仅本身的移动安全变得尤为重要,而且移动安全的AI化发展也提上日程,即,技术的进步带来的是移动安全技术的升级和深化。
 
  1.算法引擎AI化。一个简单的例子是,促销短信并不总是讨人厌,尤其是在双十一、双十二这样的大促前夕,用户反而期待收到感兴趣品牌的促销信息。然而,作为移动安全的基本功之一——短信拦截功能,却往往是一刀切地对促销短信予以拦截。显然,这是不符合用户体验提升的。而如何有选择的拦截促销短信,就成了考量移动安全平台AI能力与否的一环。以360为例,其通过AI赋能,目前能做到的是,结合场景给予智能的分类推荐,这种做法其实还是值得推而广之的。毕竟,广告对不感兴趣的人而言是垃圾,对感兴趣的人则是重要信息。而算法引擎的AI化,还能做到更多的类似场景+智能的判断和对用户移动安全的防范,求得一个平衡,而非粗暴的一刀切。
 
  2.通过机器训练让安全防护可交互、可感知。传统的依靠号码库实现的诈骗识别已不能满足日益复杂多变的诈骗形式和套路,尤其是以勒索软件为代表的恶意软件逐渐呈爆发态势,危害巨大。而类似永恒之蓝的事件一旦在手机端爆发,目前的安全机制无法及时遏制,其危害程度将远高于PC端。面对这种威胁,大数据与人工智能技术的组合拳,则有望为移动安全进行深度赋能。一方面是人工智能技术驱动下的场景分析与识别,与用户进行实时的交互,并针对用户的使用行为进行机器训练,进而可以做到对诈骗等不安全事件更精准的识别;另一方面,则是在此基础上,结合态势感知对诈骗溯源分析,综合各方面数据、情报进行综合研判,进而对诈骗等非安全行为和事件进行快速阻断。
 
  3.加强大数据驱动,让算法和机器更动态、更智慧。这里的大数据,不仅仅是指用户的日常使用行为和偏好所沉淀下来的数据,还有更重要的即,应用内的数据,平台的数据。这些数据多是在各大平台的内网中产生的,并且在传统的观念中,是被视为商业机密的。而这些数据若能经过脱敏处理后为移动安全平台所用,将更高效、更精准的实现对用户安全的赋能。而要做到这一点,则需要产业链各方的深入合作。
 
  深入合作,对用户、对平台实际上是一个共赢的举措。尽管有些平台可以考虑到数据的私密性而不愿意去敞开怀抱,但是趋势却是必然的。而且,目前产业内已有产业链各方与安全平台联盟结对子的范例。如360集团助理总裁姚彤所言,网络安全已经进入“大安全时代”,移动安全形势更加复杂多变。面对挑战,要从全产业链出发,需要主管机构、手机厂商、运营商、安全厂商、科研机构等多方构建一体多位、全链接的移动网络安全防护体系。
 
  那么,目前移动安全领域的平台们都是怎么做的,取得了怎样的进展?先看360,作为“大安全”的首提者,360移动安全团队积极与各方全面合作,比如积极参与行业联盟和标准化制定。就在本月4日举行的“泰尔2017论坛“中,中国信息通信研究院还宣布携手360、华为、vivo等多方一起,共同成立“移动安全联盟”。此外,360还与三大运营商合作,提供骚扰电话识别、二次号码加白、全网彩信/短信拦截、黑灰网址拦截与提醒等服务,业务覆盖全国各省;与三星、华为等手机厂商开展各类技术合作;配合各地公检法机构打击诈骗犯罪等。
 
  再看百度,作为BAT中布局安全较早的,其迄今推出了众多开源项目如阿波罗等来与行业一同发展,而且还成立了OASES智能终端安全生态联盟,该联盟致力于AI时代提升智能终端生态安全的联盟组织。据悉,未来该联盟还将与移动安全联盟展开合作。
 
  而腾讯财付通也与蚂蚁金服支付宝、百度金融、京东金融、美团大众点评共同发起“金融风险信息共享联盟”。
 
  整体来看,安全平台的路径可谓是殊途同归,而且也都是在耕耘和推进联盟战略。这其中,360、百度算是走的比较透彻扎实的两家。通过成立安全联盟,有望将人工智能技术和大数据打通藩篱,实现共享,进而最终为用户的安全防范赋能。从这个角度看,其实结对子走到一起去做事,不仅效率高,而且效果好。而可以预见的是,随着手机厂商、安全服务商、运营商及科研机构等不断深化开放合作。全链条式防御的大安全生态指日可待。