语言: English | 简体中文 | 繁體中文

细思极恐,人工智能+黑客=? | 温哥华教育中心


细思极恐,人工智能+黑客=?


温哥华院校,温哥华学院,温哥华大专院校
温哥华换汇,温哥华外汇兑换
  人工智能技术的发展对网络安全构成了挑战,因为与防御者相比,黑客更容易操纵机器学习算法,从而获得自己想要的结果。

  

  随着政府机构开始把安全重点转向具备自学能力的自动化系统,网络安全人士也开始纷纷担心黑客对这些系统产生的影响,这甚至成为了他们最大的担忧。

  媒体近日撰文称,人工智能技术的发展对网络安全构成了挑战,因为与防御者相比,黑客更容易操纵机器学习算法,从而获得自己想要的结果。

  根据维基百科的解释,对抗性机器学习(Adversarial machine learning,以下简称“AML”)是一个“机器学习与计算机安全的交叉学科……其目的是在垃圾信息过滤、恶意软件监测和生物特征识别等对抗性设置中安全部署机器学习技术。”

  据宾夕法尼亚州立大学谷歌(微博)安全项目博士尼古拉斯?帕珀诺特(Nicolas Papernot)介绍,AML希望在对抗性环境中应用机器学习算法后,能够更好地理解这些算法----所谓对抗性设置,指的是“任何一个让攻击者因为财务动机或其他动机而迫使机器学习算法采取不端行为的设置。”

  “可惜的是,现在的机器学习模型有着很大的攻击面,因为它们的设计和训练过程都是为了获得良好的平均表现,但未必考虑过最差表现。从安全角度来看,这往往是最容易受到攻击的。”帕珀诺特说。正因如此,这些系统很容易遭受通用攻击----无论使用何种机器学习模型,也无论需要解决哪些任务,这类攻击都会经常发起。

  范德堡大学电气工程和计算机科学教授叶夫提尼?沃罗贝琴科(Yevgeniy Vorobeychik)指出,虽然包括美国国防部及其下属的DARPA在内的政府机构“达到了我们学术界所达不到的复杂度”,但AML只是这一领域的一个开始。例如,很多国家和地区政府以及执法机构都在“认真考虑”用这种技术来预测犯罪活动。

  马里兰大学助理教授都铎?杜米特拉斯(Tudor A. Dumitras)表示,在公共领域,机器学习可以有很多用途,包括“网络攻击防御技术;分析天文观测或能源部大型实验等项目的科研数据;生物学和医学研究;开发犯罪预测模型,用于制定假释或量刑决策。”这些系统都很容易遭受AML攻击。

  为了说明这个问题,杜米特拉斯指出,网络防御系统必须把各种活动或信息(包括可执行程序、网络流量或电子邮件)区分为善意和恶意两种模式。

  为了达到这个目的,机器学习算法需要首先学习一些已知的善意和恶意例子,以此作为起点,进一步在没有预定描述信息的情况下学习恶意活动的模式。

  “聪明的攻击者可以颠覆这些技术,使之产生坏的结果。”他说。广泛来看,杜米特拉斯认为攻击者可以采取以下三种方式:

  ----通过操纵例子攻击训练模型,导致机器学习算法给某些案例添加错误的标签,或者学会被曲解的模型。

  ----通过寻找代码漏洞攻击实施过程。

  ----利用机器学习算法的“黑盒子”特性。

  “因此,用户可能会发现,这种模型也有盲点。他们也有可能发现,这种模型的基础是人为操纵的数据,而非有意义的特征。”杜米特拉斯说,“因为机器学习往往会给出恶意或善意判断,但却不会透露这种结论背后的逻辑。”

  AML兴起

  AML在公共和执法领域的重要性逐渐提升,原因在于计算机科学家“在机器学习领域已经足够成熟,可以在很多有挑战的任务中让机器学习模型实现优异表现,有时候能超过入类。”帕珀诺特说,“因此,机器学习在很多应用领域普及开来,而且逐步成为网络安全领域的新颖候选方案。”

[小伙伴们快来啊 加西网招全职编辑]
无评论不新闻,发表一下您的意见吧
上一页12下一页
注:
  • 新闻来源于其它媒体,内容不代表本站立场!
  • 在此页阅读全文
     推荐:

    意见

    当前评论目前还没有任何评论,欢迎您发表您的看法。
    发表评论
    您的评论 *: 
    安全校验码 *:  请在此处输入图片中的数字
    The Captcha image  (请在此处输入图片中的数字)

    Copyright © 加西网, all rights are reserved.

    加西网为北美中文网传媒集团旗下网站