影视头条 站长资讯 女性话题 校园资讯 科技资讯 农药资讯 创业交流 服装服饰  
读书心得 人工智能 家电资讯 文化资讯 家居生活 五金资讯 动漫资讯 医疗资讯  
首页>> 人工智能 >>正文
攻击者将如何利用人工智能技术来满足己需?
2021-11-24 11:11:49  来源:熊猫资讯网 

【PConline 杂谈】我们说,事物往往都是具有两面性的,一项新技术在造福人类的同时,也很可能被不法分子们利用。正因如此,有越来越多的安全人士开始担忧,人工智能技术的发展会对未来网络安全带来威胁,因为与防御一方相比,攻击一方更容易操控机器学习算法来获得自己想要的“结果”。

攻击者将如何利用人工智能技术来满足己需?

攻击者将如何利用人工智能技术来满足己需?

“百科”一下你会发现,对抗性机器学习(以下简称AML)是一个“机器学习与计算机安全的交叉学科,旨在对垃圾信息过滤、恶意软件监测和生物特征识别等对抗性设置中安全部署机器学习技术。AML希望在对抗性环境中应用机器学习算法后,能够更好地理解这些算法,而所谓对抗性设置,则指的是任何一个让攻击者因为财务动机或其他动机而迫使机器学习算法采取不端行为的设置。

然而,由于机器学习模型的设计和训练过程是为了获得良好的平均表现,而未必考虑过最差表现,所以存在很大的攻击面,因此从安全角度看,往往最易受到攻击。也正因如此,这些系统很容易遭到通用攻击。一般来说,聪明的攻击者可以通过操纵例子攻击训练模型,导致机器学习算法给某些案例添加错误的标签或学会被曲解的模型;也可以通过查找代码漏洞攻击实施过程;或是利用机器学习算法的“黑盒子”特性。下面,我们就不妨与各位来聊一聊,未来攻击者将会如何利用AI获得暴利。

让钓鱼网站躲避安全检测

钓鱼网站凭其超高的伪装技术,肆意的进行网络欺诈,一般用户难以辨认。目前我们已知的是,Google的钓鱼网页分类器就是通过机器学习训练得到的,而攻击者则利用逆向工程技术获得分类器的部分信息,其所生成的新钓鱼网页能100%的避开Google钓鱼网页分类器。

攻击者通过成功破解谷歌钓鱼网页过滤器(以下简称GPPF)分类模型,可从中获取足够的知识(像分类算法、得分规则和特征等)以进行有效的躲避攻击,通过逆向工程可以获取84.8%的评分规则,其中涵盖了绝大多数的高权重规则。因此,在100个真正的钓鱼网页进行测试后发现,所有钓鱼网页100%都可以轻松的绕过GPPF检测,从现有研究结果来看,现有的客户端分类器很容易受到分类器针对性攻击。

更高级别的鱼叉式钓鱼攻击

我们说,在反安全领域中最有效的网络钓鱼攻击就是鱼叉式网络钓鱼,该种攻击可侵入所有的防御层,很多数据泄露事件都始于鱼叉式网络攻击。而AML另一个更明显的应用是使用智能社会工程中的文本到语音转换、语音识别和自然语言处理类似算法,利用时间递归神经网络教授软件的电子邮件写作风格,从而增强其真实性与可信性。因此,理论上讲网络钓鱼邮件或将变得更加复杂和更具可信性。

迈克菲实验室在2017年曾预测,攻击者将越来越多地利用机器学习分析大量被盗记录,以识别潜在受害者并构建能够更加有效针对这些目标人群,内容详尽的钓鱼类电子邮件,且在社交平台上测试后发现,为用户量身定做的钓鱼帖子,其点击率是有史以来所报道过大规模钓鱼攻击活动中最高的。

让机器学习引擎失效

一个更简单形式有效的方式是,让用于检测恶意软件的机器学习引擎失效,就像以往攻击者对杀毒引擎所做的一样。众所周知,机器学习模型要从输入数据中进行学习,一旦数据池“中毒”,那么输出也会“中毒”。

创建恶意软件

机器学习可以用来帮助创建恶意软件吗?尽管我们的初衷是用机器学习来检测恶意可执行文件,然而,分析安全情报却发现,机器学习和深度神经网络存在被躲避攻击所迷惑的可能性。如果网络安全企业的AI可以学习识别潜在的恶意软件,那么黑客AI就能够通过观察学习防恶意软件AI做出决策,使用该知识来开发“最小程度被检测出”的恶意软件。

实际上,恶意软件作者在大多数情况下无法访问恶意软件检测系统所使用机器学习模型的详细结构和参数,因此他们只能执行黑盒攻击,通过构建生成对抗网络算法来生成对抗恶意软件样本,从而绕过基于机器学习的黑盒检测系统。

不可否认,人工智能技术的发展的确为网络安全带来新机遇,然而挑战也随之而。如今,我们正利用AI技术增强自己的防御能力,但与此同时,黑客也在逐渐利用AI漏洞建立对抗样本以躲避攻击。双方在各自的领域进行更多尝试的同时,也将在人工智能领域开始一场新的博弈,至于谁能获得最终胜利,仍需时间来验证。

责任编辑:吴黛


皇冠足球网 http://www.sznews.com/news/content/2021-10/11/content_24634640.htm?ivk_sa=1024320u
使用物联网系统值不值得?物联网技术隐患在哪里?
百度Apollo获天津自动驾驶路测牌照和20张北京新牌照
【深度】2016年VR产业的发展与大事记
人工智能来了!你最期待哪位“网红机器人”
1
 
完美完美完美 Fitbit Charge HR智能手环评测
小米通过智能路由器进入智能家居行业并有望成为领军企业(三)
智能音箱市场竞争激烈 低价智能音箱真的智能吗
Fitbit今晚纽交所上市:发行价20美元
智能家居未来已来,可没做到这点便是“鸡肋”!
让谷歌助手说中文有多难?AI研究员来解答
作为AI界的“奇异博士”,AI先生李彦宏有过哪些未来预言?
雄踞2011基带芯片厂商榜首 高通引领3G/4G市场风潮
中科博宏CEO陆成学: 落实人工智能与实体经济创新融合
249元!10月15日正式发售!荣耀手环4 NFC版来了
 
1
1
CEE2019北京工智能智慧零售展,创造消费新时...
“辩论”,人工智能新突破(科技大观)
干货!图解2016年上半年充电桩行业报告
出门问问发布TicPods 2真无线耳机 充电盒体...
系列报道十:科技推动未来教育变革
智能家居针对用户推广的鸿沟模型
民以食为天,农业机器人迎来良好发展期
攻击者将如何利用人工智能技术来满足己需?
AI芯片性能升级 骁龙855带来丰富手机AI智慧...
母亲节将至,选个机器人当礼物“助”福妈妈...
1  
1
1
攻击者将如何利用人工智能技术来满足己需?
AI芯片性能升级 骁龙855带来丰富手机AI智慧体验
人工智能来了!你最期待哪位“网红机器人”
母亲节将至,选个机器人当礼物“助”福妈妈们吧!
NASA 与 SpaceX 和 Blue Origin 合作研发载人登月装置
作为AI界的“奇异博士”,AI先生李彦宏有过哪些未来预言?
迪斯尼欲进军VR游戏领域
出口市场多元化 家电出口量日益增加
雄踞2011基带芯片厂商榜首 高通引领3G/4G市场风潮
智能手表Pebble 2评测:健身追踪功能有待完善?
熊猫资讯网