1. 创业头条
  2. 前沿领域
  3. 人工智能
  4. 正文

AI病毒来袭,拿什么拯救你我的电脑?

 2018-08-16 14:25  来源:A5专栏  我来投稿 撤稿纠错

  【推荐】海外独服/站群服务器/高防

文|雷宇

来源|智能相对论(aixdlun)

在刘慈欣的科幻小说《中国2185》中,除领土,领海,领空外,还有一个被称为电子领土的地方,这个地方除了容易受常规武器破坏外,还容易受到软件武器的威胁。

软件武器分为软件病毒和软件炸弹两大类,其中软件病毒是一种程序,它在电脑系统中遇到一个程序时,就把自己复制成两份,其中一份进入到所遇到的程序中,以破坏这个程序,并随着这个程序把自己传染到电脑网络系统的其它部分。软件炸弹和软件病毒类似,但它仅仅是在电脑系统中飞快地复制自己,使自己的数量以几何级数增长,最后占敌方电脑系统的内存而使其系统瘫痪。

事实上,伴随着人工智能技术的发展,AI病毒甚至比小说中描述的还要强悍。最近,IBM研究院在计算机安全大会BlackHat上展示了他们制造的恶意软件:DeepLocker。它“静若处子,动若脱兔”,卧薪尝胆18年也在所不惜,只有目标出现时才会精准发作。

普通病毒尚有招可应,AI病毒则致破坏于无声

《神雕侠侣》中的杨过在石壁上发现了剑魔独孤求败刻下的字,其中有这么几句:

「紫薇软剑」三十岁前所用,误伤义士不祥,悔恨无已,乃弃之深谷。重剑无锋,大巧不工。四十岁前恃之横行天下。四十岁后,不滞于物,草木竹石均可为剑。自此精修,渐进于无剑胜有剑之境。在这之中提到了三把剑:紫薇软剑、玄铁重剑、无剑。智能相对论(aixdlun)分析师雷宇认为,这三把剑可以预示电脑病毒发展的三个阶段。

第一阶段:紫薇软剑,用剑作为“器”的性状来发挥威力。

这一阶段的代表是熊猫烧香病毒。熊猫烧香作为一种蠕虫病毒的变种,2007年,在全国范围流行,被感染用户系统中所有.exe可执行文件全部被改成熊猫举着三根香的模样。虽然这款病毒能自动传播、自动感染硬盘且破坏力大,但只要用户及时下载更新杀毒软件,或者一些杀毒软件推出的专杀工具,就可以对熊猫烧香病毒进行查杀。

对于以“器”的形状发挥威力的病毒来说,只要有更厉害的“器”,便可制服。

第二阶段:玄铁重剑,通过一些特定的招式驱动剑。

2017年5月,wannacry敲诈勒索病毒全球大规模爆发。被该勒索软件入侵之后,用户系统的图片、文档资源等都会被加密,同时桌面上会弹出勒索对话框,向用户勒索一定数额的比特币赎金。最周造成很多计算机用户的重要资料丢失,损失巨大。事实上,WannaCry主要是利用Windows系统漏洞传播,打上安全补丁就可以有效防范。

对于以特定招式发挥威力的病毒来说,只需要在招式上改进,功力精进倒也可以避免这种威胁。但是,AI病毒却让人防不胜防。

第三阶段:无剑,以无剑胜有剑。

AI病毒可能掌握复杂和灵活的对抗样本,“欺骗”杀毒软件,“偷偷隐藏”,并不好对付。DeepLocker的针对性特别强,而且它隐藏在某些软件中,用户毫无知觉的将其下载。它可以通过人脸识别,语音识别,大数据分析等实现对用户的侦测与分析,但是程序并不会显示它正在进行某种操作。一般目标属性识别采取了复杂的DNN结构,目标属性和密匙则被加密到了DNN中,只有通过DNN来判断多个维度的目标属性符合时,病毒才会启动攻击,不再“深藏功与名”。

实际上,AI病毒有点像扫地僧,看似不起眼,实则是以不变应万变,要么不出招,要么放大招。

AI病毒也许猖獗,但AI对抗AI的“一出好戏”正在上演

Darktrace(中文或可译为“白夜追凶”?)是一家市值超过8.5亿美元的英国公司,主要采用人工智能方式来保障网络安全。不仅能够应对人类黑客的攻击,而且还能搞定机器学习的威胁。该公司主推的一款产品名为“企业免疫系统( Enterprise Immune System )”,利用机器学习技术增强自身防御能力,把大部分网络攻击在追踪过程中消灭掉。除此之外,以色列初创公司SecBI也相继推出了更先进的机器学习和AI技术来大家网络黑客袭击。

1. AI病毒无孔不入,资产数据成“出头鸟”

AI病毒最常见的行为就是对资产和数据的网络敲诈,以下是针对49个组织的345个网络安全预测。

数据来自文章《Cybersecurity in 2017: A roundup of predictions》,2017

物联网的安全问题被排在了首位。工厂设备,医院的核磁共振设备以及自动贩卖机损坏时,需要及时修复,不然势必会让网络黑客或AI病毒有机可趁,出现需要支付赎金才能恢复联机的情况。同时需要及时备份数据,不然企业很可能会在数据恢复上再大费周章。

由于现阶段对物联网软件和硬件的内部工作机制的了解非常有限,如果物联网设备被盗用,很难说会发生什么。《物联网安全》一书中曾提到,数据,无论是视频、音频、环境或其他敏感信息,往往都可以通过受入侵物联网设备盗取出去,可能还会为犯罪分子提供组织有价值的信息来利用。

每隔不久我们就会看到不法分子盗取QQ甚至微信,骗取其好友钱财的消息,为什么这样的事会屡禁不止呢?除了被害者缺乏安全意识,还有就是现在的手段越来越高阶。比如AI病毒可以通过学习被攻击对象的电子邮件,聊天记录,语音等,模仿受害者的写作风格和语音语色,从而进行诈骗。也许在未来,对面和你语音,斗图,侃房价的那个人,是想骗你钱的AI病毒。更可怕的是,你可能很难区分,毕竟前不久在谷歌开发者大会上亮相的语音助手就几乎与真人无异了。

2. 当AI病毒开始攻击AI,AI还能“绝地反击”吗?

AI攻击AI,往往会使人工智能系统精度下降最终使得输入结果出现偏差。实际上,影响不仅仅在于把猫识别成老虎这样的小事。更可怕的是,具有定源、定向攻击的病毒误导机器,比如在无人驾驶中,把长颈鹿识别成塑料袋,把绿灯识别为红灯等。而这产生的后果不堪设想。

但在AI病毒攻击AI之前,它也需要掌握一些“敌情”。主要有如下两点:

1.数据。包括用于训练网络的训练数据集、网络结构(具体包含神经网络的层数及类型),神经元的激活函数、权重及偏置项矩阵等。

2.算法。“敌方”训练数据以及训练网络时的算法细节。

我们知道,人工智能依然存在黑箱,在对人工智能进行攻击的时候,不仅难以的得到对方的算法,也没有办法改变输入结果,很难实现有效的攻击。

但是,神经网络固有的非线性结构使它们能够生成更为复杂和更为灵活的对抗样本,从而欺骗目标模型。因此,在未来,通过人工智能技术对抗人工智能的黑暗面已经成了行业发展的既定事实。

结论

回到开头,小说描述的电子领土实际上已经得到了一定程度上的实现。我们当代人在互联网上或多或少都有自己的一方领土,哪里包含了我们的隐私我们的喜怒哀乐,而这些都勾勒出了我们在电子领土上的画像。

AI病毒的肆虐,某种程度上不是流行感冒,而是流行顽疾,易传染难根治。那你觉得可治吗?

【完】

智能相对论(微信id:aixdlun):深挖人工智能这口井,评出咸淡,讲出黑白,道出vb深浅。重点关注领域:AI+医疗、机器人、智能驾驶、AI+硬件、物联网、AI+金融、AI+安全、AR/VR、开发者以及背后的芯片、算法、人机交互等。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 瑞芯微发布新一代机器视觉方案RV1106及RV1103

    瑞芯微电子股份有限公司(以下简称“瑞芯微”)正式发布新一代机器视觉方案RV1106及RV1103,两颗芯片在NPU、ISP、视频编码、音频处理等性能均有显著升级,具有高集成度、高性价比、低待机功耗的特点。RV1106及RV1103为普惠型方案,旨在助力更多行业伙伴高效实现机器视觉产品的研发及落地。

    标签:
    人工智能
  • AI的边界在哪里?科大讯飞“上天入地”

    展望科大讯飞的2022,“讯飞超脑2030计划”发布,科大讯飞全面锚定虚拟人、虚拟宠物,在雄厚的技术能力和丰富的场景经验支持下,持续验证着其面向新场景、新领域的创新能力,也在加速转化成为其未来5到10年的业绩支撑点。

  • 【漫谈新工业】从中国制造到中国智造,中间究竟还差什么?

    目前我国确实有了较强的产业基础,但产业尤其是高端装备制造业,在基础领域与国际先进水平相比还有巨大的差距。“我国目前做了很多应用创新,但同时也忽视基础领域的发展,在基础的材料、元器件、管理理念、人才培养上都存在痛点,这也包括传感器;接下来我国应该夯实实体产业、加快转型升级,政府应加强基础研究的扶持和引

    标签:
    人工智能
  • 告别“古典时代”,AI开始拥抱接地气的商业模式

    1956年8月,以香农为代表的一群科学家在达特茅斯学院,围绕着“用机器来模仿人类学习以及其他方面的智能”这个主题,创造出人工智能(ArtificialIntelligence)这个影响深远的概念。

    标签:
    ai技术
    ai智能
  • 影谱科技姬晓晨入选2021年度人工智能创业领袖 成唯一上榜女企业家

    近日,人工智能学术与产业界的权威年度盛会“MEET2022智能未来大会”召开,会上公布年度人工智能领航企业、人工智能创业领袖等榜单。其中,影谱科技创始人姬晓晨女士入选2021年度人工智能创业领袖,成为唯一上榜的女性企业家,同时上榜的还有商汤、旷视、依图、第四范式、地平线等企业领袖。

  • 开发者怎么拥抱智能化浪潮?昇腾AI给出了“通关指南”

    在大模型代表的新一轮技术浪潮下,智能化转型已然是毋庸置疑的趋势,科技大厂们纷纷给出了智能化的“道法术”,大大小小的企业也开始更新认知,想要从创新中挖掘出驱动增长的新质生产力。但现实和智能化的美好愿景之间,仍然横亘着一片鲜有人涉足的“荒海”,脚下还没有坚实的路。3月23日在天津举办的昇腾AI开发者创享

    标签:
    ai技术
    ai智能
  • 8款AI视频生成产品实测,谁将成为中国Sora?

    ©自象限原创作者丨罗辑、苏奕编辑丨程心2024年开年,科技圈没有什么比Sora的出现更让人兴奋。如同ChatGPT在2023年初带来的LLM创业潮,Sora的发布也同样将视频生成模型推到了风口浪尖。科技巨头猛推产品,创业公司则乘风而上。3月13日,AI视频大模型公司爱诗科技完成亿元级人民币A1轮融资

    标签:
    ai技术
    ai智能
  • AI业务收入盈利双增,但百融云没有止步

    当为科学技术巡游一方的神,行至人工智能的篇章,中国公司的2023年报里,写着AIGC的前世今生。翻开科技进步的编年史,每一次技术革命都有这样一条铁律:技术革命的最大受益者,通常不是率先做出突破的开疆派,而是率先将其发扬光大的技术流。靠着工业革命超越日不落的美利坚,把同样的故事,转载到了50年代的半导

  • AI手机需要新故事

    言必称AI的时代,已经来了,尤其是随着sora等的震撼发布,以及Google、微软和国内大厂等在AI研发、大模型等方面的日新月异。就手机行业而言,在存量时代出货量连年不及预期的情况下,如何刺激用户换机,成了一道摆在所有手机厂商面前的共同命题。从三星到国内的一些手机厂商,实际上已先行一步打出了“AI手

    标签:
    ai技术
  • 智能校对大模型文修2.0重磅发布:赋能“人工智能+办公”转型升级

    3月22日,由天津蜜度文修智能科技有限公司主办的智能校对大模型文修2.0智臻发布会在津举行。发布会以“大模型赋能‘人工智能+办公’体验升级”为主题,邀请语言智能领域专家,以及各大媒体机构和合作伙伴,围绕大模型技术、应用落地发展、标准化进程进行分享交流。发布会上还发布了智能校对大模型文修2.0。天津市

  • 阿里通义千问重磅升级:免费开放1000万字长文档处理功能

    3月22日消息,阿里通义千问重磅升级,向所有人免费开放1000万字的长文档处理功能,成为全球文档处理容量第一的AI应用。即日起,所有金融、法律、科研、医疗、教育等领域的专业人士,都可通过通义千问网站和APP快速读研报、分析财报、读科研论文、研判案情、读医疗报告、解读法律条文、分析考试成绩、总结深度文

    标签:
    通义千问

编辑推荐