当前位置:首页 >  IDC >  安全 >  正文

人工智能能否学会明辨是非?AI时代网络安全应“预防为先”

 2023-07-25 13:57  来源: 互联网   我来投稿 撤稿纠错

  【推荐】海外独服/站群服务器/高防

Check Point 软件技术公司报告称,一些网络犯罪分子利用人工智能来训练其经验不足的成员实施恶意活动、改进和调试恶意软件,甚至实现攻击自动化。

最近的一项麦肯锡调查显示,50% 的公司已在至少一个业务领域采用了人工智能。

在许多互联网安全专家眼中,2022年称得上“人工智能元年”。ChatGPT的横空出世以及其他AI服务的相继上线在改变未来人们工作、学习以及生活的方式的同时,也为互联网安全行业带来了全新的挑战。因此,全球领先的专业网络安全提供商 Check Point® 软件技术有限公司(纳斯达克股票代码:CHKP)借此文帮助大家进一步了解人工智能的当前和未来用途以及重点关注安全防护的必要性。

人工智能早在几年前就开始走入我们的工作生活。事实上,根据麦肯锡全球研究所在 2022 年开展的一项人工智能调查,2017 年时 20% 的受访者表示已在至少一个业务领域采用了人工智能,而去年这一数字增长至 50%。随着企业逐渐认识到人工智能对其业务的巨大价值,预计这一增长势头将继续走高——根据 Forbes Advisor 的一项调查,超过 60% 的企业所有者认为人工智能可提高生产力。具体而言,64% 的受访者表示人工智能有助于提高业务效率,42% 的受访者认为人工智能可简化作业流程,这充分表明商业领域对人工智能的使用具有广泛的市场接受度。

在我国,2017年就由国务院印发了《新一代人工智能发展规划》,规划中已明确提及人工智能将成为经济发展的新引擎。在今年斯坦福大学一项面对全球的AI调查中,78%的中国受访者认为AI技术的普及利大于弊。我国用户对AI技术的正面态度居全球首位,这也为人工智能在我国高速发展提供了健康的土壤。值得注意的是,今年5月在天津召开的“第七届世界智能大会”上,人工智能伦理与安全成为会上主要讨论议题之一。

自去年开始,Check Point已经就ChatGPT带来的安全挑战进行了研究。作为 OpenAI 研发的人工智能平台,它在为人们生活带来便捷的同时,还可帮助网络犯罪分子实施新的攻击活动。人工智能工具为网络犯罪分子带来了诸多好处,包括但不限于:

1、无需技能和经验: 对于网络犯罪分子来说,人工智能的最大好处之一是其易用性,这使得更多用户可以轻松发起恶意活动,包括一开始可能不具备相关技能的潜在网络犯罪分子。过去几个月来,出现了一些新的小型网络犯罪团伙。借助人工智能,他们能够实施更复杂的网络攻击。

2、改进网络攻击 :由于这些人工智能工具采用无限制免费访问模式,因此攻击者可利用其速度和精度创建恶意代码和网络攻击,如网络钓鱼攻击活动。这些人工智能工具可以生成几乎相同或难以发现异常的内容。此外,这些工具拥有自主学习模式,因此不仅能够回答问题,而且还能创建各种内容(图像、视频甚至音频)。遗憾的是,这导致了所谓的“深度伪造”(Deepfakes) 技术的滥用。这是一种可用于传播虚拟信息的逼真伪造技术,巴拉克·奥巴马、乔·拜登、弗拉基米尔·普京等国家lingdao人的虚拟内容均被伪造过。

3、引发自动化网络攻击: 该技术导致使用 bot 和自动化系统发起的网络攻击大幅增加,提高了网络犯罪分子的攻击成功率。全球范围内网络攻击的攀升就证明了这一点——网络攻击比去年增加了 38%。此外,网络犯罪分子还可以利用基于人工智能的僵尸网络发起大规模 DDoS 攻击,致使其攻击目标的服务器瘫痪和服务中断。

4、克隆人工智能工具: 尽管开发人员快速响应去更新语言中的漏洞,但网络犯罪分子已经找到了绕过限制的方法。今年早些时候,Check Point 软件技术公司研究团队报告了网络犯罪分子正在暗网上分发和销售他们自己修改的 ChatGPT API。伴随最新版 ChatGPT4.0 的发布,市场上出现了一种新型攻击活动。这种攻击活动旨在盗取和出售高级帐户,让买家无限制地使用该工具的新功能。

监管人工智能学习的必要性

虽然人工智能无疑是未来发展方向,但包括 OpenAI 联合创始人之一埃隆·马斯克在内的专家们都要求对人工智能实施更广泛的监管。他们在一份公开请愿书中呼吁,在符合伦理的训练能够落实之前暂时停止这些工具的开发,同时欧盟等国际机构已经在制定自己的人工智能法律,并提出了重视网络安全和数据安全需求的提案。在我国,近年来也在逐步强化对人工智能的规范引导。中国国家新一代人工智能治理专业委员会2019年发布《新一代人工智能治理原则——发展负责任的人工智能》,2021年又发布《新一代人工智能伦理规范》,这一系列措施说明了各个政府对人工智能有序、安全发展的期待与重视。

人工智能监管的挑战在于人工智能模型学会的知识几乎无法从这些模型中删除。这意味着安全机制应侧重于防止收集或泄露某些类型的信息,而不是完全删除知识。如今,人工智能和机器学习是帮助提高网络安全功能的两大支柱。事实上,由于当前企业网络系统的复杂性和分散性,传统的人工监控、管理和风险控制已无法满足需求。在今年Check Point CPX全球大会上,以预防为先的思路,通过AI对抗AI的安全解决方案受到了与会来宾的重点关注。

如今,用户已经可以在Check Point 的 ThreatCloud AI 中看到该技术应用于网络安全领域的示例。ThreatCloud AI 是一款基于人工智能的威胁防御解决方案,它是 Check Point 软件技术公司所有产品背后的大脑,每天能够不断扫描网站、电子邮件、物联网设备、移动应用等,做出 20 亿次安全决策。

Check Point中国区技术总监王跃霖表示:“打赢与网络犯罪分子的竞赛仍是首要任务之一,我们必须确保环境及时更新且准备就绪,从而有效应对当前和未来的所有威胁。现在,Check Point有几款解决方案充分展示了人工智能在网络安全领域的无限可能性。为了降低与高级人工智能相关的网络风险,我们建议企业管理者应时刻保持‘预防为先’的安全理念,在开发或部署任何AI技术时,首先应确保其安全性,从而真正安全有效的通过AI技术提高自身核心竞争力。”

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
网络安全

相关文章

  • 为什么AMTD(自动移动目标防御)正成为网络安全的新范式?

    Gartner在今年2月底的一份报告中指出,AMTD(自动移动目标防御)是网络安全的未来。所谓AMTD是一种新兴的改变游戏规则的技术,通过积极主动地改变目标状态,变换暴露在敌人面前的攻击面,以削减攻击者有效发动攻击的能力。Gartner认为,该技术将进一步改进现有的网络防御技术,同时Gartner进

    标签:
    网络安全
  • 深信服上网行为监控:《产教融合行动计划(广州宣言)》

    仪式见证共期未来论坛同期举行了两项重要仪式:产教融合行动计划(广州宣言)启动仪式及《产教融合专业合作建设试点单位管理办法》发布仪式。这两项仪式标志着广州市在产教融合的道路上迈出了重要的一步,为全国产教融合的发展起到了积极推动作用。《产教融合行动计划(广州宣言)》内容一是以新时代中国特色社会主义思想为

    标签:
    网络安全
  • 成都链安荣登《嘶吼2023网络安全产业图谱》区块链安全榜单

    成都链安上榜《嘶吼2023网络安全产业图谱》2023年7月10日,嘶吼安全产业研究院联合国家网络安全产业园区(通州园)正式发布《嘶吼2023网络安全产业图谱》。成都链安凭借自身技术实力以及在区块链安全行业广泛的品牌影响力,荣登《嘶吼2023网络安全产业图谱》区块链安全赛道榜单。这也是成都链安连续第二

    标签:
    网络安全
  • 2023 年 6 月头号恶意软件:Qbot 成为 2023 年上半年最猖獗恶意软件

    CheckPointResearch报告称,多用途木马Qbot是2023年上半年最猖獗的恶意软件。与此同时,移动木马SpinOk于6月份首次位居榜首,该恶意软件在MOVEit暴出零日漏洞后开始肆虐2023年7月,全球领先的网络安全解决方案提供商CheckPoint®软件技术有限公司(纳斯达克股票代码

    标签:
    网络安全
  • 华顺信安荣获“网络空间安全产学协同育人优秀案例”二等奖

    7月6日,“第三届网络空间安全产学协同育人优秀案例”评选活动正式公布获奖名单,华顺信安与湘潭大学计算机学院·网络空间安全学院联合申报的参选案例获评优秀案例二等奖。本次活动由教育部高等学校网络空间安全专业教学指导委员会产学合作育人工作组主办,四川大学与华中科技大学共同承办。本次评选,华顺信安与湘潭大学

    标签:
    网络安全

热门排行

信息推荐