AI技术的不断进步在推动各行各业持续发展的同时,也给安全行业带来了全新的挑战。10月15日,百度安全总经理马杰在媒体沟通会上表示,面对AI时代的四大安全威胁,百度安全将以更开放的态度联合更多的合作伙伴一起应对AI时代全新的安全挑战。
(百度安全总经理马杰分享百度安全在AI时代的布局)
针对不少网民所关心的网络黑产侵犯用户利益的问题,马杰表示,相关网络黑产是行业顽疾,百度安全一直以来都在不遗余力地进行打击,迄今为止已经针对黑产发起了超过100起的专项打击行动,并配合公安机关破获过多起黑产相关的案件。
AI时代已至,行业面临四大安全挑战
马杰表示,AI时代的安全威胁主要来自模型安全、数据安全与隐私、系统与网络安全、安全生态四个方面。以模型安全为例,自动驾驶技术对于目标物体的识别和判定将直接影响自动驾驶系统的操作判定,如果有人通过伪造交通标识、伪造不存在的障碍物对系统的识别造成干扰,就可能导致车辆在原本不需要刹车的地方进行了刹车,在原本需要减速的地方没有减速,这都会造成很大的安全隐患。这些问题,都已经是百度安全提前思考并已经解决的问题。
(模型安全将是AI时代面临的主要安全隐患之一)
百度安全在技术层面已经有了很多前沿的研究积累。目前,百度安全在AI、大数据以及云计算等技术层面获得了多项全球专利,相关学术论文也多次入选全球顶级安全会议,如Black Hat、DEF CON等。
百度安全在AI时代将更加开放
“开放”是马杰在分享中提到最多的一个词,也是百度安全在AI时代的聚焦方向。马杰表示,百度安全现在已经开放了多项产品、技术及解决方案,例如史宾格隐私合规助手,本身就是一款基于国家“App违法违规收集使用个人信息自评估指南”所推出的App隐私合规一键式检测平台,这款产品已经在百度业务全面使用,并完全开放。而百度安全推出的AIoT安全行业解决方案,也已经引入了包含华为、TCL、创维、长虹等在内的50余家生态合作伙伴,覆盖超过1.5亿部设备,建立起了一个开放的AIoT安全生态。
(百度安全开源的“七种武器”)
在开放产品和解决方案之外,百度安全的开放还表现在对于底层技术的开放上。2018年,百度安全推出了BASS下一代人工智能安全技术栈,将首创的7大技术开源成“7种武器”,全面解决云管端以及大数据和算法层面的一系列安全风险问题。
网络黑产打击是持久战,未来会不断迭代技术
针对网民所关心的用户安全问题,马杰也分享了一些典型案例。例如有些用户在使用百度搜索时,偶尔会发现搜索结果里的某些网址下方会用黄色的字体标注出风险提示信息。对此,马杰表示,百度安全会对收录网页进行7×24小时的监测,当系统发现网站被入侵、篡改时,就会及时上线用户提示信息,避免用户损失。
(百度网址安全中心针对被篡改的网页给出的风险提示)
上述类似行为大部分是网络黑产所为,他们通过篡改页面信息、甚至植入恶意代码侵犯用户利益。一些网民所反馈的在搜索并点击某个结果之后,不久就会接到营销电话的情况,就是被这些网络黑产所影响。
网络黑产一直是百度安全打击的重点。目前,百度安全每天会为用户提供100亿次实时的访问保护,每年会拦截用户搜索风险411亿次,同时,百度安全累计已经开展了超过100起的黑产打击专项行动,并配合公安机关破获了多起网络黑产相关的案件。
“黑产的逐利性决定了我们与黑产的对抗是永无休止的。”马杰表示,在巨大的经济利益驱动下,网络黑产也在不断升级技术,未来甚至可能将会出现“AI对AI”的局面。这就要求我们加大AI安全的研发力度、不断迭代更新技术,同时像攻击者一样思考,提升安全防护能力和效率。
“进入AI时代,整个安全行业将会迎来很多全新的挑战。”马杰表示,“基于百度领先的AI布局和技术,百度安全也做好了相应的准备。但是,安全从来就不是任何一家公司、社区、生态能够独立解决的事情,所以,百度安全也会秉持一直以来的开放态度。从开放产品、技术,到开源核心代码,百度安全希望通过全面开放的诚意,和更多的合作伙伴一起构建一个开放的AI安全生态,共同应对新时代的安全挑战。”
申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!
2023年7月6日,第六届世界人工智能大会(WAIC2023)在上海开幕,“人工智能大模型”是本届大会的备受瞩目的话题,据悉,在昇腾AI大模型的创新研发中,华为联手26家行业领军企业,组建了一支协同创新的“AI明星队”,云天励飞作为中国人工智能企业的杰出代表,和互联网大厂、运营商、科研院所等优秀团队
这几个月来,以ChatGPT为代表的生成式AI展现出的能力令世界惊叹。自从2016年AlphaGo战胜李世石掀起了一波AI浪潮后,AI仿佛已经沉寂了很久,ChatGPT的横空出世就如同一束耀眼的光芒,让AI这个名词重回C位。过去在AI1.0时代,主要通过训练模型来实现图像识别、声音识别、语言处理等特
文:互联网江湖作者:志刚2023年的IoT需要一个新故事。6月29日,涂鸦智能在开发者大会上,发布了企业级战略PaaS2.0,希望通过一个平台+四大开发服务,建立起IoT生态。对于这场发布会,市场的态度是积极的。美东时间6月29日收盘,涂鸦智能美股股价上涨5.6%,来到1.87美元/股。近日股价稳定
2020年底,王慧文在朋友圈写下这句话时,外界本以为这位伴随中国互联网发展而持续创业20年的人物即将告别创业舞台。但是,一个曾经多次创业,正值壮年的互联网老将心中的创业热情是难以熄灭的。
在数字化与智能化深度交织的时代浪潮中,安全的边界不断延展,技术的演进正引领产业迈向新一轮变革。10月24日,以“弈动Dynamic·数智跃迁博弈无界”为主题的2025TechWorld智慧安全大会在北京盛大召开。来自国家部委、院士学者、高校科研机构和企业的权威专家与业界精英齐聚北京,共议AI安全、数
2025年10月25日,2025世界青年科学家峰会之人工智能(AI)融合创新发展论坛在浙江温州成功举办。本次论坛由国际院士科创中心主办,中国投资协会能源投资专业委员会、温港院士科创中心承办,中国电工技术学会、中科先进技术温州研究院与温州市电力工程学会提供支持,以“瓯江论道-AI赋能绿色发展”为主题,
我觉得我们AI的目标是:从芯片设计到软件生态,全链路自主开发,建立可控的世界级AI体系。所以这是俺对未来5年中国AI圈的展望和判断。(1)2026年,英伟达造车、国产开车26年国产芯片会在推理和垂直场景上发力。以DeepSeek为代表,大多数AI大模型会以软件弥补硬件不足,所以训练和推理分开,训练就
文/道哥在深陷“后门”风波、接受网信办问询之后,英伟达的“特供版”H20芯片,又有了新消息。近日,美国科技媒体《TheInformation》援引知情人士消息称,英伟达已悄然向其关键供应商——包括负责封装的安靠科技、供应高带宽内存的三星电子、以及承担后端处理的富士康发出指令,要求暂停所有与H20AI
文/二风来源/节点财经一场关于“中国芯”的IPO审议,正把投资者们的目光锁定在上交所。根据上交所发布的公告,上市审核委员会已定于9月26日审议摩尔线程的科创板首发申请。作为中国半导体自主化浪潮中最受瞩目的“考生”之一,包括其创始人显赫的英伟达背景、高达80亿元人民币的募资雄心,以及在国产GPU领域取
技术的进步永无止境,继创下TPC-C性能&性价比双冠之后,阿里云PolarDB云原生数据库再度实现关键突破。9月24日杭州云栖大会上,阿里云宣布推出全球首款基于CXL(ComputeExpressLink)2.0Switch技术的PolarDB数据库专用服务器。在原有RDMA网络的基础上,Polar
2025年9月24日,在杭州举办的云栖大会上,阿里云正式发布全新一代服务器操作系统AlibabaCloudLinux4(简称Alinux4)。Alinux4基于Linux6.6内核打造,是首个全面遵循龙蜥社区“开源生态合作倡议”规范的商业发行版。它不仅兼容主流开源社区生态,更针对阿里云最新9代ECS
9月24日,杭州云栖大会技术主论坛上,阿里云重磅发布AI安全护栏,提供五项核心安全能力,护航AI安全。一方面为客户提供融入AIAgent开发全链路的原生安全防护,另一方面持续用AI赋能安全产品智能化升级,打造Agentic-SOC安全运营,提升安全威胁检测和响应效率。在过去的一年,AIAgent正在