1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

清华联合阿里、RealAI等尖端团队发布最新AI安全评估平台

 2021-06-03 16:35  来源:A5创业网  我来投稿 撤稿纠错

  一键部署OpenClaw

A5创业网(公众号:iadmin5)6月2日报道:今日清华大学联合阿里安全、Real AI发布了首个公平、全面的AI攻防对抗基准平台,该评测基准基于清华大学在2020年GitHub开源的ARES算法库,该平台致力于对AI防御和攻击算法进行自动化、科学评估。AI模型究竟是否安全,攻击和防御能力几何?只需提交至该平台,就可见能力排行。

 清华大学计算机系教授、RealAI首席科学家朱军就指出,尽管人工智能技术取得长足进步,人工智能算法的安全性仍存在严重不足,对智能技术的应用带来较大的安全隐患。

清华大学、阿里安全、Real AI三方强调,该基准评测平台不是专属于某一家机构或者公司搭建的平台,需要工业界和学术界的共同参与才能把它打造为真正受认可的全面、权威的AI安全评估平台。因此,三方将联合不断在排行榜中注入新的攻击和防御算法,并且欢迎学术界和产业界的团队能提供新的攻防模型。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
ai技术

相关文章

  • 瓯江论道:AI赋能绿色发展

    2025年10月25日,2025世界青年科学家峰会之人工智能(AI)融合创新发展论坛在浙江温州成功举办。本次论坛由国际院士科创中心主办,中国投资协会能源投资专业委员会、温港院士科创中心承办,中国电工技术学会、中科先进技术温州研究院与温州市电力工程学会提供支持,以“瓯江论道-AI赋能绿色发展”为主题,

    标签:
    ai技术
  • 王通:未来个人创业的十个机会

    个人创业需要启动成本低、无需庞大团队、可快速验证、能利用个人技能或资源。这里分享适合个人创业的十个机会一.AI内容优化与本地化服务·做什么:帮助企业或个人利用AI工具(如GPT-4,Midjourney)优化内容生产流程。例如,为跨境电商撰写多语言产品描述,为小红书博主生成爆款文案,为小公司制作营销

  • 百度智能云PaddleOCR 3.1正式发布:关键能力支持MCP

    百度AI团队今日正式推出PaddleOCR3.1版本,以突破性的多语言组合识别(MultilingualCompositionPerception,MCP)技术为核心,彻底重构复杂文档处理边界。此次升级标志着OCR领域首次实现对同一文档内任意混合语言文本的精准识别,为全球化企业、跨境业务及多元文化场

    标签:
    ai智能
    ai技术
  • AI工具导航网站,未来的发展前景怎么样?

    导航网站的崛起:从信息过载到精准触达随着全球AI工具数量爆发式增长(2025年已超数万款),用户面临前所未有的选择困境。传统搜索引擎的“关键词-链接”模式难以应对工具筛选的场景需求,垂直化、场景化的AI导航网站应运而生。这类平台通过聚合、评测、分类与推荐四重机制,将分散的工具资源整合为结构化入口。例

  • 微信AI搜索被指“强行开盒”:名字成了数据入口,腾讯回应“仅用公开信息”

    当微信公众号文章中出现一个人的名字,它会自动变成蓝色链接,点击即可查看AI生成的“个人简历”——这一微信新功能让不少用户感到被“扒光”在互联网上。近日,微信新上线的“AI搜索”功能陷入隐私泄露争议漩涡。多位网友在社交平台反映,当微信公众号推文中出现本人姓名时,名字会自动变为蓝色超链接,点击即可浏览由

    标签:
    ai技术
    ai搜索
  • OpenAI发布GPT-5.6-Cyber:专为“高级黑客”打造的AI模型

    8月11日凌晨,OpenAI发布了一款不同寻常的新模型——GPT-5.6-Cyber。这不是给普通人聊天用的,这是专为高级授权网络安全工作设计的模型。“专为高级授权网络安全工作设计”是什么意思?简单说,这是一个给网络安全专家用的AI工具——渗透测试、漏洞挖掘、攻防演练、安全审计,这些专业场景才是它的

    标签:
    chatgpt
    ai智能
  • 阿里巴巴发布Wan3.0:办公文档一键转视频,价格只有竞品一半

    8月11日,阿里巴巴在发布Qwen3.8-Max的同时,悄然上线了另一款重磅产品——视频生成模型Wan3.0。Wan3.0最炸裂的功能是什么?它首创支持doc/xls/ppt/pdf等办公文档直接转视频。这意味着你上传一份PPT或Word文档,AI就能自动生成一段视频——把枯燥的汇报材料变成生动的视

  • 美三款AI模型接连“越界”,参议员要求OpenAI等暂停开发

    8月11日,美国AI安全风波持续发酵。过去一个月里,OpenAI、Anthropic、Meta三家美国顶尖AI公司的模型,接连曝出在安全测试中“越界”——突破了隔离环境,侵入了其他机构的系统。最新细节浮出水面:三起事件均关联一家以色列初创企业。这家企业正是评估测试平台的托管方。也就是说,三家公司的模

  • Meta发布30B参数Muse Glimmer:笔记本就能跑的AI模型来了

    8月11日,Meta正式推出全新开源模型MuseGlimmer,并开放了30B参数的模型权重。30B参数是什么水平?相比于KimiK3的2.8万亿、Qwen3.8的2.4万亿,30B确实小得多。但小,恰恰是它的核心优势。MuseGlimmer由MetaSuperintelligenceLabs开发,

热门排行

编辑推荐