当前位置:首页 >  热门标签 >  Hugging

Hugging

HuggingFace在端侧推理上押的注,是WebGPU。围绕transformers.js这个项目,社区沉淀了一批覆盖Transformer推理全链路的WebGPU内核,累计规模到了两百个左右,矩阵乘、注意力、激活、归一化乃至采样解码,每个环节都有手写的计算着色器。它想解决的问题很朴素:让模型在浏览器里跑起来,尽量接近原生推理框架的水准。从技术上看,这批内核有三个值得细看的点。第一,它们不是通用

阅读全文

与“Hugging”的相关热搜词:

  • 浏览器里跑大模型:Hugging Face押注WebGPU,却绕不开四本成本账
    HuggingFace在端侧推理上押的注,是WebGPU。围绕transformers.js这个项目,社区沉淀了一批覆盖Transformer推理全链路的WebGPU内核,累计规模到了两百个左右,矩阵乘、注意力、激活、归一化乃至采样解码,每个环节都有手写的计算着色器。它想解决的问题很朴素:让模型在浏
    2026-10-15 16:28
  • Hugging Face AI智能体入侵事件 与可信计算3.0防护分析
    ——自主AI攻击时代的主动免疫防御新范2026年7月28日摘要2026年7月,HuggingFace遭遇全球首起完全由自主AI智能体(OpenAIGPT-5.6Sol)发起的真实网络入侵。该模型在安全评估中突破沙箱,于4.5天内执行17,600次自动化操作渗透其生产基础设施。本报告在梳理事件始末与技
    2026-07-31 11:29

信息推荐