开发者abhi245y在开源项目PS5LM的基础上做出了PS5LM Plus，让经过越狱的索尼PS5能以原生应用的形式，用GPU运行量化后的Qwen3.8-27B模型，出词速度落在每秒20.9token这一档。测试期间GPU占用率100%，CPU只有2%。PS5LM本身是资深AI工程师Mert Cobanov把llama.cpp移植到PS5上的项目。
此前的版本只能靠CPU跑。同样是27B的模型，从存储里流式读取时每分钟大约只生成一个token，可用内存被限制在6GB上下，加载更大一点的模型容易把系统界面拖死，只能算可行性验证。早期版本走的是payload方式，进程能拿到的内存额度本身就被系统卡得很死，这是它一直上不了大模型的直接原因。
提速的关键是把GPU解锁。开发者移植了Mesa开源项目里的AMD RADV驱动，借Vulkan这个计算接口让推理引擎以原生应用身份跑起来，可用内存池从约6GB提升到11.4GB。PS5用的是256位宽的GDDR6统一内存，CPU和GPU共享16GB，带宽448GB每秒，这一点是它能扛住27B模型的基础。
小模型的数字更高。另外两个尺寸更小的模型分别跑到每秒61个和124个token，已经进入可以连续对话的区间。整机跑推理时功耗约86瓦，温度稳定在54到55摄氏度。PS5LM Plus还带了监控面板，可以实时看生成速率、硬件占用、功耗和内存分配，支持从内置存储、USB或M.2硬盘加载模型文件。
它同时把局域网接口做出来了。服务开在8081端口，同网段设备直接调，同网络下的电脑和手机可以打开网页跟模型对话，接口同时认Anthropic与OpenAI两套格式，opencode、Codex、Claude Code这类工具能直接调用。一台闲置的主机因此变成一台本地推理服务器。
要跑起来得先越狱，固件版本限定在7.00到13.60之间，还要按顺序加载三个不同的组件；索尼从未支持或承认这套做法，越狱会失去保修，操作出错可能把机器刷成砖，账号也有被封的风险。16GB统一内存仍然是天花板，决定了能跑多大的模型。长提示词的处理速度远不如出词速度好看，喂进去一份长文档要等上一阵才能开始生成。
申请创业报道，分享创业好点子。点击此处，共同探讨创业新机遇！
