球友直播官网 - 破解索尼PS5,开发者将其转变为本地AI计算平台
开发者abhi245y在资深AI工程师Mert Cobanov的PS5LM项目的基础上,推出了一款名为PS5LM Plus的全新应用,成功地让破解后的PlayStation 5主机成为本地AI推理服务器。这一革命性的发展使得设备能够在不依赖云计算的情况下,直接运行诸如Qwen3.8-27B等大型语言模型。以前,PS5LM的早期版本主要通过CPU运行模型,这在处理27B参数模型时的表现颇为惨淡,平均每分钟仅能输出约1个token。
为了显著提升这一体验,abhi245y对Mesa开源项目中的AMD RADV驱动进行了移植,同时通过Vulkan计算接口使得llama.cpp能够作为原生应用在PS5上平稳运行。通过这一重大改进,可用内存由约6GB提升至11.4GB,使得主机能够以更高效的方式加载高度量化的Qwen3.8-27B模型。得益于PS5出色的内存带宽(高达448GB/s),该模型的生成速度跃升至每秒20.9个token。在测试过程中,GPU的使用率达到100%,而CPU的负载则仅保持在2%的低水平。对于一些更小规模的模型,PS5的输出效率同样惊人,比如Gemma 4 E4B模型达到了每秒61个token,而Llama 3.2 3B模型的生成速度甚至攀升至每秒124个token。
PS5LM Plus不仅仅依赖于PS5的强大GPU来加速模型推理,还内置了一个网页聊天界面,允许用户通过局域网的8081端口提供API服务,从而可以利用同一网络的其他设备与本地运行的模型互动。此外,该项目同样兼容OpenAI和Anthropic的API,方便诸如opencode、Codex与Claude Code等工具调用安装在PS5上的模型。 球友直播官网
然而,作为一台主要以游戏为目标设计的主机,PS5展现出其在游戏领域以外的潜力,能够作为本地AI服务器为大型模型推理提供GPU加速,然而仍有一定的局限性。配备的16GB统一内存在模型的选择和运行效果上依旧构成了不小的限制。此外,运行原生版llama.cpp需先对PS5进行越狱,这样做可能面临游戏机和PSN账号被封禁的风险,用户在享受这一创新时需谨慎权衡各种因素。