开发者将破解后的索尼 PS5 当作本地 AI 服务器：利用 GPU 加速运行 27B 参数 Qwen3.8-

AI 总结
• 10月17日消息，开发者abhi245y基于Mert Cobanov的PS5LM项目开发了原生GPU应用PS5LM Plus，让破解后的PS5能本地运行Qwen3.8-27B等大模型。
• 通过移植Mesa的AMD RADV驱动和Vulkan接口，可用内存从约6GB提升至11.4GB，借助448GB/s内存带宽，27B模型推理速度达每秒20.9个token，GPU使用率100%，CPU仅2%。
• 小型模型速度更高，Gemma 4 E4B约61 token/s，Llama 3.2 3B达124 token/s；
• 软件内置网页聊天界面，支持通过局域网8081端口提供API，兼容OpenAI和Anthropic API以便调用。
• 尽管展示了PS5硬件在游戏外的潜力，但16GB统一内存限制了模型选择，且越狱存在主机及PSN账号被封禁的风险。

【PS5本地跑27B模型，速度达20.9 token/s】
IT之家 10 月 17 日消息，据外媒 Wccftech 报道，开发者 abhi245y 基于资深 AI 工程师 Mert Cobanov 的 PS5LM（ llama.cpp 移植项目），开发了原生 GPU 应用 PS5LM Plus，让经过破解的 PS5 主机能够在本地运行 Qwen3.8-27B 等大型语言模型。

【性能飞跃：从1 token/min到20.9 token/s】
IT之家获悉，PS5LM 的早期版本主要依靠 CPU 运行模型，执行 27B 参数模型时，平均每分钟只能生成约 1 个 token。

为提升性能，开发者 abhi245y 移植了 Mesa 开源项目中的 AMD RADV 驱动，并通过 Vulkan 计算接口让 llama.cpp 能够作为原生应用在 PS5 上运行。

这项改动将可用内存从约 6GB 提升至 11.4GB，使主机能够运行经过高度量化的 Qwen3.8-27B 模型。





得益于 PS5 较高的内存带宽（448GB/s），Qwen3.8-27B 的生成速度可达每秒 20.9 个 token。

测试期间，GPU 使用率达到 100%，CPU 使用率仅为 2%。

对于规模更小的模型，PS5 还能实现更高的生成速度，例如 Gemma 4 E4B 约为每秒 61 个 token，Llama 3.2 3B 则达到每秒 124 个 token。

【开放API与网页界面】
除了利用 PS5 的 GPU 加速模型推理，PS5LM Plus 还内置网页聊天界面，并可通过局域网 8081 端口提供 API 服务，用户可通过同一网络中的其他设备访问页面，与本地运行的模型对话。

该项目还兼容 OpenAI 和 Anthropic API，方便 opencode、Codex、Claude Code 等工具调用 PS5 上运行的模型。

【风险与局限】
对于一台主要面向游戏设计的主机而言，PS5 能够充当本地 AI 服务器，为大模型推理提供 GPU 加速，展示了其硬件在游戏之外的应用潜力。

不过，该机配备的 16GB RAM 统一内存仍然限制了模型的选择和运行质量。

此外，运行原生版 llama.cpp 需要先对 PS5 进行越狱，可能会导致游戏机及 PSN 账号被封禁等风险。

[来源链接] https://www.ithome.com/1/014/372.htm