原标题:《Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console》 评分: 345 | 作者: Anon84 💭 索尼卖游戏机,用户却拿去当廉价 AI 服务器? 🎯 讨论背景 该项目让已 jailbreak 的 PlayStation 5(Sony 的封闭式游戏主机)原生运行 llama.cpp(用于在本地设备执行 LLM 的开源推理引擎),并加载 GGUF(llama.cpp 常用的量化模型格式)模型。讨论所指的 Qwen3.8-27B 是一类约 270 亿参数的开源语言模型,但受 PS5 约 11.4GB 可用 shared memory 限制,演示主要依赖 2-bit quantization(以明显降低内存占用为代价的模型压缩)。PS5 的 AMD 定制 APU 具备较高 GDDR6 内存带宽,因此有人把它与 BC-250(采用 PS5 同源裁切 AMD 芯片的矿机主板)、独立 GPU 和 Mini PC 比较,用于评估本地 inference 的成本和速度。由于越狱会绕过 Sony