跳到正文
Hacker News· Anon84·· 2 小时前AI 评分34

越狱 PS5 上跑 llama.cpp:PS5LM 让主机原生运行任意 GGUF 模型

Llama.cpp on a jailbroken PS5: run any GGUF model natively on the console

AI 导读

PS5LM 在越狱 PS5 上通过 llama.cpp 的 Vulkan 后端调用主机 RDNA 2 GPU,可原生运行任意 GGUF 模型并作为家庭私有模型服务器。

来源:Hacker News · github.com