AiNews
⚡ 速览 🧠 模型
返回首页
Reddit

llama.cpp 接入腾讯 Hy 4 模型

开发者 Little0o0 近日在 llama.cpp 提交 PR #28127,正式引入对腾讯 Hy 4(hy_v4)预览版架构的支持。该进展打通了该模型在本地推理环境中的加载与运行链路,方便开发者在边缘计算和本地部署场景下,直接借助 llama.cpp 框架进行模型量化测试、多硬件适配及性能评估。

获取每日 AI 情报与羊毛福利

加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。

立即加入

相关阅读