⚡ AiNews
⚡ 速览 🧠 模型
← 返回首页

#snapdragon

包含标签 "snapdragon" 的文章,共 1 篇。

🛠️ 开发工具 Reddit

ARPL:llama.cpp 的 ARM 硬件检测工具

ARPL 是一款面向 ARM 平台的运行时 ISA 与拓扑检测工具,针对 Snapdragon 8 Elite 等芯片深度优化。以往 llama.cpp 在移动端运行缺乏硬件感知,导致不同设备常年使用同一套线程和上下文配置。ARPL 能在运行时自动识别 CPU 核心集群,精确检测 SDOT、I8MM、SME2 等指令集扩展,并动态调整 llama.cpp 配置。这省去了针对每款手机单独编译的繁琐流程,大幅提升了移动端大模型的部署效率。