Intel LLM-Scaler-vLLM PV 1.5 发布
Intel 发布 LLM-Scaler-vLLM PV 1.5 版本，面向本地大模型部署与开发场景优化了推理性能。该版本重点改进了计算资源调度与扩展机制，在 Intel 硬件平台上有效提升了开源大模型的推理吞吐量并降低了延迟，从而降低了本地及生产环境的 AI 推理成本。
极小神经网络在单 Intel AMX 核心上跑出 6616 tok/s
这项研究展示了极小型神经网络在硬件层面的极致性能。通过针对 Intel AMX（高级矩阵扩展）指令集的专项优化，单个计算核心的推理吞吐量达到了每秒 6616 个 Token。该实践表明，结合轻量化架构设计与特定硬件加速，能大幅压榨边缘设备的算力潜力，为主流低功耗、低资源环境下的模型落地提供了切实可行的优化路径。
英特尔 Arc Pro B60 Dual 48G 曝光
电商平台 Digitec/Galaxus 上线了一款配备 48GB 显存的双芯工作站显卡——英特尔 Arc Pro B60 Dual。大容量显存配置切中本地大模型运行的痛点，为开发者在进行本地推理、模型微调及高负载 AI 工作负载时，提供了一种高性价比的硬件新选择，进一步丰富了异构计算生态。