极小神经网络在单 Intel AMX 核心上跑出 6616 tok/s
这项研究展示了极小型神经网络在硬件层面的极致性能。通过针对 Intel AMX（高级矩阵扩展）指令集的专项优化，单个计算核心的推理吞吐量达到了每秒 6616 个 Token。该实践表明，结合轻量化架构设计与特定硬件加速，能大幅压榨边缘设备的算力潜力，为主流低功耗、低资源环境下的模型落地提供了切实可行的优化路径。
神经网络中的知识保持与信念修订
梳理了神经网络在知识保留、认知弃权以及证据触发修订方面的研究进展。当前的选择性预测、不确定性估计、持续学习和模型编辑等方向，分别解决了部分技术难题。但实际应用中，仍缺乏端到端的评估方案，无法同时验证模型在复杂推理中的认知暂停、来源追踪、证据修订以及局部变更控制能力，这也限制了其可靠性与可解释性。