VindexLLM：基于 Delphi 开发的 Vulkan 推理引擎
VindexLLM 是面向 Windows 平台打造的大模型推理引擎，基于 Delphi 12 开发，原生支持 Vulkan GPU 加速与 GGUF 模型格式。该项目摆脱了传统 C/C++ 技术栈的依赖，为 Windows 开发者提供了一条轻量、高效的本地模型运行路径，丰富了特定技术生态下的 AI 开发工具链。
开源本地 AI 推理路由设备项目
Hacker News 上线了一个开源的本地推理路由项目，旨在简化家庭推理栈的配置与管理。该项目采用带有 Web UI 的不可变系统架构，提升了长期运行的稳定性。目前后端已适配 Vulkan、HIP 和 CUDA，开发者主要在 AMD 硬件上完成了验证，正面向社区征集更多硬件平台的适配反馈。该方案专注于轻量与可移植性，为开发者提供开箱即用的本地模型运行环境。
Rust 实现的 Qwen 模型推理引擎
开发者推出纯 Rust 编写的 Qwen GGUF 模型推理引擎 RustingStrata，能在 12GB 显存的 GPU 上高效运行。该引擎完全不依赖 ggml，其 CUDA 内核在启动时通过 NVRTC 动态编译，且同一套内核也支持在 Vulkan 上运行。目前，该引擎已兼容 Qwen 多个规格的模型，包括 Qwen3.5/3.6、Qwen3、Qwen3.8-27B dense、Qwen3-Next-80B-A3B 以及 Qwen3.8-Flash-Next 等。在部分模型上，其运行速度超越了原生 Strata，为在消费级硬件上部署大模型提供了新方案。
开发者讨论AI对高水平程序员的替代能力
V2EX上有开发者发帖探讨AI逐渐取代高水平程序员的现象。作者分享了使用Codex成功为自己开发的C++20游戏引擎Vulkan渲染器添加光线追踪功能的经历。AI一次性编写正确并完美整合到现有代码中，展现出对复杂代码库极高的理解能力。作者指出，这种技术能力表明AI在特定复杂开发任务上的表现已不逊于人类。同时，作者正在设计一款专为AI开发优化、采用C++20和Vulkan/WebGPU实现的开源游戏引擎EVEngine，引发了社区对AI辅助编程与游戏开发范式转变的讨论。