V2EX
Mac本地跑大模型:算了一笔账,真不划算
围绕Mac本地运行大模型的硬件成本与实际体验,对比了本地部署和云端API的性价比。以调用云端API每日约25元的花费来算,买一台4万元的M5 Max 128GB高配Mac,回本周期长达4.4年,远超3年的电子产品折旧期。实际体验上,量化后的本地模型在响应速度和生成质量上,和云端API仍有差距,常常需要人工返工。虽然本地部署在数据隐私上有绝对优势,但对普通开发者和个人用户来说,直接调用API在综合成本和效率上依然是更优解。
获取每日 AI 情报与羊毛福利
加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。