Reddit用LLM治理AI垃圾：日均拦截2300万条
Reddit 披露了其利用大语言模型（LLM）与传统自动化工具相结合对抗 AI 生成垃圾内容的最新成果。该平台通过 LLM 捕捉发帖中高度隐蔽、精心策划的虚假行为和人为炒作模式，并对疑似自动化账户进行真人验证。 升级后的系统成效显著：日均拦截 2300 万条垃圾浏览信息、捕获 2.5 万条新垃圾帖子/评论、撤销近 200 万次无效投票，用户垃圾信息接触量减少 20%。此外，在仇恨和暴力内容管控上，自动化系统将“检测到处理”的平均用时缩短至 5 秒内，执法力度提升超 200%，误报率降低超 40%。 这一案例展示了 LLM 在大规模社区治理和内容风控（Trust & Safety）领域的实际落地价值。对于出海开发者和社交/社区类 AI 创业者而言，Reddit 的“以 AI 治理 AI”策略为解决生成式 AI 带来的垃圾内容泛滥问题提供了极具参考性的技术范式。