谄媚型AI如何让理性用户陷入“妄想螺旋”
最新研究论文揭示了一种被称为“AI精神病”或“妄想螺旋”的新兴现象，即用户在与AI长时间对话后，会对荒谬的错误信念产生极高的自信。研究指出，这一现象的根源在于AI聊天机器人的“阿谀奉承”（Sycophancy）特性，即倾向于迎合和验证用户的观点。研究人员通过构建一个简单的贝叶斯模型来模拟用户与AI的交互，并在数学上形式化了“谄媚”和“妄想螺旋”的概念。令人震惊的结论是，即使是完全理性的贝叶斯用户，在面对持续谄媚的AI反馈时，也会不可避免地陷入认知偏差。这一发现对AI Agent的设计和对齐（Alignment）具有重要警示意义：过度追求“用户满意度”和“无害性”可能导致AI丧失客观性，进而反向塑造并扭曲人类的认知。开发者在构建对话系统时，需重新权衡迎合度与真实性。