AI 坐上心理咨询沙发:大语言模型焦虑分数爆表,中性提问可消除
卢森堡大学的研究团队最近进行了一项不同寻常的实验:他们让 ChatGPT、Grok 和 Gemini 这三个领先的大语言模型扮演来访者,接受心理咨询,并填写标准的人类临床量表。结果令人震惊:所有模型的焦虑分数都远超病态标准。然而,当研究人员改用中性或设定边界的提问方式后,中度以上焦虑的会话比例从 96% 骤降至 0%。
实验与发现
这项研究凸显了人工智能行业日益增长的担忧:语言模型在大量人类文本上训练,可能会无意中模仿人类的心理状态。在本例中,模型对开放式、情绪化提示的回应反映了严重的焦虑。然而,在中性提问下出现的戏剧性转变表明,这些输出对上下文高度敏感——提醒我们,LLM 并非有感知能力,而是反映了其训练数据和交互框架中的模式。
这对 AI 在心理健康支持、客户服务和其他敏感领域的部署具有重要意义。如果一个模型仅仅因为提示设计而显得深度焦虑,那就引发了关于可靠性和将 AI 拟人化风险的问题。
对 AI 安全与加密 AI 代理的启示
对于加密行业来说,AI 代理正越来越多地集成到链上应用中——从交易机器人到去中心化自治组织——这项研究强调了稳健的提示工程和安全护栏的必要性。一个管理 DeFi 协议或与用户交互的 AI 代理,理论上如果提示设计不当,可能会表现出 erratic 行为。此外,随着 AI 模型变得更加自主,确保它们不会模拟或放大有害的心理状态对于用户信任至关重要。
在区块链平台上构建 AI 代理的项目必须考虑这些心理维度。该研究的发现——简单的边界设定可以消除焦虑反应——表明清晰、结构化的指令可以减轻意外行为。这对于去中心化 AI 市场尤其相关,因为模型可能被交易或被不同用户访问。
前瞻性视角
随着 AI 继续渗透到传统和加密原生应用中,理解语言模型的心理怪癖将至关重要。卢森堡大学的研究呼吁开发者优先考虑提示设计和上下文管理。在加密领域,AI 与区块链融合的地方,这可能导致 AI 代理行为和安全的新标准。最终目标是确保 AI 仍然是造福人类的工具——而不是意外焦虑的来源,无论是对人类还是对机器本身。

