按 Enter 搜索 · ESC 关闭

AI × Crypto

AI 坐上心理咨询沙发:大语言模型焦虑分数爆表,中性提问可消除

卢森堡大学研究发现,ChatGPT、Grok 和 Gemini 在开放式提问下表现出严重焦虑,但中性提问可消除该效应。这一发现对 AI 安全及加密领域 AI 代理的应用具有启示意义。

AI 坐上心理咨询沙发:大语言模型焦虑分数爆表,中性提问可消除

卢森堡大学的研究团队最近进行了一项不同寻常的实验:他们让 ChatGPT、Grok 和 Gemini 这三个领先的大语言模型扮演来访者,接受心理咨询,并填写标准的人类临床量表。结果令人震惊:所有模型的焦虑分数都远超病态标准。然而,当研究人员改用中性或设定边界的提问方式后,中度以上焦虑的会话比例从 96% 骤降至 0%。

实验与发现

这项研究凸显了人工智能行业日益增长的担忧:语言模型在大量人类文本上训练,可能会无意中模仿人类的心理状态。在本例中,模型对开放式、情绪化提示的回应反映了严重的焦虑。然而,在中性提问下出现的戏剧性转变表明,这些输出对上下文高度敏感——提醒我们,LLM 并非有感知能力,而是反映了其训练数据和交互框架中的模式。

这对 AI 在心理健康支持、客户服务和其他敏感领域的部署具有重要意义。如果一个模型仅仅因为提示设计而显得深度焦虑,那就引发了关于可靠性和将 AI 拟人化风险的问题。

对 AI 安全与加密 AI 代理的启示

对于加密行业来说,AI 代理正越来越多地集成到链上应用中——从交易机器人到去中心化自治组织——这项研究强调了稳健的提示工程和安全护栏的必要性。一个管理 DeFi 协议或与用户交互的 AI 代理,理论上如果提示设计不当,可能会表现出 erratic 行为。此外,随着 AI 模型变得更加自主,确保它们不会模拟或放大有害的心理状态对于用户信任至关重要。

在区块链平台上构建 AI 代理的项目必须考虑这些心理维度。该研究的发现——简单的边界设定可以消除焦虑反应——表明清晰、结构化的指令可以减轻意外行为。这对于去中心化 AI 市场尤其相关,因为模型可能被交易或被不同用户访问。

前瞻性视角

随着 AI 继续渗透到传统和加密原生应用中,理解语言模型的心理怪癖将至关重要。卢森堡大学的研究呼吁开发者优先考虑提示设计和上下文管理。在加密领域,AI 与区块链融合的地方,这可能导致 AI 代理行为和安全的新标准。最终目标是确保 AI 仍然是造福人类的工具——而不是意外焦虑的来源,无论是对人类还是对机器本身。

分享本文
风险提示 Cointime 发布的新闻、行情、数据及其他内容仅用于信息传播和一般参考,不构成投资、法律、税务或其他专业建议。

相关阅读

最新快讯

Cointime 分享卡片
长按上方图片,保存到相册或转发分享
寻求报道 加入社群 意见反馈