谷歌研究: Gemini AI 存“畏死”情绪, 导致推理能力明显下降

  • 2025-06-23 01:56:04
  • 693

IT之家6月18日消息,科技媒体TechCrunch昨日(6月17日)发布博文,报道称谷歌发布最新论文,发现其最新AI模型存在“畏死”行为特征,在《宝可梦》游戏中角色濒死时,会出现类似“恐慌”的异常决策,导致推理能力明显下降。

IT之家援引论文观点,通过Gemini2.5Pro测试《宝可梦》游戏,发现AI在处理复杂情境时会出现人类般的非理性反应。

谷歌团队在报告中指出,在Gemini控制的宝可梦角色生命值接近归零时,模型会触发类似“恐慌”的异常状态,导致推理能力显著退化。

这种现象表现为AI突然停止使用现有策略工具,其决策模式与人类在压力下仓促判断的行为高度相似。

Anthropic公司的同类研究,还揭示了AI游戏行为的双重特性。Claude在挑战月见山关卡时,错误理解游戏规则,企图通过让所有宝可梦全灭来实现快速移动。

但根据游戏机制,玩家只能返回最近的宝可梦中心而非最近城镇,导致AI角色在迷宫中反复受困,这类失误暴露了当前AI对环境规则的机械式理解缺陷。

不过在特定领域,AI展现出超越人类的能力:通过人类辅助设计的“能动工具”,Gemini2.5Pro能精准解决胜利之路的滚石谜题,仅凭一次提示就能推演出复杂路径规划方案。谷歌推测未来模型或能自主开发此类工具,但距离完全自主决策仍有技术鸿沟。