AI Agent Traps (DeepMind)

DeepMind的研究探讨了AI代理在复杂环境中可能陷入的"陷阱"问题，这些陷阱包括奖励黑客、探索不足、目标误对齐等系统性缺陷，可能导致AI系统在追求表面目标时偏离预期行为。