Is the `Agent' Paradigm a Limiting Framework for Next-Generation Intelligent Systems?
Jesse Gardner, Vladimir A. Baulin
“代理”的概念深刻地塑造了人工智能(AI)研究,指导了从基础理论到当代应用的发展,如基于大型语言模型(LLM)的系统。 本文批判性地重新评估了这种以代理为中心的范式的必要性和最优性。 我们认为,其持续的概念模糊性和固有的以人类为中心的偏见可能代表一个限制框架。 我们区分代理系统(受代理启发的AI,通常是半自主的,例如基于LLM的代理),代理系统(完全自主,自产系统,目前只有生物)和非代理系统(没有代理印象的工具)。 我们的分析基于对相关文献的系统审查,解构了各种人工智能框架的代理范式,强调了在定义和衡量自主性和目标导向性等属性方面的挑战。 我们认为,许多人工智能系统的“代理”框架虽然具有中心用途,但可能具有误导性,并可能掩盖潜在的计算机制,特别是在大型语言模型(LLM)中。 作为替代方案,我们建议转向基于系统级动态、世界建模和物质智能的框架。 我们的结论是,在复杂系统、生物学和非常规计算的启发下,研究非代理和系统框架对于推进稳健、可扩展和潜在的非拟人化形式的一般智能至关重要。 这不仅需要新的架构,还需要从根本上重新考虑我们对智能本身的理解,超越代理隐喻。
The concept of the 'agent' has profoundly shaped Artificial Intelligence (AI) research, guiding development from foundational theories to contemporary applications like Large Language Model (LLM)-based systems. This paper critically re-evaluates the necessity and optimality of this agent-centric paradigm. We argue that its persistent conceptual ambiguities and inherent anthropocentric biases may represent a limiting framework. We distinguish between agentic systems (AI inspired by agency, often ...
