Toward Adaptive Categories: Dimensional Governance for Agentic AI
Zeynep Engin and David Hand
随着人工智能系统从静态工具向动态代理演进,传统的分类治理框架(基于固定风险层、自主程度或人类监督模型)本身也越来越不足。 基于基础模型、自我监督学习和多智能架构的系统越来越模糊了类别设计到警察的边界。 在这个视角中,我们提出了维度治理的理由:一个跟踪决策权限、流程自治和问责制(3As)如何在人AI关系中动态分配的框架。 这种方法的一个关键优势是能够明确监控系统向关键治理阈值和跨关键治理阈值的运动,从而在风险实现之前进行先发制人的调整。 这种尺寸方法为更适应性的分类提供了必要的基础,使阈值和分类能够随着新兴能力而发展。 虽然类别对于决策仍然至关重要,但将它们建立在维度的基础上,可以实现静态方法无法实现的针对具体情况的适应性和利益相关者响应的治理。 我们概述了关键维度,关键信任阈值,以及说明僵化分类框架失败的实际例子 - 维度思维可以为人工智能前沿的治理和创新提供更具弹性和面向未来的前进道路。
As AI systems evolve from static tools to dynamic agents, traditional categorical governance frameworks – based on fixed risk tiers, levels of autonomy, or human oversight models – are increasingly insufficient on their own. Systems built on foundation models, self-supervised learning, and multi-agent architectures increasingly blur the boundaries that categories were designed to police. In this Perspective, we make the case for dimensional governance: a framework that tracks how decision author...