人在回路不该意味着审核每一个 AI 决策。
人工审核在早期评估时可以有用。它帮助设施团队在现场控制权限扩大之前,看清系统如何思考。
但它不该成为楼宇运营 AI 的终态,尤其当系统每 15 分钟就要做出一次新的控制决策时。
没有哪个设施团队能够一边有意义地审完每一个间隔级决策,一边还负责舒适、设备安全、租户投诉、维保窗口和应急。
人在回路可能变成责任转嫁
一种弱的人在回路说法是:软件会建议动作,操作员来决定做什么。这听起来像负责任,但实践中可能把错误的负担推给建筑团队。
如果产品做了决策,操作员却背上责备,这个回路并没有让控制更安全。它变成了责任转嫁。
那会把操作员变成软件的决策队列,而软件还声称要优化机房。
这不是认真的 AI 控制模型。
更好的模式是获批边界,而不是无尽审批
人的角色应当用在杠杆更高的地方。人定义运行目标、批准控制边界、全局观察系统、质疑不良行为、必要时接管,并接受结果。
在该获批边界之内,AI 系统及其背后的公司,应当为正在做出的决策承担责任。
对 ClimaMind 来说,这意味着一次 15 分钟的冷冻水重置、台数控制建议,或其他监督控制动作,必须有可见推理、护栏、审计轨迹和计量路径作为支撑。
每个间隔决策都应当可解释
如果监督控制器改变冷冻水设定值,或建议一次控制动作,系统应当能够展示其背后的运行逻辑。
- 为什么采取这个动作。
- 哪条约束允许它。
- 尊重了哪些舒适和设备限值。
- 预期什么结果。
- 之后实际发生了什么。
- 结果如何计量。
监督是权限,不是人工吞吐量
人的监督必不可少。它把权限留在建筑团队手中,让控制边界写清楚,并给操作员停下、审计和改进系统的能力。
但人的监督不该要求操作员成为软件的实时决策引擎。如果系统被信任到每 15 分钟都能动作,它就必须被问责到能够解释每一个 15 分钟动作。
这种问责应当来自有边界的决策、操作员可见的约束、可回退的动作,以及把控制行为接到实测结果的证据。
实际可行的模式是可问责的自主
目标不是黑盒自主,也不是无尽的人工审批。
建筑团队应当拥有运行目标、约束和验收标准。系统及其背后的公司,应当拥有在该边界内做出的决策。
操作员获批边界内的可问责自主,才是能在商业建筑里运作的模式。
人在回路应当意味着人的权限。它不该意味着人去审核每一个机器速度的决策。
