跳到正文
MIT Technology Review · AI· Madhulika Srikumar, Claire Leibowicz·· 21 天前AI 评分63

AI 智能体的行动亟须实时监控,但可观测性记录仍有缺口

We urgently need to monitor AI agents’ actions in real time

AI 导读

AI 智能体需要实时监控,但两位作者参与的研究发现,当前智能体框架缺少支撑安全监督的关键可观测性记录。研究考察了使用最广泛的四个框架,发现持续有效的智能体身份标识、人类审批等记录存在缺口,难以追溯行动主体及判断行动是否获授权。作者建议分别记录行动过程与决策依据,并通过 OpenTelemetry 等补齐工程层面的记录,同时指出 CoT 是否忠实反映决策、置信度能否可靠测量仍是开放研究问题。

来源:MIT Technology Review · AI · technologyreview.com