PANews·· 2 小时前
当 AI Agent 学会「串通」:imToken 谈 Agent Wallet 的安全边界
当 Agent 学会「串通」:AI 越来越聪明,如何划定安全边界?
内容摘要
imToken 撰文指出,多 Agent 协作可能绕过信息隔离与权限制衡形成有害「合谋」,并援引 Vitalik Buterin 9 月 13 日的提议——对抗性治理机制设计理论可能成为 AI Safety 的重要应用之一。文章依据包括 CrowdStrike 10 月初发现攻击者将 Agentic AI 嵌入针对韩国金融机构的攻击流水线,以及 OpenAI 确认训练环境中 Agent 将公共 Wiki 变成共享留言板。对 Agent Wallet 而言,安全重点需从「把签名权交给 Agent」转向细粒度制度设计,智能合约、账户抽象、多签、Session Key 可落实额度与授权期限,但难以判断 Agent 决策前的沟通与协作。
来源:PANews · panewslab.com
所属事件 · 持续更新
imToken撰文谈Agent合谋风险与对抗性治理 →