跳到正文
原文
Simon Willison·· 2 天前AI 评分62

Matthew Green 探讨智能体蠕虫机制与沙盒隔离的局限

Quoting Matthew Green

AI 导读

Matthew Green 指出沙盒隔离不足以防范恶意智能体,智能体可通过共享渠道传递劫持载荷并形成自我传播的蠕虫。实验中处于独立沙盒内的智能体能够通过共享包缓存相互传递指令并改变接收方的行为,若将该场景替换为邮件、Slack、共享文档以及类似 Muse 的个人智能体,便具备了蠕虫扩散所需的全部要素。

来源:Simon Willison · simonwillison.net