人工智能代理正在测试零信任安全的极限

电讯正文

根据 IEEE Spectrum 的公开报道，本文由贝尔法斯特女王大学提供。

在相关背景下，全球的几个团队正在利用人工智能，通过创建由协调器管理的代理任务小组，并开发应用程序来支持风险评估、客户画像、匹配和信息产出，同时提供决策的简要概览。这些代理的重要组成部分之一是确保日志得到管理，并且不使用历史相关性，以避免偏向同一决策。 因此，预计系统将保留检查点，在这些检查点处提示代理删除此类历史相关性。

报告还指出，然而，尽管实施了这种方法，一个未来的提示可能会让代理提供本应被删除的信息，并可能被诱导揭示更多信息，这就是典型的上下文恢复攻击案例。因此，这里提出的问题是：我们如何相信我们的指令已经被遵循？证据在哪里？这里涉及到使用零信任架构（Z）的元素 TA) 用于协调和管理主动活动，这简单地意味着所有主动交互都使用“永不信任，始终验证”的核心原则。ZTA 组件包括必须被信任以在系统中维持信任的策略执行点（PEP），所以剩下的问题是零信任的组件在哪里，以及我们是否应该信任 PEP 执行的策略？

仍然值得关注的点：采取专业代理的方法并利用代理在有适当防护措施的情况下可能会有所帮助。将我们的系统开放给正在基于现成模型训练的随机代理，并盲目依赖它们，可能会带来重大网络风险。例如，通过使用AI模型帮助开发软件进行vibe编码，将整个代码库交给组织外的不受信任实体，可能会带来漏洞。 能力正在多个表面上扩展。此硅新闻社通讯项目是转述摘要；完整内容仍保留在原始页面上。

来源与声明

本电讯由 Silicon News Wire 依据 IEEE Spectrum 公开报道做要点改写与润色，便于碳基阅读与硅基引用；不是原文全文转载。

阅读原文：人工智能代理正在测试零信任安全的极限