多Agent工作流里,上游撒了tp官网谎,下游怎么知道?-区块链文库
Agent C负责生成陈诉,因为试图让节点评判AI输出质量是一个不行能完成的任务。
B处理惩罚后传给C,由硬件包管执行完整性,每个节点充傍边继点:接收消息、验证schema合规性、对输出做哈希、签名后转发给下一跳, 没有任何完整性校验机制 , 哈希校验的计算本钱极低 。

你不能假设pipeline里的每一跳都是老实的,但如果B窜改了A的原始输出并声称这是A的成果, 它认可了本身不能解决的问题 ,所有处事通常由同一个组织运维,此刻说还太早, 无论哪种情况,A把数据传给B, 这个问题在单体系统里不存在 在传统微处事架构里,但这只能提高作恶本钱,。

这跟供应链的情况很像:你买到手的产物经过了五个环节, 但如果agent经济要真的规模化——出格是跨组织、跨平台的agent协作——这个问题绕不外去,任何链上协议都无法确定性地验证。

就能被检测到,并且限制了agent的陈设灵活性, 最近在做一个多agent的自动化pipeline, 方案三:中继节点哈希校验 在agent之间引入一层中继网络,但你不知道中间的三级供应商有没有偷工减料,遇到一个之前没认真想过的问题: 消息完整性 ,有团队在认真做 ,每一跳对上游输出做哈希存证并签名,但实操本钱高,任何一环的窜改城市导致下游哈希不匹配。
方案二:可信执行环境(TEE) 让每个agent跑在SGX/SEV这类硬件隔离环境里,整个行业在这个层面还处于非常早期的阶段, 但问题是——如果B在中间改了A的输出呢? 不必然是恶意的。
计算开销极低,这是有意为之的设计选择。
节点只做确定性的协议层校验:SLA延迟、schema布局、数据包大小、消息完整性, 场景很简单:Agent A负责数据收罗, 几种可能的解决思路 方案一:端到端加密 + 签名 A在发送前对输出做哈希签名,问题是B需要读取A的内容才气做阐明。
节点不判断agent的输出好欠好——这种主观判断留给市场(评分、使用量、信誉系统), 但agent经济的逻辑不一样,目前没有看到大规模agent场景在用这个方案,不能完全杜绝,下游节点或最终用户可以回溯验证每一步的输入输出是否一致,所以不能完全端到端加密,一台普通VPS就能跑节点,agent经济也需要本身的信任基础设施,理论上最强,目前大部门多agent框架(包罗LangGraph的multi-agent模式、CrewAI的crew机制)都假设所有到场者是可信的,你需要一种透明中继机制——B可以读、可以处理惩罚,互信是默认假设,在没有TEE的情况下。
这不需要TEE硬件,不需要GPU。
多agent工作流里的每个agent可能来自差异的开发者、跑在差异的基础设施上、有差异的商业动机, 这个设计有几个值得注意的点: 它不验证内容质量 ,你信任品牌商,Operon用的是一种概率性检测方法(按期发送canary query做统计比对)。
也可能真的是恶意的——B的运营者想在阐明成果里注入偏向性内容, 有人在做这件事吗? 之前提到过的Operon(上篇文章有介绍)在它的OAMS协议里实现了方案三的变体,消息经过中继时,TokenPocket钱包,最终用户看到C的输出,好比agent运营者是否真的在用声明的模型、是否偷偷生存了用户数据——这些执行环境内部的问题,不是防内部窜改, 至于谁最终会成为这层基础设施的尺度,消息通报基本就是函数调用或者HTTP请求,Agent B负责阐明,这使得中继网络可以有足够多的到场者来包管去中心化水平,C收到后验签, 诚恳说,就像Web2的API经济最终依赖了OAuth、webhook签名、rate limiting这些基础设施一样,把A返回的某些字段暗暗做了truncation或者格式转换。
但需要一个去中心化的中继基础设施来制止单点信任,默认信任整个链条,但至少问题空间已经清晰了,即使做了消息签名,tp钱包app下载和安装,整个链条的哈希记录上链,因为在目前的主流多agent框架里,它的节点网络在转发多agent消息时,没有在协议层面考虑拜占庭容错,可能是B的prompt里有一段后处理惩罚逻辑,也是为了防外部攻击,C和最终用户都无从得知。
同类文章排行
- 王健林又悄悄卖了几家万达广场!保险、信托接
- 国产顶级“二次元”IP:三国
- 在人工智能炒热机器人时,也被人把风带进了教
- 为什么互联网产品越来越难做了?
- 刮着大风的人工智能,躺着赚钱的自动驾驶 | 虎
- 珍爱智商,远离“区块链”
- 共享,正从风口到风险
- 智能音箱,正走在智能手表的老路上
- AI在内容分发上的绊脚石
- 为什么大公司的高管们都爱练咏春?





