智能体接通之后:Vijoy Pandey 谈协作中的含义、责任与共同目标
Outshift by Cisco 高级副总裁兼总经理 Vijoy Pandey 在这场访谈中,将多智能体协作的难题从消息互通推进到语义对齐:同一个数字是否代表相同需求,工程估算怎样变成合同承诺,以及系统运行正常为何仍可能无法完成任务。Swisscom、企业交易与个人订餐呈现了不同场景中的协作问题,Scope、Accord 和 Concord 则勾勒出一套治理思路,其效果与适用边界仍需验证。
一、嘉宾背景
Vijoy Pandey 是 Outshift by Cisco 的高级副总裁兼总经理。Outshift 是 Cisco 旗下参与多智能体部署、协作协议开发与开源的团队。他在访谈中既谈企业部署经验,也介绍团队正在建设的基础设施。理解这些观点,需要同时考虑他作为部署参与者和 Scope、Accord、Concord 等方案倡议者的身份。
Pandey 表示,团队与 Swisscom、ServiceNow、SoftServe、Webex 等伙伴开展了部署,涉及网络配置、云平台工程和视频监控。这些工作构成了他讨论协作问题的实践背景。不过,节目没有逐项展示客户结果或独立评估,相关经历也不能直接验证每一项产品主张。
在这期《The Cognitive Revolution》中,与他对话的是 Nathan Labenz。节目索引标注时长为 5,425 秒,约九十分钟。讨论从语义对齐以及 Scope、Accord、Concord 出发,延伸到个人智能体,最终触及高维智能体通信如何接受人类监督。贯穿其中的问题是:智能体从建立连接走向共同完成任务,还需要哪些机制,这些机制又有多少证据支持。
二、本期主要内容
Pandey 将智能体的发展分为三个阶段:最初是孤立的智能体,随后是在同一个运行框架内协作的孤岛,再往后是跨厂商、云服务商和组织连接起来的智能体。第三阶段让更多专业能力能够参与同一任务,也将不同团队的术语、目标和权限带入协作。整场访谈围绕由此产生的问题展开:智能体能够找到彼此、交换消息之后,如何确认它们理解的是同一项任务。
Swisscom 是节目中最具体的企业案例。据 Pandey 介绍,团队选择从数据中心迁移与配置工作入手,因为任务范围相对明确;与他讨论的移动网络方案相比,数据中心的冗余也能提供更好的故障保护。系统中,五个智能体探索配置方案,形式化模型则阻止被禁止的操作。他称这种神经符号组合能够保证配置百分之百成功。访谈没有交代这一保证所依赖的完整条件、覆盖范围或独立验证,因此,这个数字应视为他对特定系统的主张。
另一个贯穿访谈的例子,是数百万美元级企业交易的协作流程。销售理解客户需求,法务处理合同,财务审查价格、利润和折扣,产品与工程判断可实现的能力和交付时间,市场团队考虑如何宣传,协调验证者则检查整体是否一致。Pandey 说,如今承担验证角色的通常仍是人。在这个例子中,多智能体分工对应着一条业务链:每个环节的判断都会影响其他环节,也会影响最终交易。
为处理这些协作问题,他介绍了 Scope、Accord 和 Concord。Scope 是开源的认知可观测工具,基于标准 OpenTelemetry 轨迹,旨在暴露语义失败和认知漂移。Accord 负责工作开始前的对齐,Concord 负责执行中的协调和协商。Pandey 表示,后两者已以 skills 形式发布,也可以通过 Agent Bridge 在 A2A 和 MCP 之上运行。这套设计希望在现有通信机制之上建立共同理解,让不同技术环境中的参与者能够协作。
这些组件和场景处于不同阶段。Pandey 明确说明,节目谈到的 Webex 智能体协作空间是演示,并非生产部署;用于在工作完成后对照约定目标进行评估的第三个协议,也尚未发布。不能将它们与他报告的企业部署合并理解为一套已经全部完成的系统。
个人智能体的经历则呈现了端到端执行的困难。Pandey 的 Arnold 与妻子的 Lyra 尝试安排一顿庆祝晚餐,却受到模型能力、反复请求授权,以及饮食、地点、氛围、菜单和可预订时间等偏好冲突的阻碍。企业案例展示了受约束环境中的进展,个人订餐则说明,即使任务目标容易表述,自主完成所需的能力和协调机制仍可能不足。
三、核心观点:推理、例子与边界
Pandey 将多智能体协作的价值和风险都放在了交接处。工程给出的估算,可能被销售理解为承诺,随后写入合同,最终成为营销主张。问题未必出在某个智能体明显说错了话,而在于信息经过传递,获得了原本没有的确定性,也带来了新的责任。如果评测只检查工程估算是否合理、法务条款是否合格,就可能漏掉交接中未经批准的含义变化。对最终结果的验收,需要检查整条转换链;各环节分别合格,并不足以证明整体成立。
节目中的十万用户例子说明了这种失配如何发生。工程理解的是十万名总用户,客户要求的却是十万名并发用户;月活、日活也是 Pandey 提到的其他可能口径。数字一致,需求却并不相同。事前对齐因此不能停留在复述目标,还要确认关键术语指向什么、在什么条件下成立。交付日期也有类似歧义:它可能指 alpha、beta、首次交付、最终交付,也可能指签约和付款的里程碑。需求和客户预期还会继续变化,开工时达成共识,并不意味着整个项目始终保持一致。
Pandey 提出的 Internet of Cognition,试图覆盖这条协作链:开工前通过 Accord 对齐意图,执行中通过 Concord 协调和协商,完成后再核对结果是否满足共同目标。按他的描述,Scope 负责监测过程中的漂移,并在发现偏离时触发 Accord 或 Concord。这个框架明确了不同阶段需要处理的问题,但检测器如何识别偏离、何时误报、会漏掉哪些冲突,仍需具体证据。对协作生命周期的划分,本身还不能证明检查机制已经可靠。
Pandey 报告的观察结果提示了风险,但不足以构成普遍统计结论。他说,团队检查的每次 ChatDev 会话都出现了语义或认知失配;在部分五智能体部署中,随着失败累积,准确率从百分之九十九降至百分之九十八,再降至百分之八十一。另一个旅行预订例子中,系统表面上的运行可用率为百分之六十六,任务完成率却为零。访谈没有提供样本量、完整指标定义或实验控制,不能据此推导所有多智能体系统的失败率,也不能将这些百分比当作通用基准。这些例子的价值在于说明:进程正常运行、参与者理解一致、最终任务完成,可能是彼此分离的三件事。
Swisscom 的神经符号方案提供了另一种约束路径:由智能体探索配置,再由形式化模型阻止违反规则的操作。这样,一部分正确性要求就可以通过规则检查落实。对于能够明确表达不可违反条件的任务,这种分工值得考察。不过,Pandey 所称的百分之百配置成功保证,仍需结合具体模型和环境理解。访谈没有交代保证的完整假设、覆盖范围或独立验证,也没有说明形式化表示可能遗漏什么、环境变化后如何保持有效。阻止模型认定的违规操作,距离证明现实中不会发生任何失败,仍有需要验证的环节。
在架构上,Pandey 主张将模型、运行框架和跨团队协作解耦。运行框架既帮助模型更快取得结果,也提供护栏;不同组织则会保留各自的模型、云平台、团队、身份和访问安排。这是他倡导开放标准的理由。但异构环境需要共同接口,并不等于某套接口已经证明了普遍互操作性。面对“更强模型是否会取代这些协作支撑机制”的追问,他以垂直扩展、算法扩展和水平扩展回应,认为单个模型的进步与系统协作可以同时发展。他没有证实 Labenz 以提问方式提出的、加速效果与智能体数量平方根相关的关系。
访谈随后将共同理解的问题推向内部通信。Labenz 担心,基于可读 token 的推理已经难以监督,直接传递高维内部状态会让监督更加困难。Pandey 仍支持研究潜在空间协议,希望将其用于困难的科学与规划问题。面对人类可能无法理解 AI 超结构的忧虑,他援引交易和法律领域已有的专家分工,预期专业智能体的构建者能够理解自己的系统。但访谈没有证明,随着 AI 能力增强,这一期待仍然成立。
Pandey 提出的行为记录系统,为合规和调试提供了一个入口。他设想由 Scope 支持记录行动、涉及其他智能体的决策以及工具调用,在系统漂移时触发纠正协议和护栏机制。不过,记录外部行为与理解内部高维交换,是两种不同的能力。本集没有给出具体监控方法或量化验证,说明如何从前者获得后者。行为记录可以帮助追查发生了什么、哪些环节需要调查,却不能直接证明人类已经理解智能体为何形成某个内部共识。
四、学习与应用
将这场访谈用于实际设计,可以先检查业务链中的交接约定。以交易流程为例,销售、工程和法务可以分别保留原始需求、各自解释及批准状态;十万用户需要注明是总量还是并发,交付日期需要对应具体阶段。工程估算进入合同前,还应确认它是否已经获批成为承诺。这些是从节目例子推导出的实施建议,目的在于让含义变化能够被发现和追溯。是否完成对齐,仍要看参与者是否就这些含义达成一致。
执行中,共同约定也需要能够被明确修改。客户改变需求,或交付要求从首次交付变为最终交付时,可以重新协商,记录谁接受了哪些变化、哪些约束仍未解决。运行可用性与任务验收则应分别检查:旅行代理的工具调用即使顺利,也仍需确认目标行程是否真正完成。Scope 这类观测工具可以帮助调查问题,但本集没有提供检测准确率。采用前,团队仍需用已知失配案例检验它能否发现实际问题。
Swisscom 的经验提供了选择试点的思路:优先考虑规则较清楚、故障影响可隔离、具备冗余保护的任务,再判断是否适合将生成式探索与形式化检查结合。评估成功保证时,应明确规则覆盖了什么、依赖哪些环境假设、还有哪些情形未被覆盖。将尚未建模的风险交给人工处理,可能限制自动化范围,但有助于防止特定条件下的配置保证被扩大为整个业务的保证。
权限与自主程度也需要分别配置。Labenz 描述,他笔记本上的代理拥有较高访问权限,但自主性较低;Mac Mini 上的代理访问权限较少,却更自主,能够推进可能持续数周的项目。这展示了两种配置方式,并不能证明其中一种适用于所有任务。Pandey 则将 Arnold 的身份、人格、记忆和访问权限与底层运行框架、模型分开,期待它只在没有可复用的既往判断时才请求人类裁决。迁移代理时,可以据此检查这些要素是否延续;身份和记忆的连续性本身,并不足以成为扩大访问权限的理由。
人类介入需要对应明确职责。Pandey 认为,在信息不完整时作出判断、运用品味并对结果负责,目前仍需要人承担。实际流程可以规定,哪些分歧允许代理自行协商,哪些新承诺或难以比较的偏好必须交给责任人决定。晚餐例子说明,反复授权会削弱自动化收益,而减少授权请求也无法自动解决偏好冲突。设计时仍需明确可协商范围、不可突破的限制,以及何时停止尝试并交由人处理。
评估未来能力时,还应区分已经具备的功能与尚未实现的设想。Pandey 将提供护栏的 guardian angels 与复用现有能力的 cognitive accelerators 区分开来;其中,复用既往判断的加速器在访谈时尚未开发。他也不知道未来智能体能够承担多大比例的判断。因此,当前验收不能依赖尚不存在的判断能力,流程仍需允许人类责任人接手。
高维通信还需要单独证明其可监督性。行为记录可以支持调试,但不能据此认定内部交流已经能够被理解。谈到面向人的 Neuralink 类连接时,Pandey 主张护栏与技术加速同步发展,并强调测试和金丝雀式渐进部署。对于考虑采用相关技术的团队,效率、可观测性和可控性应分别接受检验;证据不足时,应保留部署边界。通信速度的提升,本身不足以支持扩大使用范围或承担更大的后果。
来源
More from WayDigital
Continue through other published articles from the same publisher.
Comments
0 public responses
All visitors can read comments. Sign in to join the discussion.
Log in to comment