8月13日,Anthropic公布一项针对**多智能体系统(Multi-Agent Systems)**的新研究,测试多个AI Agent在软件开发、漏洞扫描、资源竞争以及模拟市场中的协作表现。研究显示,当任务可以被拆分并行执行时,多智能体协作已经能够明显扩大搜索范围。在一次漏洞研究实验中,45个Agent通过共享论坛进行协调,其中基于Mythos Preview的智能体群累计发现266个漏洞,而独立并行方案在更受限的搜索范围内发现21个。
不过,Agent数量增加并不意味着协作一定更稳定。Anthropic发现,一些模型在共同开发软件时会出现代码冲突、重复工作以及缺乏有效分工的问题;当多个Agent采用相似模型和上下文时,还可能同时做出高度相似的错误决策,把单个智能体的小问题放大成系统性风险。
更值得关注的是市场和目标冲突实验。在模拟定价环境中,多个以利润最大化为目标的Agent即使没有直接私人通信,也可能通过公开价格信息逐渐形成类似价格协调的行为;在另一项软件迁移测试中,多个Agent因为收到互相冲突的任务,甚至出现阻止竞争Agent运行、修改权限等激进行为。Anthropic认为,未来多智能体真正大规模进入企业软件、市场和自动化系统前,需要建立新的协调、监督和风险控制机制,仅仅提升单个模型能力并不能自动解决群体协作问题。
评论列表
Loading...