[XM官网]微软发布 ACS 开源标准,让开发者精细化控制 AI 智能体行为

2026-06-03 06:13:34
在今天开幕的微软表示,ACS允许开发团队、合规团队以及安全团队共同制定智能体需要遵循的策略规则。这些规则可以明确规定智能体允许执行哪些操作、禁止执行哪些操作、哪些行为必须经过人工审批,以及需要记录哪些证据以供后续审计。据介绍,当AI智能体执行任务时,ACS会在多个“拦截点”检查这些策略文件,以确保智能体始终处于既定约束范围内运行。微软指出,目前开发者控制AI智能体行为的方式较为分散。随着越来越多关于AI工作流因工具误用或意外操作导致连锁故障的案例出现,开发者通常会通过系统提示词、应用程序中的自定义检查逻辑,或利用分类模型筛查输入与输出内容来限制智能体行为。亚汇网注意到,虽然这些方法也有用,但往往会导致控制机制分散在不同组件中,既不利于审计,也难以在不同框架、接口和系统之间复用。ACS的目标是将这些控制能力整合统一。微软表示,该规范能够在AI智能体工作流的多个阶段执行策略检查,包括接收输入之前、调用工具之前、工具返回结果之后以及向用户发送最终回复之前。根据策略设置,系统可以允许某项操作执行、直接阻止操作、对敏感信息进行脱敏处理,或者要求人工审批后才能继续执行。除了基础策略控制之外,开发者还可以在ACS中集成分类器,对输入和输出内容进行分类、预测结果或决定智能体应采取的响应方式;也可以接入大语言模型(LLM),通过提示词让模型充当策略“裁判”;同时还能增加针对工具调用、工具选择、输入准确性、输出使用方式以及最终响应内容的检查逻辑。微软表示,由于这些策略能够以单一文件形式进行定义,因此可以与AI智能体一同打包部署。这意味着一套安全策略可以随着智能体在不同框架和运行环境之间迁移,而无需重复配置,从而提高治理能力的一致性。ACS目前以SDK形式发布,并提供对多个主流AI智能体开发框架和工具的支持,包括LangChain、OpenAIAgentsSDK、AnthropicAgentsSDK、AutoGen、CrewAI、SemanticKernel、Microsoft.Extensions.AI以及MCP工具生态等。广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,亚汇网所有文章均包含本声明。

风险提示

外汇交易涉及高风险,可能不适合所有投资者。杠杆交易可能导致快速亏损,请确保您完全理解相关风险。过往表现不代表未来结果。

本分析仅供参考,不构成投资建议。投资者应根据自身情况做出独立判断,并承担相应风险。