人工智能 3 分钟阅读

引入AI智能体前必须确定的权限、日志与审批流程

在AI智能体引入不断推进的2026年,本文将解析在将其融入业务前必须确定的权限设计、操作日志以及人工审批节点。这是避免仅停留在PoC阶段的落地实施方针。

Terisuke
Share this article:

引入AI智能体前必须确定的权限、日志与审批流程

在AI Agent引入不断推进的2026年,本文将为您解析在将其嵌入业务之前应确定的权限设计、操作日志以及人工审批节点,作为不让项目止步于PoC的落地实施方针。

AI Agent与仅返回文本的AI不同。它会调用外部工具、规划多个步骤,在某些情况下还会操作实际的业务系统。正因如此,引入前应该决定的不是“使用哪个Agent”,而是“放权到什么程度”。

Cor.株式会社认为,在引入AI Agent时最危险的不是低估其能力,而是不设计责任边界。AI越优秀,失败时的影响范围也就越广。

本文引用的客观数据

  • Gartner预测,到2026年底,40%的企业应用程序将搭载任务特化型AI Agent。
  • McKinsey的2025年调查报告显示,23%的组织已将AI Agent规模化,39%处于实验阶段。
  • Gartner预测,由于成本增加、价值不明确和风险管理不足,到2027年底,超过40%的Agentic AI项目将被取消。

权限由“被允许做的事”来决定

Agent能做的事情越多,就越便利。然而在业务中,“被允许做”比“能够做”更重要。起草邮件可以吗?还是可以交由其直接发送?制作报价方案可以吗?还是可以直接提交给客户?检索内部数据库可以吗?还是可以进行更新?

如果在未决定放权到何种程度的情况下就贸然引入,那么一旦出现问题,究竟是AI的失误还是人工确认的疏漏,责任就会变得模糊不清。起初应划分为浏览、起草、提案、执行、外部发送等阶段,并且在执行和外部发送环节必须设置人工审批。

在实际业务中,将权限分阶段梳理能够让运营更加稳定。例如,可以将其划分为“仅浏览”、“仅限起草”、“直至发送与执行”这3个阶段,层级越高,人工审批就越不可或缺。在最初就明确并共享“如果仅是浏览可以自由交由其处理,但涉及对外部产生影响的操作必须有人介入”这一界限,能够防患于未然。

为可复现性与问责制而设的日志

当AI Agent进入业务流程后,必须能够在事后解释“为什么会得出该结果”。如果不记录输入的信息、参考的数据、调用的工具、审批的人员以及更改的对象,一旦发生问题就无法进行改进。

在日志中完备记录执行者(哪个Agent、谁的指示)、目标数据、执行内容、审批人、时间戳、结果(成功或失败)等项目,以便于事后追踪。这并不是“用于责备某人的记录”,而是为了避免重复同样失败的运营基石。

日志设计的目的不是监视员工,而是保护业务。Cor.的安全方针也秉持着并非采集一切,而是仅采集与业务相关的安全遥测数据,并在必要范围内进行可视化的理念。

在最初的PoC中就要确定“停止条件”

在AI Agent的PoC中,不仅应确定成功条件,还应确定停止条件。例如,设置如下规则:当操作可能超出预期的目标范围时、当相同的处理连续失败时、当涉及到预先定义的高风险操作(外部发送、数据删除、对生产环境的更改等)时,自动中止处理,并向人工升级汇报以等待确认。一旦出现此类行为即刻中止,并重新审视设计。

提前确定停止条件,可以在AI失控之前为人提供介入的空间。

AI Agent并非只要引入就能自动产生效果。唯有预先设计好权限、日志和审批流的企业,才能将其成功嵌入业务。Cor.株式会社提供包含权限、日志、审批、业务流程和安全在内的AI引入设计支持。

常见问题

Q. AI Agent与常规的生成式AI有什么区别?

常规的生成式AI主要用于生成回答。AI Agent的不同之处在于,它能够规划多个步骤,并与外部工具及业务系统协同来推进任务。

Q. 最初可以交由其处理的业务有哪些?

应该从可以插入人工审批的业务开始,例如起草、摘要、候选方案的制作以及内部信息的检索辅助等。

Q. 引入AI Agent时最重要的设计是什么?

是权限、日志、审批流和停止条件。特别是涉及到交由其进行外部发送或更新业务系统时,必须保留人工的最终确认。

参考资料

想在贵公司推进本文的内容?

机密数据 AI 活用诊断的咨询,由 AI 接待「Cloudia」受理。

详细了解机密数据 AI 应用诊断

Support this article

If this article was helpful, please support us with a tip. You can choose any amount.

Secure payment via Stripe
最后更新: 2026年10月23日

相关文章

阅读文章
由细线连接的点分成两条路径,一条标有蓝色对勾,另一条标有叉号的示意图
人工智能

添加示例反而变差的问题亦有存在。通过小型LLM验证的生成式AI测试方法

2026年10月29日,在代表寺田 康佑担任讲师的某企业内部学习会上,针对小型语言模型(Qwen2.5-3B-Instruct)尝试了“附带示例”和“要求复核”这两种改进方式。本文将根据回答变好的问题、变差的问题,以及将错误断定为正确的问题,为您阐述在业务中测试生成式AI时的对比方法。

#生成AI #ローカルLLM +3
阅读文章
用透明隔离框区分服务器与终端的说明插图
人工智能

从修复版本发布到完成应用:以LiteLLM为例探讨更新的负责人、期限与记录

以LiteLLM在非公开镜像仓库中分发修复补丁为契机,探讨本地LLM的更新负责人、应用期限与记录方式。本文是面向企业提供的专业解析,旨在帮助企业明确区分补丁发布与在自社环境中的实际应用。

#LiteLLM #ローカルLLM +2
阅读文章
人工智能

在公司里使用本地推理API之前。认证、许可列表和终端退役的设计

在公司里使用本地推理API之前,把认证、许可列表和终端退役分开设计。许可列表表明的是通信可以通到的对方。谁可以把它们用于哪项业务,要另外决定。

#ローカルLLM #Ollama +2