人工智能 2 分钟阅读

公司中可以与不可以输入ChatGPT的信息——机密数据AI应用的判断标准

面向犹豫是否可将合同、会议纪要、报价单、客户信息输入生成式AI的管理者和管理部门,讲解机密级别划分方式、云端AI与本地LLM的区别使用以及完善公司内部规章制度的要点。

Terisuke
Share this article:

在企业中使用生成式AI时,首先应该决定的不是“使用哪款AI”,而是哪些信息可以提供给外部AI,哪些信息必须保留在公司内部。如果在这一点尚不明确的情况下就开始使用,那么比起便利性,信息管理上的隐患会率先显现。

Cor.株式会社认为,引入AI时最大的危险并不在于“使用”本身,而是在未区分哪些信息可用、哪些信息不可用的情况下,任由一线员工自行决定。合同、会议纪要、报价单、客户信息、源代码是业务的核心,同时也是一旦泄露就会失去信任的信息。

本文所依据的客观数据

  • IBM的2025年调查报告显示,在经历过AI相关安全事件的组织中,97%缺少适当的AI访问控制。
  • OWASP指出了LLM应用程序的主要风险,包括敏感信息泄露(Sensitive Information Disclosure)、过度代理(Excessive Agency)、过度依赖(Overreliance)等。
  • Cor.的安全方针规定,在处理客户机密、个人信息、源代码、训练数据等内容时,必须使用具备不用于模型训练的合同与设置的AI工具、公司账号以及经过审批的环境。

首先将信息分为3个级别

在制定公司内部的AI规则时,如果从具体的工具名称切入,往往会以失败告终。因为工具会不断更替,而信息的机密程度是与业务紧密绑定并长期存在的。Cor.株式会社认为,起步阶段划分为以下3个级别即可:

  • 公开信息:网站、公开资料、通用行业知识等。适合在外部AI中处理的领域。
  • 公司内部限定信息:内部手册、常规会议纪要、销售资料等。前提是使用公司账号并开启不用于模型训练的设置。
  • 客户机密、个人信息、源代码:原则上不直接输入外部AI,应探讨采用本地LLM、隔离环境和权限管理的领域。

关键不在于一开始就制定出一份完美的分类表,而在于让一线员工在犹豫不决时,拥有能够判断“这是否可以对外提供”的标准。

云端AI与本地LLM的分工使用

云端AI并非不可取。在撰写文案、头脑风暴、整理公开信息、审查非机密代码等方面,它在速度和质量上都非常有效。然而,如果要处理客户名称、合同条款、未公开的报价、公司内部知识库、个人信息,情况就截然不同了。

本地LLM或经过审批的隔离环境并非“能让一切都变得高性能的魔法”。但是,在那些“避免将信息不必要地外传本身就具有价值”的业务中,它们是非常值得探讨的选择。

打造“可用状态”的公司内部规则

制定AI使用规则的目的,不是为了束缚员工,而是通过明确安全使用的范围,让一线人员能够更轻松地使用AI。一味禁止的规则最终只会增加影子AI(Shadow AI)。

至少应该确定的项目包括:禁止输入的信息、可使用的AI工具、公司账号的使用条件、日志与审批、输出结果的人工审核、发生安全事件时的联络渠道。只要明确了这些,AI的应用就能从“责任自负”转变为“公司规范化运营”。

如果希望利用AI处理合同、会议纪要、报价单、客户信息、内部知识,却无法判断是否可以输入外部AI,首先应该从梳理信息入手。Cor.株式会社可以帮助梳理哪些领域适合使用云端AI,哪些领域应探讨采用本地LLM与隔离环境,并协助制定能够切实落地的运营规则。

常见问题

Q. 在公司中使用ChatGPT本身是危险的吗?

A. 使用本身并不危险,危险的是在未确认所输入的信息以及合同和设置的情况下使用。它非常适合用于公开信息或通用文案撰写,但对于客户机密和个人信息,则需要采取其他处理方式。

Q. 最先应该制定的AI使用规则是什么?

A. 应当确定禁止输入的信息、可使用的AI工具、公司账号的使用规范、日志与审批、输出结果的人工审核,以及发生安全事件时的联络渠道。

Q. 本地LLM适合什么样的企业?

A. 适合希望利用AI处理合同、会议纪要、报价单、内部文档、源代码等不希望随意向外部服务泄露信息的企业。

参考资料

  • IBM: Cost of a Data Breach Report 2025 - 发生AI相关事件的组织中,97%缺少适当的访问控制,63%缺少AI治理策略。
  • OWASP Top 10 for LLM Applications - 梳理了敏感信息泄露(Sensitive Information Disclosure)、过度代理(Excessive Agency)、过度依赖(Overreliance)等LLM应用的代表性风险。
  • Cor. HP: 安全 - 确认了本地优先、最小化日志、机密级别、AI使用方针、ISMS(预计于2026年10月完成第二阶段审核,2026年12月左右完成认证注册)。
  • Cor. HP: AI × CO-CREATION / 业务概况 - 确认了Cor.的业务领域、Grift、本地LLM与安全AI、AI驱动开发、共创理念。

想在贵公司推进本文的内容?

机密数据 AI 活用诊断的咨询,由 AI 接待「Cloudia」受理。

详细了解机密数据 AI 应用诊断

Support this article

If this article was helpful, please support us with a tip. You can choose any amount.

Secure payment via Stripe
最后更新: 2026年10月23日

相关文章

阅读文章
由细线连接的点分成两条路径,一条标有蓝色对勾,另一条标有叉号的示意图
人工智能

添加示例反而变差的问题亦有存在。通过小型LLM验证的生成式AI测试方法

2026年10月29日,在代表寺田 康佑担任讲师的某企业内部学习会上,针对小型语言模型(Qwen2.5-3B-Instruct)尝试了“附带示例”和“要求复核”这两种改进方式。本文将根据回答变好的问题、变差的问题,以及将错误断定为正确的问题,为您阐述在业务中测试生成式AI时的对比方法。

#生成AI #ローカルLLM +3
阅读文章
用透明隔离框区分服务器与终端的说明插图
人工智能

从修复版本发布到完成应用:以LiteLLM为例探讨更新的负责人、期限与记录

以LiteLLM在非公开镜像仓库中分发修复补丁为契机,探讨本地LLM的更新负责人、应用期限与记录方式。本文是面向企业提供的专业解析,旨在帮助企业明确区分补丁发布与在自社环境中的实际应用。

#LiteLLM #ローカルLLM +2
阅读文章
人工智能

在公司里使用本地推理API之前。认证、许可列表和终端退役的设计

在公司里使用本地推理API之前,把认证、许可列表和终端退役分开设计。许可列表表明的是通信可以通到的对方。谁可以把它们用于哪项业务,要另外决定。

#ローカルLLM #Ollama +2