本地 LLM / 安全 AI PoC
即使是处理不能外传信息的业务,也帮您确认能否使用生成式 AI。
有处理机密数据的业务,无法全部交给云端 AI。但本地 LLM 在自家业务中是否真正可用,单靠自己又难以判断。这项 PoC 从这种状态出发,用 3 个月备齐判断是否投入正式运行的材料。
是不是卡在这些地方?
- 有机密数据,无法全部交给云端 AI。
- 自己无法判断本地 LLM 在业务中是否真正可用。
- 公司内部没有规则,试了也止步于 PoC。
本页使用的词语
- 本地 LLM
- 不把数据带出公司,在自有环境中运行的生成式 AI。
- 安全 AI
- 为了能够处理难以交给外部 AI 的信息,连同内部规则、权限与日志的设计一起打造的 AI 环境。
- PoC
- 在正式运行之前,小规模试用并加以确认。
推进方式
在 3 个月内按以下流程推进。不押宝云端 AI 或本地 LLM 中的任何一方,而是以根据信息机密程度区分使用为前提进行设计。
梳理对象业务
缩小 PoC 要处理的业务范围。如已有机密数据 AI 应用诊断的梳理结果,则以此为基础确定范围。
设计数据的处理方式
设计交给 AI 的信息边界(输入边界)、访问权限、操作日志与人工审批。
搭建测试环境
搭建正式运行前用于试用的环境。
设定并测量评估指标
确定以什么为标准判断“可用”,并实际测量。
判断是否投入正式运行
判断是否投入正式运行。
PoC 结束后,您手中会留下的内容
我们的目标不是“能运行的演示”,而是备齐能判断是否投入正式运行的材料。开发本身并不是目标。
PoC 之后的走向
- 如果顺利,将进入正式构建与运维保守(根据需求单独报价)。
- 如果不顺利,我们认为“现在先不做”的判断,也可以作为 PoC 的成果带回去。
Cor. 一直在持续验证本地 LLM,并将这些积累运用到 PoC 的设计中。
费用
费用因课题与内容而异。我们会以明确前提条件、风险与工作范围的形式报价,正式金额与工期在确认需求后确定。
相关实绩・案例
本地LLM/AI基础设施PoC — 为您备齐可供判断的依据
因为有机密数据,无法全部交给云端AI;但本地LLM能否真正用于业务,企业自己又无法判断。本服务是一项为期3个月的PoC,从这种状态出发,备齐判断是否正式上线的依据。
机密数据AI应用诊断 —— 在输出前,与您共同梳理处理方式
想将合同、会议纪要、客户信息用于AI,却无法直接交给外部AI。这是一项不急于直接开发、而是从梳理信息开始切实解决该困扰的诊断服务。
其他服务
从要处理的信息出发,梳理出可以交给 AI 的业务。
不止于试用,把 AI 融入现场业务。