本地LLM／AI基础设施PoC — 为您备齐可供判断的依据

课题

由于涉及处理机密数据的业务，无法将所有内容都交给云端AI。然而，如果不把数据传到外部而在本地运行的本地LLM，到底能否真正适用于自身业务，企业仅凭自身力量难以做出判断。我们收到的此类咨询正日益增多。一提到PoC，往往容易陷入“做完即止”的局面，业界也常听到“虽然做出了能运行的Demo，但最终未能推进到正式上线”的情况。

解决途径

Cor.在PoC中追求的目标并非“能跑的Demo”，而是“备齐能够判断是否正式上线的充分依据”。我们不会预先将方案限定为云端AI或本地LLM中的某一种，而是以根据所处理信息的机密程度进行合理分工为前提开展设计。我们始终坚持绝不把“构建本身”当作终极目标。

实施流程

在3个月的时间里，按照以下流程推进：

• 梳理目标业务
• 设计数据处理机制（输入边界、访问权限、操作日志、人工审批）
• 搭建测试环境
• 设定评估指标并开展实测
• 判断是否正式上线

若已通过诊断（机密数据AI应用诊断）梳理了相关内容，则会以此为基础进一步收窄PoC的范围。

成果与交付

3个月结束后，您将获得能够判断是否正式上线所需的一整套决策依据。若进展顺利，则推进至正式系统构建与运维保障阶段（根据需求另行报价）。若非如此，我们认为“暂时搁置”这一判断，同样也是PoC可以带走的有效成果。Cor.持续开展本地LLM的验证工作，并将这些经验积累充分运用到PoC的设计之中。费用为3个月300万日元起（根据具体课题和内容有所变动）。