ローカルLLM/AI基盤PoC — 判断できる材料をそろえます
機密データがあってクラウドAIに全部は出せない。かといってローカルLLMが本当に業務で使えるのか自社では判断できない。その状態から、本番化を判断できる材料をそろえる3ヶ月のPoCです。
課題
機密データを扱う業務があり、クラウドAIにすべてを出すわけにはいかない。かといって、社外にデータを出さずに手元で動かすローカルLLMが自社の業務で本当に使えるのか、自社だけでは判断がつかない。そう相談されることが増えています。PoCというと「作って終わり」になりがちで、動くものはできたが結局本番導入に進めなかった、という話も世間ではよく耳にします。
アプローチ
Cor.がPoCで目指すのは「動くデモ」ではなく、「本番化するかどうかを判断できる材料が揃った状態」です。クラウドAIとローカルLLMのどちらか一方に決め打ちするのではなく、扱う情報の機密度に応じて適材適所で使い分けることを前提に設計します。作ることそのものをゴールにしない、という姿勢を徹底しています。
実装
3ヶ月間で、次の流れを進めます。
- 対象業務の整理
- データの扱いの設計(入力境界・アクセス権限・操作ログ・人間による承認)
- 試験環境の構築
- 評価指標の設定と計測
- 本番化するかどうかの判断
診断(機密データAI活用診断)で整理した内容がある場合は、それを土台にしてPoCの範囲を絞り込みます。
成果
3ヶ月を終えると、本番化するかどうかを判断できる材料が手元に残ります。うまくいけば、本番構築・運用保守へと進みます(要件に応じて個別見積もり)。そうでなければ、「今はやらない」という判断も、PoCの成果として持ち帰れるものだと考えています。Cor.はローカルLLMの検証を継続的に行っており、その積み重ねをPoCの設計にも活かしています。料金は3ヶ月300万円〜(課題や内容により変動)です。気になる方は、まず機密データAI活用診断から始めるのも一つの方法です。
この事例について、もっと知りたい方へ
あなたの現場の課題も、一緒に考えさせてください。