Cor.株式会社 Cor.株式会社

로컬 LLM / 시큐어 AI PoC

외부로 내보낼 수 없는 정보를 다루는 업무에서도 생성 AI를 쓸 수 있는지 확인합니다.

기밀 데이터를 다루는 업무가 있어 클라우드 AI에 모두 내보낼 수는 없다. 그렇다고 로컬 LLM이 자사 업무에서 정말 쓸 수 있는지 자사만으로는 판단이 서지 않는다. 이 PoC는 그 상태에서 3개월 동안 본격 운영으로 갈지 판단할 수 있는 자료를 갖춥니다.

업종별로 자주 보이는 테마

업종에 따라, 멈추는 이유는 다릅니다. 업종별 페이지에 자주 있는 과제와 Cor.의 동반 방식을 정리했습니다.

  • 의료

    원내 데이터 정리, 환자 대응, 정보 보안, AI 활용 방침

  • 전문직(士業)

    계약서 정밀 검토, 신청・등기, 기일 관리, 보조금 신청

  • 건설

    노무 관리, 설계 변경, 안전 확인, 노하우 계승

  • 제조

    육안 검사, 노하우 계승, 설비 보전, 재고 관리

  • 교육

    시험 업무, 학부모 연락, 조사 보고, ICT 명부 관리

이런 곳에서 멈춰 있지 않나요?

  • 기밀 데이터가 있어 클라우드 AI에 전부 내보낼 수는 없다.
  • 로컬 LLM이 업무에서 정말 쓸 수 있는지 자사에서는 판단할 수 없다.
  • 사내 규칙이 없어 시험해 봐도 PoC로 끝나 버린다.

이 페이지에서 쓰는 말

로컬 LLM
사외로 데이터를 내보내지 않고, 자체 환경에서 동작시키는 생성 AI입니다.
시큐어 AI
외부 AI에 맡기기 어려운 정보를 다룰 수 있도록, 사내 규칙과 권한・로그 설계까지 포함해 만드는 AI 환경입니다.
PoC
본격 운영 전에 작게 시험해 확인하는 일입니다.

진행 방식

3개월 동안 다음 흐름으로 진행합니다. 클라우드 AI와 로컬 LLM 중 어느 한쪽으로 단정하지 않고, 다루는 정보의 기밀도에 따라 구분해 사용하는 것을 전제로 설계합니다.

  1. 대상 업무 정리

    PoC에서 다룰 업무를 좁힙니다. 기밀 데이터 AI 활용 진단에서 정리한 내용이 있다면 그것을 바탕으로 범위를 정합니다.

  2. 데이터 취급 설계

    AI에 맡기는 정보의 경계(입력 경계), 접근 권한, 조작 로그, 사람에 의한 승인을 설계합니다.

  3. 시험 환경 구축

    본격 운영 전에 시험하기 위한 환경을 만듭니다.

  4. 평가 지표 설정과 측정

    무엇을 기준으로 쓸 수 있다고 판단할지 정하고, 실제로 측정합니다.

  5. 본격 운영 판단

    본격 운영으로 갈지 판단합니다.

PoC 후에 손에 남는 것

목표는 '작동하는 데모'가 아니라, 본격 운영으로 갈지 판단할 수 있는 자료가 갖춰진 상태입니다. 만드는 것 자체를 목표로 삼지 않습니다.

PoC 후의 진행

  • 잘되면 본격 구축・운영 유지보수로 나아갑니다(요건에 따라 개별 견적을 드립니다).
  • 그렇지 않다면 '지금은 하지 않는다'는 판단도 PoC의 성과로 가져갈 수 있다고 생각합니다.

Cor.은 로컬 LLM 검증을 계속하고 있으며, 그 축적을 PoC 설계에도 활용하고 있습니다.

비용

비용은 과제나 내용에 따라 달라집니다. 전제 조건・리스크・작업 범위를 알 수 있는 형태로 견적을 드리며, 정식 금액・납기는 요건 확인 후 확정합니다.

관련 실적・사례

실적・사례 모두 보기

다른 서비스

먼저, 다루는 정보를 확인하는 것부터.

로컬 LLM / 시큐어 AI PoC 상담하⁠기

버튼을 누르면 문의 페이지에서 AI 접수 'Cloudia'가 용건을 여쭙습니다.