AI 3분 소요

사내에서 ChatGPT에 입력해도 되는 정보와 안 되는 정보 ~기밀 데이터 AI 활용의 판단 기준

계약서, 회의록, 견적서, 고객 정보를 생성형 AI에 입력해도 될지 고민하는 경영진 및 관리 부서를 위해 기밀도 분류 방법, 클라우드 AI와 로컬 LLM의 구분 활용법, 사내 규정 정비의 핵심 포인트를 해설합니다.

Terisuke
Share this article:

생성형 AI를 회사에서 도입할 때 가장 먼저 결정해야 할 것은 ‘어떤 AI를 사용할 것인가’가 아니라, 어떤 정보를 외부 AI에 전달해도 되는지, 어떤 정보는 사내에만 머물러야 하는지입니다. 이 부분을 모호하게 둔 채 사용하기 시작하면, 편리함보다 정보 관리에 대한 불안이 먼저 남게 됩니다.

Cor.주식회사에서는 AI 도입 시 가장 위험한 것은 ‘사용하는 행위’ 그 자체가 아니라, 사용해도 되는 정보와 사용해서는 안 되는 정보를 구분하지 않고 현장에 일임하는 것이라고 생각합니다. 계약서, 회의록, 견적서, 고객 정보, 소스 코드는 업무의 핵심이자, 동시에 유출될 경우 신뢰를 잃게 되는 정보입니다.

이 글에서 전제로 한 객관적 데이터

  • IBM의 2025년 조사에 따르면, AI 관련 보안 인시던트를 경험한 조직의 97%가 적절한 AI 접근 제어를 갖추지 못했다고 보고되었습니다.
  • OWASP는 LLM 애플리케이션의 주요 리스크로 Sensitive Information Disclosure, Excessive Agency, Overreliance 등을 꼽고 있습니다.
  • Cor.의 보안 방침에서는 고객 기밀, 개인정보, 소스 코드, 학습 데이터 등을 다룰 경우, 학습에 활용되지 않는 계약·설정의 AI 툴, 사내 계정, 승인된 환경을 사용하도록 하고 있습니다.

먼저 정보를 3단계로 분류하기

사내 AI 규칙을 만들 때 세부적인 툴 이름부터 시작하면 실패하기 쉽습니다. 툴은 계속 바뀌지만, 정보의 기밀도는 업무에 귀속되어 남아있기 때문입니다. Cor.주식회사에서는 처음에 다음 3단계로 분류하는 것만으로도 충분하다고 생각합니다.

  • 공개 정보: 웹사이트, 공개 자료, 일반적인 업계 지식 등. 외부 AI로 다루기 쉬운 영역.
  • 사내 한정 정보: 사내 매뉴얼, 일반적인 회의록, 영업 자료 등. 회사 계정 및 학습에 활용되지 않는 설정이 전제.
  • 고객 기밀·개인정보·소스 코드: 원칙적으로 외부 AI에 직접 입력하지 않고, 로컬 LLM이나 격리 환경, 권한 관리를 검토해야 하는 영역.

완벽한 분류표를 처음부터 만드는 것이 아니라, 현장에서 고민될 때 ‘이것을 외부에 내보내도 되는가’를 판단할 수 있는 기준을 마련하는 것이 중요합니다.

클라우드 AI와 로컬 LLM의 분할 활용

클라우드 AI가 무조건 나쁜 것은 아닙니다. 문서 작성, 브레인스토밍, 공개 정보 정리, 기밀이 아닌 코드의 리뷰 등에서는 속도와 품질 측면에서 매우 유용합니다. 반면, 고객명, 계약 조건, 미공개 견적, 사내 지식 베이스, 개인정보를 다룬다면 이야기는 달라집니다.

로컬 LLM이나 승인된 격리 환경이 ‘무엇이든 고성능으로 만들어 주는 마법’은 아닙니다. 하지만 정보를 불필요하게 외부로 내보내지 않는 것 자체에 가치가 있는 업무에서는 충분히 검토해야 할 선택지입니다.

‘사용할 수 있는 상태’를 만드는 사내 규칙

AI 이용 규칙을 만드는 목적은 직원을 통제하려는 것이 아니라, 안전하게 사용할 수 있는 범위를 명확히 하여 현장에서 AI를 쉽게 활용하도록 돕는 것입니다. 금지만 가득한 규칙은 결국 섀도 AI를 늘릴 뿐입니다.

최소한으로 정해야 할 항목은 입력 금지 정보, 이용 가능한 AI 툴, 회사 계정 이용 조건, 로그 및 승인, 출력 결과에 대한 사람의 검토, 인시던트 발생 시 연락처입니다. 여기까지만 정해 두어도 AI 활용은 ‘개인 책임’에서 ‘회사의 운영’으로 전환될 수 있습니다.

계약서, 회의록, 견적서, 고객 정보, 사내 지식을 AI로 다루고 싶지만 외부 AI에 입력해도 될지 판단하기 어렵다면, 우선 정보의 현황 파악부터 시작해야 합니다. Cor.주식회사에서는 클라우드 AI로 충분한 영역과 로컬 LLM·격리 환경을 검토해야 하는 영역을 정리하고, 실행 가능한 운영 규칙까지 수립해 드립니다.

자주 묻는 질문

Q. 회사에서 ChatGPT를 사용하는 것 자체가 위험한가요?

A. 사용하는 것 자체가 위험한 것이 아니라, 입력하는 정보와 계약·설정을 확인하지 않고 사용하는 것이 위험합니다. 공개 정보나 일반적인 문서 작성에는 활용하기 좋은 반면, 고객 기밀이나 개인정보에는 별도의 취급 방식이 필요합니다.

Q. 가장 먼저 만들어야 할 AI 이용 규칙은 무엇인가요?

A. 입력 금지 정보, 이용 가능한 AI 툴, 회사 계정 이용, 로그 및 승인, 출력 결과에 대한 사람의 검토, 인시던트 발생 시 연락처를 정하는 것입니다.

Q. 로컬 LLM은 어떤 기업에 적합한가요?

A. 계약서, 회의록, 견적서, 사내 문서, 소스 코드 등 외부 서비스로 불필요하게 내보내고 싶지 않은 정보를 AI로 다루고자 하는 기업에 적합합니다.

참고 자료

이 글의 내용을 회사에서 진행하고 싶다면

기밀 데이터 AI 활용 진단 상담은 AI 접수 「Cloudia」에서 받고 있습니다.

기밀 데이터 AI 활용 진단 자세히 보기

Support this article

If this article was helpful, please support us with a tip. You can choose any amount.

Secure payment via Stripe
마지막 업데이트: 2026년 10월 23일

관련 글

글 읽기
가는 선으로 연결된 점이 두 갈래 길로 나뉘고, 한쪽에는 파란색 체크, 다른 한쪽에는 X 표시가 놓여 있는 다이어그램
AI

예시를 추가하면 오히려 나빠지는 문제도 있다. 소형 LLM으로 확인한 생성형 AI 테스트 방법

2026년 10월 29일, 대표 데라다 코스케가 강사를 맡은 한 기업의 사내 스터디에서 소형 언어 모델(Qwen2.5-3B-Instruct)에 '예시 추가하기', '재검토 요청하기'라는 두 가지 방식을 시험해 보았습니다. 개선된 문제, 나빠진 문제, 오류를 옳다고 단언한 문제의 사례를 통해 생성형 AI를 업무에서 테스트할 때의 비교 방법을 소개합니다.

#生成AI #ローカルLLM +3
글 읽기
서버와 단말기를 투명한 테두리로 구분한 설명용 일러스트
AI

수정 버전 출시부터 적용까지. LiteLLM 사례로 살펴보는 업데이트 담당·기한·기록

LiteLLM의 비공개 레지스트리를 통한 수정 배포 사례를 바탕으로 로컬 LLM의 업데이트 담당, 적용 기한, 기록 관리 방안을 살펴봅니다. 수정 사항의 공개와 사내 환경으로의 적용을 구분하여 점검하기 위한 기업 대상 해설입니다.

#LiteLLM #ローカルLLM +2
글 읽기
AI

사내에서 로컬 추론 API를 쓰기 전에. 인증, 허가 목록, 단말 퇴역의 설계

사내에서 로컬 추론 API를 쓰기 전에 인증, 허가 목록, 단말 퇴역을 나누어 설계합니다. 허가 목록이 보여주는 것은 통신을 통과시켜도 되는 상대입니다. 누가 어떤 업무에 써도 되는지는 따로 정합니다.

#ローカルLLM #Ollama +2