생성형 AI 사내 이용 규칙 작성법|OWASP·IBM 조사를 통해 보는 리스크 관리
생성형 AI 이용 규칙을 수립하는 경영진 및 관리 부서를 위해 입력 금지 정보, 승인된 AI, 로그, 교육, 인시던트 대응을 정리합니다. AI 활용과 정보 관리를 양립하고자 하는 기업을 위한 글입니다.
생성형 AI 사내 이용 규칙 작성법|OWASP·IBM 조사를 통해 보는 리스크 관리
생성형 AI 규칙은 ‘사용하지 못하게 하기 위해서’가 아니라 ‘안전하게 최대한 활용하기 위해서’ 만드는 것입니다.
생성형 AI의 사내 이용 규칙은 금지 조항만 나열해서는 기능하지 않습니다. 현장에서는 편리한 도구를 사용하기 마련입니다. 그렇기 때문에 회사 차원에서 사용할 수 있는 AI, 입력해서는 안 되는 정보, 승인이 필요한 업무, 출력물의 확인 방법을 정하여 임직원이 혼선 없이 사용할 수 있는 환경을 조성해야 합니다.
Cor.주식회사는 생성형 AI 규칙을 만들지 않은 회사는 AI를 쓰지 않는 회사가 아니라, 보이지 않는 곳에서 AI가 쓰이는 회사가 된다고 보고 있습니다. 이것이 바로 이른바 섀도우 AI(Shadow AI) 문제입니다.
이 글에서 전제로 한 객관적 데이터
- IBM의 2025년 조사에 따르면, AI 관련 보안 인시던트를 보고한 조직의 97%가 적절한 AI 액세스 제어가 결여되어 있었으며, 63%가 AI 거버넌스 정책이 결여되어 있었다고 합니다.
- OWASP는 LLM 애플리케이션의 주요 리스크로 Sensitive Information Disclosure, Excessive Agency, Overreliance 등을 꼽고 있습니다.
- NIST의 생성형 AI 프로파일은 AI의 설계·개발·이용·평가에 리스크 관리를 내재화하기 위한 참조 자료로 공개되어 있습니다.
규칙에 반드시 포함해야 할 항목
- 이용 가능한 AI 도구: 회사 차원에서 승인하는 AI 서비스, 계정, 설정을 명시합니다.
- 입력 금지 정보: 개인정보, 고객 기밀, 계약 조건, 소스 코드, 미공개 재무 정보 등을 분류합니다.
- 이용 가능한 업무: 문서 작성, 요약, 아이디어 도출, 검색 보조 등 우선 활용할 수 있는 영역을 제시합니다.
- 사람에 의한 검토(Human Review): AI 출력물을 고객 제출·계약·법무·채용 판단에 활용할 경우의 확인자를 지정합니다.
- 로그 및 보고: 문제가 발생했을 때의 연락처와 초기 대응 절차를 규정합니다.
이 5가지를 결정해 두면 현장은 ‘전면 금지’가 아닌 ‘여기까지는 활용 가능’이라고 판단할 수 있습니다.
금지뿐인 규칙과 섀도우 AI
임직원이 AI를 사용하고 싶어 하는 이유는 요령을 피우려는 것이 아니라 회의록, 이메일, 자료 작성, 조사, 코드 확인 등 일상 업무의 부담이 크기 때문입니다. 그 상황에서 ‘금지’라고만 하면 개인 계정으로 사용하는 사람이 생겨납니다.
그렇기 때문에 규칙은 현장의 생산성을 높이기 위해 만들어야 합니다. 회사 계정, 학습에 이용되지 않는 설정, 입력 금지 정보, 출력물 검토 체계를 갖추어 안전하게 활용할 수 있는 경로를 마련해 주는 것이 본질입니다.
작게 시작하여 운영을 통해 업데이트하기
생성형 AI 규칙은 한 번 만들고 끝나는 것이 아닙니다. 모델, 기능, 계약 조건, 사내 업무는 계속해서 변화합니다. 월 1회라도 좋으니 이용 현황, 아차 사고(Near Miss), 금지 정보의 재검토, 승인된 AI 도구의 업데이트를 진행해야 합니다.
AI 활용에서 중요한 것은 완벽한 규정이 아니라, 지속적으로 개선되는 운영입니다. 규칙을 현장에 적용하고, 현장의 피드백을 바탕으로 업데이트하는 사이클을 갖춘 회사만이 안전하게 AI를 계속 활용할 수 있습니다. Cor.주식회사에서는 AI 이용 방침, 입력 금지 정보, 승인된 AI, 로컬 LLM 활용, 임직원 대상 교육까지 지원합니다.
자주 묻는 질문
생성형 AI 이용 규칙은 무엇부터 만들어야 하나요?
이용 가능한 AI 도구, 입력 금지 정보, 이용 가능한 업무, 사람에 의한 검토, 로그 및 보고의 5가지 항목부터 시작하는 것이 현실적입니다.
개인 계정을 통한 AI 이용은 금지해야 하나요?
고객 기밀이나 개인정보를 다루는 업무에서는 지양해야 합니다. 회사 계정이나 학습에 이용되지 않는 설정, 승인된 환경을 마련하는 것이 중요합니다.
규칙만 만들면 안전한가요?
규칙만으로는 충분하지 않습니다. 교육, 이용 로그, 승인, 정기 검토, 인시던트 대응까지 종합적으로 운영되어야 비로소 실효성을 갖습니다.
참고 자료
- IBM: Cost of a Data Breach Report 2025 - AI 관련 인시던트에서 적절한 액세스 제어가 없었던 조직이 97%, AI 거버넌스 정책이 결여된 조직이 63%.
- OWASP Top 10 for LLM Applications - Sensitive Information Disclosure, Excessive Agency, Overreliance 등 LLM 애플리케이션의 대표적 리스크 정리.
- NIST AI 600-1: Generative AI Profile - NIST AI RMF 1.0의 생성형 AI 대상 프로파일. 신뢰성·리스크 관리를 설계·개발·이용·평가에 내재화하기 위한 참조 자료.
- Cor. HP: 보안 - 로컬 퍼스트, 최소한의 로그, 기밀도 티어, AI 이용 방침, ISMS(2026년 10월에 2단계 심사를 마치고 2026년 12월경 인증 등록 전망) 확인 가능.
이 글의 내용을 회사에서 진행하고 싶다면
기밀 데이터 AI 활용 진단 상담은 AI 접수 「Cloudia」에서 받고 있습니다.
기밀 데이터 AI 활용 진단 자세히 보기Support this article
If this article was helpful, please support us with a tip. You can choose any amount.
관련 글

예시를 추가하면 오히려 나빠지는 문제도 있다. 소형 LLM으로 확인한 생성형 AI 테스트 방법
2026년 10월 29일, 대표 데라다 코스케가 강사를 맡은 한 기업의 사내 스터디에서 소형 언어 모델(Qwen2.5-3B-Instruct)에 '예시 추가하기', '재검토 요청하기'라는 두 가지 방식을 시험해 보았습니다. 개선된 문제, 나빠진 문제, 오류를 옳다고 단언한 문제의 사례를 통해 생성형 AI를 업무에서 테스트할 때의 비교 방법을 소개합니다.

수정 버전 출시부터 적용까지. LiteLLM 사례로 살펴보는 업데이트 담당·기한·기록
LiteLLM의 비공개 레지스트리를 통한 수정 배포 사례를 바탕으로 로컬 LLM의 업데이트 담당, 적용 기한, 기록 관리 방안을 살펴봅니다. 수정 사항의 공개와 사내 환경으로의 적용을 구분하여 점검하기 위한 기업 대상 해설입니다.
사내에서 로컬 추론 API를 쓰기 전에. 인증, 허가 목록, 단말 퇴역의 설계
사내에서 로컬 추론 API를 쓰기 전에 인증, 허가 목록, 단말 퇴역을 나누어 설계합니다. 허가 목록이 보여주는 것은 통신을 통과시켜도 되는 상대입니다. 누가 어떤 업무에 써도 되는지는 따로 정합니다.