카테고리
AI 및 머신러닝에 대한 글
2026년 10월 29일, 대표 데라다 코스케가 강사를 맡은 한 기업의 사내 스터디에서 소형 언어 모델(Qwen2.5-3B-Instruct)에 '예시 추가하기', '재검토 요청하기'라는 두 가지 방식을 시험해 보았습니다. 개선된 문제, 나빠진 문제, 오류를 옳다고 단언한 문제의 사례를 통해 생성형 AI를 업무에서 테스트할 때의 비교 방법을 소개합니다.
LiteLLM의 비공개 레지스트리를 통한 수정 배포 사례를 바탕으로 로컬 LLM의 업데이트 담당, 적용 기한, 기록 관리 방안을 살펴봅니다. 수정 사항의 공개와 사내 환경으로의 적용을 구분하여 점검하기 위한 기업 대상 해설입니다.
사내에서 로컬 추론 API를 쓰기 전에 인증, 허가 목록, 단말 퇴역을 나누어 설계합니다. 허가 목록이 보여주는 것은 통신을 통과시켜도 되는 상대입니다. 누가 어떤 업무에 써도 되는지는 따로 정합니다.
카메라와 센서 가까이에서 움직이는 현장 AI와, 사내 문서를 다루는 로컬 LLM은 중시하는 조건이 다릅니다. Cor.주식회사는 검증 환경을 나누는 방침입니다. 나눈 것 자체가 안전의 증명은 아닙니다.
계약서, 회의록, 견적서, 고객 정보를 생성형 AI에 입력해도 될지 고민하는 경영진 및 관리 부서를 위해 기밀도 분류 방법, 클라우드 AI와 로컬 LLM의 구분 활용법, 사내 규정 정비의 핵심 포인트를 해설합니다.
중소기업의 AI 도입률 20.4%라는 현주소를 바탕으로, 총무·관리 부문부터 무리 없이 시작하는 AI 활용 추진 방법을 해설합니다. AI 활용의 첫걸음을 검토하는 기업을 위한 글입니다.
생성형 AI 이용 규칙을 수립하는 경영진 및 관리 부서를 위해 입력 금지 정보, 승인된 AI, 로그, 교육, 인시던트 대응을 정리합니다. AI 활용과 정보 관리를 양립하고자 하는 기업을 위한 글입니다.
사내 문서 검색 및 RAG 도입에서 성과가 나지 않는 이유를 데이터 정리, 권한, 평가 지표, 운영 설계의 관점에서 설명합니다. 사내 지식 AI를 PoC로 끝내지 않기 위한 실천 가이드입니다.
로컬 LLM의 기본, 클라우드 AI와의 차이점, 도입에 적합한 업무, PoC 전에 확인해야 할 보안 및 운영 요건을 설명합니다. 기밀 데이터를 안전하게 AI로 활용하고자 하는 기업을 위한 글입니다.
AI 도입이 PoC에서 멈추는 원인과 비즈니스 성과로 연결하기 위한 KPI, 검증 설계, 사내 의사결정 추진 방법을 해설합니다. AI 도입을 본격적으로 프로덕션화하고자 하는 경영자 및 PM을 위한 글입니다.
AI 도입을 위한 사내 품의를 통과시키는 데 필요한 목적, KPI, 비용, 리스크, 견적 근거 정리 방법을 설명합니다. 사내에 AI 도입을 설명하고자 하는 담당자를 위한 글입니다.
AI 에이전트 도입이 본격화되는 2026년, 업무에 통합하기 전에 결정해 두어야 할 권한 설계, 작업 로그, 사람의 승인 포인트를 해설합니다. PoC로 끝나지 않게 하기 위한 구현 방침입니다.
