AI 수탁 개발

Engineer Cafe Navigator — 다국어 음성 AI로 접수를 지원하는 OSS 실적

후쿠오카시 엔지니어 카페의 접수를 지원하는 다국어 음성 AI 에이전트를 멀티 에이전트 구성으로 개발・실운영하고 있으며, ISC 라이선스의 OSS로 공개하고 있습니다.

과제

후쿠오카시의 엔지니어 카페에는 국내외에서 다양한 방문객이 찾아옵니다. 개관 시간이나 설비, 이벤트 정보 같은 문의는 폭이 넓고, 해외에서 온 방문객 대응도 일상적으로 발생합니다. 스태프가 한 건씩 정성껏 답하는 것은 소중히 하고 싶은 한편, 신규 방문객 대응에 드는 부담이 쌓이고 이용자 스스로 알고 싶은 정보에 바로 도달하지 못한다는 과제감이 있었습니다.

접근 방식

저희가 가장 먼저 정한 것은, 단일 LLM에 질문을 그대로 던져 답을 돌려주는 구조로는 만들지 않는다는 것이었습니다. 안내・영업시간・이벤트・대화 기억 같은 역할별로 전문 에이전트를 나누고, 이를 묶는 라우팅 역할을 두는 설계입니다. 답을 통째로 맡기지 않고 어느 에이전트가 어떻게 판단했는지를 추적할 수 있는 구성으로 만들면, 다국어 대응과 안내의 정확성을 쌓아 올릴 수 있다고 생각했습니다. 아울러 실운영에서 다듬은 구조를 사회에 환원한다는 의미도 담아, OSS(ISC 라이선스)로 공개하는 방침을 정했습니다.

구현

프런트엔드는 Next.js 15로 구축하고, 3D VRM 캐릭터를 활용한 키오스크형 UI를 마련했습니다. 백엔드는 LangGraph Supervisor 구성의 멀티 에이전트로, 라우팅・시설 안내・영업시간・이벤트 안내・대화 기억 등의 전문 에이전트군이 연계합니다. 데이터베이스는 Supabase(PostgreSQL + pgvector)를 채택하고, 일본어 지식 베이스를 다른 언어의 질문에도 그대로 사용할 수 있는 다국어 RAG(사내 문서 등을 AI가 참조하게 하는 구조) 설계로 만들었습니다. 음성 인식・음성 합성은 Google Cloud를 이용하고 있습니다. 품질 측면에서는 RAGAS(RAG 답변 품질 평가 프레임워크)에 의한 평가 게이트를 두고, ADR(설계 판단의 기록)을 남기면서 개발을 진행했으며, 단기・장기의 대화 메모리 설계에도 힘을 쏟았습니다.

성과

Engineer Cafe Navigator는 실운영 중이며, 방문객은 다국어로 시설 안내나 영업시간, 이벤트 정보를 물어볼 수 있게 되었습니다. 규모는 182,368행・1,506커밋・기여자 8명(엔지니어 카페 공식 스태프 포함, git 실측・2026년 6월 시점)이며, 그중 자사 기여율은 87.7%(git 실측)입니다. OSS로 공개함으로써 커뮤니티를 포함한 형태로 개선이 이어지는 체제가 되었습니다. 우선 동작하는 것을 만들고 끝내지 않고, 라우팅・검색・평가까지 포함한 프로덕션 구성으로 만든 것이 지금의 안정적인 운영으로 이어지고 있다고 생각합니다.

이 사례에 대해 더 알고 싶으신 분께

여러분 현장의 과제도 함께 고민하게 해 주세요.

관련 실적