
데이터 유출과 인프라 병목을 완벽하게 해결한 자체 AI 개발 플랫폼 ADP 구축 비하인드
왓챠는 비개발 직원들도 LLM을 활용해 안전하고 빠르게 사내 생산성 도구를 구축할 수 있도록 자체 개발 플랫폼 ADP를 설계했습니다. 플랫폼 팀은 멀티테넌시 샌드박스, 데이터 카탈로그 MCP 연동, 그리고 초고속 Preview 링크 생성 기능을 제공하여 인프라 병목을 완전히 해소했습니다. 그 결과 전사 직원의 95% 이상이 직접 앱을 개발하는 진정한 업무 자동화 혁신을 달성했습니다.
보안 통제와 빠른 피드백 루프 사이에서 고민하는 기업 개발팀, 특히 사내 구성원들의 LLM 활용 생산성 도구 제작을 안전하게 자율화하고 싶은 플랫폼 엔지니어들에게 강력히 권장합니다.
왓챠 사내 직원들이 LLM을 활용해 업무 자동화 앱을 제작하고 싶어 했으나, 필요한 사내 데이터를 찾기 어려웠고 민감한 데이터 유출 위험이 높았습니다. 또한 개별 직원의 권한 요청으로 인한 플랫폼 팀의 관리 병목과 제작된 앱을 안전하게 사내에 배포할 인프라의 부재도 큰 문제였습니다.
이러한 문제를 해결하기 위해 왓챠 플랫폼 팀은 리눅스 커널의 UID 격리 기반 멀티테넌시를 구현하여 샌드박스 환경을 제공하는 ADP(AI Development Platform)를 구축했습니다. 더불어 사내 데이터 카탈로그와 데이터 웨어하우스를 MCP로 연결하여 데이터 진입점을 단일화하고, Cloudflare Tunnel을 활용한 즉시 미리보기 기능과 AWS IRSA/GCP WIF를 통한 자격 증명 제거 등 보안 가드레일을 내장했습니다.
ADP 출시 이후 비개발 직군이 주도하여 60개 이상의 사내 앱이 성공적으로 제작 및 운영되고 있습니다. 일평균 30건 이상의 배포가 이루어지며 평균 배포 속도는 2분 이내로 단축되었고, 기존에 24시간이 소요되던 작업을 5분 이내로 줄이는 등 사내 생산성을 극적으로 끌어올렸습니다.
Trade-off
사내 교육 환경을 고려하여 초기 지원 도구를 Claude Code로 한정함에 따라 GPT나 Gemini 등 타 LLM 도구를 선호하는 사용자는 활용이 제한되었습니다. 또한 시스템 프롬프트를 과도하게 내장할 시 오히려 답변 품질과 작동 일관성이 떨어지는 오버프롬프팅 현상을 겪게 되었습니다.
하나의 소프트웨어 인프라 인스턴스를 여러 사용자(테넌트)가 공유하되 서로 데이터를 격리하여 사용하는 아키텍처입니다.
LLM과 데이터 소스(웨어하우스, 로컬 파일, API 등)를 안전하고 표준화된 방식으로 연결하여 컨텍스트를 제공하는 개방형 프로토콜입니다.
퍼블릭 IP나 포트 포워딩 없이 로컬 프로세스를 외부에 안전하게 노출하여 프라이빗 연결을 제공하는 터널링 도구입니다.




