Read Original
#AI

ODW #5: 벡터 DB와 에이전트 스킬로 RAG 시스템 만들기

ODW #5: 벡터 DB와 에이전트 스킬로 RAG 시스템 만들기
01

Summary

1,000명의 개발자가 주목한 LINE의 AI 에이전트 지식 학습법

ChromaDB와 에이전트 스킬로 파편화된 기술 문서를 스마트한 비서로 변신시키기

이 아티클은 LINE의 ODW 워크숍에서 다뤄진 실전 RAG 시스템 구축 사례를 소개합니다. 단순한 문서 검색을 넘어 AI 에이전트가 직접 사내 규정을 학습하고 코딩 업무에 활용하는 구체적인 아키텍처와 기술 스택을 공유합니다.

  • 01로컬 환경에서 신속하게 구축 가능한 ChromaDB 기반의 벡터 데이터베이스 활용법
  • 02500개 이상의 마크다운 문서를 체계적으로 관리하고 검색하기 위한 데이터 정형화 노하우
  • 03MCP(Model Context Protocol)를 이용해 외부 DB를 에이전트의 두뇌와 연결하는 전략
  • 04복잡한 검색 쿼리 없이도 자연어로 지식을 호출하는 '에이전트 스킬' 구현
  • 05사내 클라우드 Flava를 통한 RAG 시스템 배포 및 팀 간 지식 공유 자동화 모델 제시

RECOMMENDATION

사내 기술 문서 탐색에 지친 시니어 개발자나 AI 에이전트를 실무 워크플로우에 이식하려는 엔지니어에게 추천합니다. 특히 MCP를 활용한 도구 연결 방식은 즉시 도입 가능한 실질적인 인사이트를 제공합니다.

The Problem

개발자들은 방대한 양의 사내 문서와 기술 가이드라인 속에서 정보를 찾는 데 많은 시간을 소모하고 있으며, 이는 질문자와 답변자 모두에게 높은 커뮤니케이션 비용을 발생시킨다.

The Solution

오픈소스 벡터 DB인 ChromaDB를 활용해 Swift Evolution 문서를 적재하고, MCP(Model Context Protocol)를 통해 AI 에이전트가 이 데이터를 참조하게 만들었으며, '에이전트 스킬'을 정의하여 복잡한 검색 과정을 자연어 지시로 간소화했다.

The Result

1,000명 이상의 임직원이 참여한 워크숍을 통해 실무 적용 가능성을 확인했으며, 코딩 에이전트가 스스로 문서를 검색하여 코드 생성 및 리뷰 프로세스에 활용할 수 있는 기반을 마련하여 정보 접근성을 개선했다.

Trade-off

에이전트가 DB 구조와 메타데이터를 정확히 이해하도록 스킬을 정의하는 초기 설정 과정이 필요하며, 검색 결과의 정확도를 보장하기 위해 n_results 값 조정 등 기술적인 세부 튜닝이 수반되어야 한다.

03

Key Concepts

Concept · 01

RAG (Retrieval-Augmented Generation)

외부 데이터베이스에서 관련 정보를 검색하여 대규모 언어 모델(LLM)의 답변 생성 능력을 보완하고 할루시네이션을 방지하는 기술이다.

  • 대량의 마크다운 가이드라인을 벡터화하여 에이전트의 외부 지식 창고로 활용함
Concept · 02

ChromaDB

임베딩 벡터를 저장하고 검색하는 데 특화된 오픈소스 벡터 데이터베이스로, Python 및 JavaScript 클라이언트를 통해 간편하게 조작할 수 있다.

  • Swift Evolution 제안 문서들을 벡터화하여 적재하고 검색하는 핵심 저장소로 사용됨
Concept · 03

MCP (Model Context Protocol)

AI 에이전트가 외부 데이터베이스나 도구에 접근할 때 필요한 정보와 인터페이스를 제공하는 통신 규약이다.

  • Claude Code와 같은 에이전트가 ChromaDB의 존재를 인식하고 데이터를 호출할 수 있게 매개함