#AI

생성형 AI와 빅데이터의 만남: 에이전틱 AI로 진화하는 Big Data Assistant

Summary

삼성전자의 480만 테이블을 자연어로 요리하다: 멀티 에이전트로 진화한 Big Data Assistant

LangGraph 오케스트레이션과 ReAct 패턴으로 AI 환각을 제어하고 완벽한 데이터 분석 파이프라인을 구축한 기술적 이정표

본 아티클은 삼성전자 빅데이터 센터가 대규모 사내 데이터를 활용해 지능형 데이터 분석 조수(BDA)를 개발하고 고도화하는 엔지니어링 과정을 집중적으로 다룹니다. LLM이 직접 데이터를 연산할 때 발생하는 치명적인 신뢰도 저하 문제를 SQL 변환과 분리 제어를 통해 해결하고, 단일 모델의 한계를 극복하기 위해 다각도로 설계된 멀티 에이전트 협업 체계를 구축한 생생한 실무 노하우를 전달합니다. 빠르게 변하는 AI 환경 속에서 실질적인 비결정성 제어 및 인프라 구축의 핵심 조언을 수록하였습니다.

01비결정론적 모델의 한계를 차단하기 위해 계산은 DB가 수행하고 LLM은 오직 SQL 생성에만 집중하도록 아키텍처 구성
02자체적인 판단과 피드백 과정을 반복하는 ReAct 패턴의 도입으로 복잡한 질의도 스스로 계획하여 실행할 수 있도록 진화
03LangGraph 프레임워크를 기반으로 각 노드별 상태 변화 및 순환 흐름을 안정적으로 조율하는 멀티 에이전트 구현
04Supervisor, Extractor, Analyzer 등 엄격한 R&R이 부여된 전문 도메인 에이전트를 배치해 프롬프트 복잡도 최소화
05BigQuery, Python 샌드박스, 외부 데이터 검색 기능 등의 손발 역할을 수행할 수 있는 다양한 도구(Tool) 연계

RECOMMENDATION

대용량 사내 데이터를 보유한 비즈니스 환경에서 생성형 AI 기반의 셀프서비스 분석 플랫폼 도입을 구상 중인 솔루션 설계자 및 AI 엔지니어에게 적극 추천합니다. 특히 단일 LLM 환경에서 프롬프트가 과부하되어 환각 문제를 겪고 있는 실무 조직에 유용한 다중 에이전트 분할 협업 프레임워크를 배울 수 있습니다.

The Problem

삼성전자의 사내 데이터 분석 서비스인 BDA는 480만 개 이상의 원천 테이블이 존재하는 대규모 환경에서 사용자가 원하는 데이터를 수집하고 정제하며 분석하는 전 과정에 수작업으로 수일에서 수주가 걸리는 비효율적 데이터 준비 단계를 겪고 있었습니다.

The Solution

LLM의 비결정론적 특성을 보완하고자 계산은 데이터베이스에 전담시키고 모델은 오직 SQL 코드 생성만 하도록 격리하는 Text-to-SQL 구조를 구축하였으며, 단일 에이전트의 환각을 제어하기 위해 LangGraph 기반 멀티 에이전트 오케스트레이션과 ReAct 패턴을 적용해 역할을 분담했습니다.