#AI

AI에게 투자정보를 말하게 하기까지

Summary

토스증권이 밝히는 금융 AI 설계의 세 가지 관문

환각을 통제하고 신뢰할 수 있는 투자 정보 서비스를 제공하기 위한 컨텍스트 및 그래프 설계 비법

고객에게 즉각 노출되는 금융 AI 서비스는 일반 요약과 다르게 한 치의 오류도 허용하지 않는 철저함이 필요합니다. 토스증권 엔지니어가 직접 실전 사례를 통해 데이터의 정합성을 확보하는 컨텍스트 엔지니어링 기법부터, 시스템의 예측 가능성을 극대화하는 절차형 오케스트레이션 설계 전략까지 신뢰성 중심의 AI 아키텍처 노하우를 깊이 있게 풀어냅니다.

01적시성, 정확성, 검증 가능성, 비정상성이라는 금융 투자 데이터의 4가지 주요 과제 도출
02데이터 입수 시점에 자체 분류 체계를 통해 BERT로 메타데이터와 벡터 임베딩을 선제 처리
03유사도 기반의 중복 제거 및 주요 설명/실패 택소노미를 활용한 고효율 리랭킹 수행
04LLM이 최적의 흐름으로 추론할 수 있도록 정보를 배치하는 리즈닝 친화적 컨텍스트 설계
05ReAct의 무작위 툴 콜링과 비용 문제를 통제하기 위한 절차형 그래프 아키텍처 도입

RECOMMENDATION

예측이 불가능하고 비용 관리가 까다로운 자율형 에이전트 아키텍처의 한계를 느끼고 계신 엔지니어들에게 권장합니다. 높은 정확성과 추적성, 일관성 있는 성능 유지가 필수적인 엔터프라이즈 환경에서 절차형 오케스트레이션을 즉각 도입하기 위한 훌륭한 나침반이 되어줄 것입니다.

The Problem

금융 투자 정보 서비스에 LLM을 적용할 때 적시성, 정확성, 검증 가능성, 비정상성이라는 금융 도메인 고유의 특징과 에이전트 오동작으로 인한 오류 전파 문제를 극복해야 했습니다. 특히 자율적 에이전트의 무제한적 툴 콜링은 실시간 운영 환경에서 높은 비용과 실행 불확실성을 가중시키는 원인이 되었습니다.

The Solution

데이터 수집 시점부터 BERT 모델을 통한 구조화된 메타데이터 분류와 하이브리드 리트리버를 결합한 컨텍스트 엔지니어링을 수행했습니다. 또한 자율적 ReAct 루프 대신 각 단계의 입출력 스키마를 통제하고 오류 추적이 용이하도록 태스크 그래프를 설계하여 절차형 오케스트레이션을 구축했습니다.