#AI

[AI 해커톤 후기] AI 해커톤 1위 팀이 AI에게 맡기지 않은 것

Summary

AI 해커톤 1위 팀의 비밀: 왜 그들은 가장 핵심적인 계산을 AI에게 맡기지 않았을까?

환각과 권한 통제 오류를 완벽 차단하고, AI가 멈춰도 작동하는 견고한 업무 시스템 설계법

본 아티클은 사내 해커톤에서 대상을 수상한 투자 포트폴리오 관리 플랫폼 'NStake'의 실전 개발 경험을 공유합니다. AI 비서의 단순한 코드 작성을 넘어 비즈니스 규칙과 AI의 역할을 엄격히 분격하고, 실무에서 작동 가능한 신뢰성 높은 AX(AI Transformation)의 현실적인 설계 가이드를 제시합니다.

01단편적인 AI 생성 기능을 넘어 전체 업무의 선순환 흐름(완결성)에 집중하여 설계
02일률적인 생성형 AI 도입 대신 결정론적 계산과 예외 처리를 분리하는 아키텍처 구성
03프롬프트 가드레일에 의존하지 않고 백엔드 인증/인가 단에서 API 접근 권한을 선제 통제
04로컬-개발 DB 환경 격리의 중요성과 AI 도구의 실행 권한을 최소화하는 안전장치 확립

RECOMMENDATION

생성형 AI를 실제 프로덕션 환경에 통합하려 하거나, 신뢰성이 최우선인 금융·재무 비즈니스 도메인에 LLM 아키텍처를 도입하려는 백엔드 엔지니어 및 시스템 설계자에게 강력 추천합니다.

The Problem

기존의 수기 엑셀 기반 출자 현황 관리는 지분율 및 주식 수 변동 이력의 추적이 어렵고, 데이터 원천의 신뢰성과 공시 자료 대조 시 정합성을 검증하기 어려운 한계가 있었습니다.

The Solution

모든 거래 내역을 시간순으로 기록하는 이벤트 기반의 원장 관리 모델을 도입하고, 검증 규칙을 세 단계(Rule, Statistical, eXternal)로 세분화했으며, 가드레일을 AI 내부 응답 필터링이 아닌 API 호출 전 단계의 명시적인 권한 검증 계층으로 분리하여 설계했습니다.

The Result

사내 AI 해커톤에서 최종 1위를 차지했으며, 단편적인 기술 검증을 넘어 데이터 입력, 규칙 검증, 예외 처리, 보고서 출력에 이르는 완결성 높은 엔드투엔드(End-to-End) 업무 흐름의 시스템화 가능성을 증명했습니다.

Trade-off

해커톤 단계의 PoC 수준 특성상 실재 사내 재무 원장과의 실시간 양방향 연동이나 높은 트랜잭션 보장, 실제 감사 로그 모니터링 시스템 구축 등은 기술적 과제로 남겨두었으며, 개발 중 로컬과 개발 데이터베이스 환경 분리 미흡으로 공용 DB 데이터가 일시 유실되는 시행착오가 존재했습니다.