넷플릭스가 실시간 분산 그래프를 구축한 방법과 이유: 3부 — gRPC 실행 API를 통한 그래프 쿼리
Summary
넷플릭스는 어떻게 수십억 개의 에지를 가진 그래프를 0.1초 만에 검색할까?
gRPC와 비동기 너비 우선 탐색으로 완성한 초저지연 분산 그래프 조회 엔진 설계기
이 아티클은 넷플릭스가 실시간 분산 그래프(RDG) 상에서 수많은 다중 홉 쿼리를 100ms 미만으로 처리하기 위해 설계한 서빙 레이어 구조를 소개합니다. 네트워크 오버헤드를 유발하는 깊이 우선 탐색 대신 비동기 너비 우선 탐색을 선택하고, 캐싱 및 데이터 스트리밍 기법을 조화롭게 결합한 실전 아키처 가이드를 제공합니다.
- 01깊이 우선 대신 너비 우선 탐색(BFS)을 선택하여 분산 환경에서의 네트워크 왕복 횟수를 최소화하고 병렬 배칭을 실현
- 02Thread-per-request 모델을 탈피하고, 단 16~24개의 전용 스레드 풀로 수천 개의 비동기 I/O 요청을 조율하는 고성능 아키텍처 구현
- 03대규모 연결 노드를 한 번에 로드하는 대신, 인접 리스트를 100개 단위의 스트림으로 나누어 처리하고 필터링을 조기 적용해 메모리 과부하 방지
- 04전체 데이터를 캐싱하는 대신 휘발성이 낮고 접근 빈도가 높은 노드만 EVCache로 선택적 캐싱하여 70~80%의 높은 히트율 달성
- 05클라이언트가 필요로 하는 외부 메타데이터만 선택적으로 인리치먼트(Enrichment)하되, 외부 서비스 장애 시에도 그래프 데이터를 우선 반환하는 Fail-open 구조 설계
RECOMMENDATION
대규모 분산 그래프 데이터나 복잡하게 얽힌 관계형 데이터를 초저지연으로 조회해야 하는 백엔드 아키텍트와 분산 시스템 엔지니어에게 적극 추천합니다.
The Problem
넷플릭스는 대규모 실시간 분산 그래프(RDG)를 구축했으나, 대용량 보안 조회부터 탐색적 개인화 추적에 이르는 다양한 접근 패턴을 100ms 미만의 지연 시간 내에 처리해야 하는 조회 계층 설계의 복잡성에 직면했습니다. 특히 순차적인 다중 홉(hop) 조회 시 발생하는 네트워크 오버헤드와 광범위한 팬아웃(fan-out) 처리 문제가 있었습니다.
The Solution
너비 우선 탐색(Breadth-First Traversal) 방식을 채택하여 각 단계를 병렬화했고, 블로킹 I/O를 방지하기 위해 비동기식 구성(Asynchronous Composition) 기반의 전용 스레드 풀을 도입했습니다. 또한 인접 리스트(Adjacency Lists)를 스트림 형태로 처리하여 대규모 팬아웃 시 데이터 오버페칭을 방지하고 EVCache를 사용해 빈번히 조회되는 정적 데이터를 선택적으로 캐싱했습니다.
The Result
이와 같은 구조를 통해 2-홉 이상의 다중 홉 그래프 조회를 100ms 미만의 지연 시간 내에 완벽하게 처리할 수 있게 되었습니다. 또한 수천 개의 동시 쿼리를 소수의 스레드 풀(16~24개 스레드)만으로 지연 없이 안전하게 조율할 수 있었으며 선택적 캐싱을 통해 70~80%의 높은 히트율을 달성했습니다.
Trade-off
너비 우선 탐색의 특성상 그래프의 각 레벨 데이터를 한 번에 메모리에 유지해야 하므로 메모리 사용량이 급증할 수 있어, 각 홉마다 에지 타입별 제한(Limits)을 두어 메모리 부하를 제어해야 했습니다. 또한 강한 일관성 대신 최종 일관성(Eventual Consistency)을 타협안으로 채택하여 성능을 최적화했습니다.
Key Concepts
More from Netflix
View all posts from NetflixMAPS: 넷플릭스의 대규모 멀티모달 에셋 개인화
CLIPMediaFMRecommendation Systems1일 전두 개의 플링크 오토스케일러 이야기
Apache FlinkAutoscalingStream Processing1주 전분석을 위한 디바이스 사양 모델링
Data ModelingFeature ManagementAnalytics4주 전GenRec: 넷플릭스의 LLM 네이티브 추천 시스템을 향하여
LLMRecommendation SystemContext Engineering1개월 전넷플릭스의 자체 LLM 서빙 플랫폼 구축기
vLLMTriton Inference ServerLLM Serving1개월 전