KOEN
Read Original
#AI

광고 관련성 향상: 순차 추천 모델에 실시간 컨텍스트 통합하기

광고 관련성 향상: 순차 추천 모델에 실시간 컨텍스트 통합하기
01

Summary

"지금 보고 있는 핀이 정답이다" 핀터레스트가 광고 관련성을 300% 끌어올린 비결

실시간 컨텍스트와 순차적 행동 데이터를 결합한 하이브리드 투 타워 모델로 ROAS의 한계를 돌파하다

핀터레스트 엔지니어링 팀이 사용자의 과거 이력에만 의존하던 기존 추천 시스템의 한계를 극복하기 위해 실시간 브라우징 컨텍스트를 모델링에 통합한 과정을 소개합니다. 트랜스포머 기반의 순차 모델과 실시간 데이터의 조화를 통해 광고 서빙의 정밀도를 획기적으로 높인 기술적 여정을 담고 있습니다.

  • 01실시간 컨텍스트 레이어를 쿼리 타워에 통합하여 즉각적인 사용자 의도 파악
  • 02학습 시 합성 증강 데이터(Synthetic Data)를 주입하여 오프라인 학습의 한계 극복
  • 03오프라인과 온라인 추론을 분리한 하이브리드 서빙 아키텍처 구축
  • 04관련 핀(Related Pins) 영역 내 광고 후보군의 생존율 및 관련성 대폭 향상
  • 05주요 국가 기준 ROAS 1.4% 상승 등 실질적인 비즈니스 임팩트 증명

RECOMMENDATION

대규모 트래픽 환경에서 사용자 과거 이력과 실시간 의도를 동시에 반영해야 하는 추천 시스템 엔지니어들에게 하이브리드 서빙 아키텍처와 합성 데이터 활용법을 추천합니다.

The Problem

기존의 순차적 추천 모델은 오프라인에서 생성된 사용자 이력 기반 임베딩만 사용하여, 사용자가 현재 Pinterest에서 보고 있는 핀이나 검색어와 같은 실시간 온라인 컨텍스트를 반영하지 못해 '관련 핀' 영역에서의 기여도가 1% 미만으로 매우 낮았습니다.

The Solution

실시간 컨텍스트 레이어를 쿼리 타워에 통합한 '문맥 인식 순차 투 타워 모델(Contextual Sequential Two Tower Model)'을 도입하고, 학습 시에는 합성 증강 데이터를 활용하며 서빙 시에는 오프라인(이력)과 온라인(컨텍스트) 임베딩을 결합하는 하이브리드 추론 방식을 적용했습니다.

The Result

오프라인 평가에서 Recall@K가 3~10배 향상되었고, 광고 후보군의 중앙값 관련성이 275~300% 증가했으며, 최종적으로 광고 수익률(ROAS)이 약 0.7%(주요 국가 1.4%) 상승하는 성과를 거두었습니다.

Trade-off

실시간 온사이트 데이터와 오프라인 데이터를 직접 결합하는 기술적 난이도로 인해 학습 시 실제 데이터 대신 합성 데이터(Synthetic Data)를 사용해야 했으며, 온라인 추론 단계의 계산 부하가 증가하는 하이브리드 서빙 방식을 채택했습니다.

03

Key Concepts

Concept · 01

Two-Tower Model

사용자(Query)와 아이템(Candidate)을 각각 독립적인 신경망으로 모델링하여 임베딩을 생성한 뒤, 벡터 유사도를 기반으로 매칭하는 아키텍처입니다.

  • 본문에서는 쿼리 타워에 실시간 컨텍스트 레이어를 추가하여 사용자 임베딩을 동적으로 생성했습니다.
Concept · 02

Sequential Recommender

사용자의 과거 행동 이력을 시간 순서대로 파악하여 미래의 행동이나 선호도를 예측하는 모델링 방식입니다.

  • Transformer 인코더를 사용해 오프라인 conversion 이력을 처리하여 사용자의 장기적인 취향을 인코딩했습니다.
Concept · 03

Hybrid Inference

연산량이 많은 부분은 오프라인에서 미리 처리하고, 실시간성이 필요한 부분만 온라인에서 처리하여 효율성과 정확도를 동시에 잡는 방식입니다.

  • Transformer 인코더는 매일 오프라인으로 업데이트하고, 컨텍스트 레이어와 최종 MLP는 실시간 서빙 시점에 연산합니다.