들어가며: 왜 지금 '계층적 관심 표현'인가?
메타(구 페이스북)는 광고 생태계의 가장 깊은 단계인 딥퍼널(Deep Funnel) 최적화를 위해 새로운 연구 영역인 **계층적 관심 표현(Hierarchical Interest Representation, 이하 HIR)**을 공개했습니다. 기존의 딥러닝 기반 광고 랭킹 시스템은 사용자의 명시적 신호(클릭, 좋아요)에 크게 의존했지만, 실제 구매 전환은 매우 드물고 신호가 희소(Sparse)하다는 근본적인 문제가 있었습니다.
HIR은 이 문제를 해결하기 위해 사용자의 잠재적 관심을 계층적으로 학습하고, 광고주가 제공하는 제품/서비스의 의미적 정보(World Knowledge)를 융합하여, 보이지 않는 연결고리를 찾아내는 접근법입니다. 마치 백화점에서 고객이 단순히 '구경'만 하는 행동에서도 그 사람의 라이프스타일과 관심사를 유추하는 것과 비슷합니다.
핵심 질문: 희소한 신호만으로 어떻게 사용자의 진짜 관심을 찾아낼 수 있을까? 메타의 HIR이 그 해답을 제시합니다.
이 글에서는 HIR의 기술적 핵심, 아키텍처, 그리고 국내 광고 생태계에 미칠 영향과 주의사항을 실무자 관점에서 낱낱이 분석해보겠습니다.
(참고: 본 분석은 메타 엔지니어링 블로그에 게재된 Hierarchical Interest Representation 소개 글을 기반으로 합니다.)
HIR 아키텍처: 트랜스포머 + 그래프 + 세계 지식의 융합
HIR의 핵심은 이종 그래프(Heterogeneous Graph) 위에서 동작하는 트랜스포머 기반 계층적 인코더입니다. 사용자, 광고, 광고주, 캠페인, 제품, 픽셀 등 다양한 엔티티가 노드(Node)가 되고, 이들 간의 상호작용(클릭, 노출, 전환)이 엣지(Edge)가 됩니다. 이 복잡한 그래프를 효과적으로 학습하기 위해 HIR은 네 가지 주요 설계 원칙을 따릅니다.
1. 차원 축소(Dimension Reduction)와 원시 관심(Primitive Interest)
수십억 개의 노드와 희소한 엣지를 직접 다루는 것은 불가능에 가깝습니다. HIR은 원시 그래프를 구성 가능한 수의 '원시 관심(Super-Node)' 으로 투영합니다. 예를 들어, '운동화'라는 하나의 원시 관심 노드 아래에 수많은 운동화 광고와 그에 관심을 보인 사용자들이 군집화됩니다. 이렇게 하면 희소했던 사용자-광고 연결이 원시 관심 수준에서는 훨씬 조밀해지고 안정적인 구조를 갖게 됩니다.
2. 세계 지식 강화(Knowledge Enrichment)
HIR은 광고주의 카탈로그, 페이지 메타데이터, 제품 이미지/비디오 등 멀티모달(Multimodal) 콘텐츠를 LLM을 통해 처리합니다. 단순히 '사용자가 A 광고를 클릭했다'는 사실뿐 아니라, 'A 광고가 판매하는 제품이 무엇인지'에 대한 의미적 이해를 모델에 주입하는 것입니다. 이는 처음 보는 광고나 제품에 대해서도 일반화(Generalization)를 가능하게 합니다.
3. 통합 관계 표현(Unified Relational Representation)
모든 엔티티(사용자, 광고주, 제품)는 동일한 임베딩 공간(Metric Space) 에서 표현됩니다. 덕분에 '이 사용자는 어떤 원시 관심과 가까운가?', '이 광고는 어떤 원시 관심을 잘 대표하는가?', '이 사용자와 가장 유사한 다른 사용자는 누구인가?'와 같은 질문에 임베딩 연산(예: 코사인 유사도)으로 답할 수 있습니다.
4. 멀티 계층적 입도(Multi-Hierarchical Granularities)
사용자의 관심은 항상 동일한 수준으로 표현되지 않습니다. '스포츠'라는 넓은 관심에서 '러닝화'라는 구체적인 관심까지 다양한 계층이 존재합니다. HIR은 여러 계층의 슈퍼 그래프(Super-Graph) 를 학습하여, 다양한 추상화 수준에서 관계를 포착합니다. 이는 랭킹, 개인화, 리트리벌 등 다양한 다운스트림 태스크에 유연하게 적용될 수 있습니다.
코드로 보는 핵심 아이디어 (개념적 의사코드)
다음은 HIR의 핵심 개념을 Python 스타일 의사코드로 표현한 것입니다. 실제 구현은 훨씬 복잡하지만, 아이디어를 이해하는 데 도움이 될 것입니다.
# HIR 개념적 의사코드 (PyTorch-like)
# 주석: 한국어
class HierarchicalEncoder(nn.Module):
def __init__(self, num_primitives=1000, num_hierarchies=3):
super().__init__()
self.num_primitives = num_primitives
self.num_hierarchies = num_hierarchies
# 각 계층별로 원시 관심(Super-Node) 임베딩을 학습
self.primitive_embeddings = nn.ParameterList([
nn.Parameter(torch.randn(num_primitives, 256))
for _ in range(num_hierarchies)
])
# FlexAttention 기반의 그래프 인코더 (메모리 효율적)
self.graph_encoder = FlexAttentionGraphEncoder(hidden_dim=256)
# 세계 지식 인코더 (LLM으로부터 추출된 특징)
self.world_knowledge_encoder = nn.Linear(768, 256) # 예: CLIP 임베딩 크기
def forward(self, node_features, edge_index, edge_type, world_knowledge):
# 1. 노드 특징 + 세계 지식 융합
node_emb = self.graph_encoder(node_features, edge_index, edge_type)
world_emb = self.world_knowledge_encoder(world_knowledge)
fused_emb = node_emb + world_emb # 간단한 융합 예시
# 2. 각 계층별로 원시 관심 할당 (Sinkhorn-Knopp 군집화)
hierarchical_representations = []
for h in range(self.num_hierarchies):
# 각 노드를 가장 가까운 원시 관심(Super-Node)에 할당
logits = torch.matmul(fused_emb, self.primitive_embeddings[h].T)
assignment = sinkhorn_knopp(logits) # 균등 분배 보장
hierarchical_representations.append(assignment)
# 3. Bag-of-Meaning 토큰 생성 (이산화)
bom_tokens = composite_quantize(fused_emb) # 이산 코드로 변환
return fused_emb, hierarchical_representations, bom_tokens
# 사용 예시
model = HierarchicalEncoder()
user_emb, user_hier, user_bom = model(user_feat, user_edge, user_edge_type, user_world_knowledge)
이 코드가 보여주는 핵심은 연속적인 임베딩(fused_emb), 계층적 군집 할당(hierarchical_representations), 그리고 이산화된 Bag-of-Meaning 토큰(bom_tokens) 이라는 세 가지 출력을 생성한다는 점입니다. 이 출력들은 각각 리트리벌, 랭킹, 개인화 등 다른 용도로 사용됩니다.
HIR의 실무 적용: 국내 광고 생태계에서의 의미와 한계
국내 SI/광고 환경에서의 적용 맥락
HIR의 접근법은 국내 광고 시장에도 중요한 시사점을 줍니다. 특히 다음과 같은 부분에서 직접적인 영향을 받을 수 있습니다.
- 신규 광고주/제품에 대한 콜드 스타트 문제 해결: 국내 중소기업이나 신규 브랜드의 경우, 광고 데이터가 충분하지 않아 딥퍼널 최적화가 어렵습니다. HIR의 세계 지식 강화(Knowledge Enrichment)는 제품 카탈로그와 브랜드 정보만으로도 유사한 관심사를 가진 사용자에게 광고를 노출할 수 있는 가능성을 열어줍니다.
- 라이프스타일 기반 타겟팅: 단순한 관심사(예: '등산')가 아닌, '아웃도어 활동을 즐기며 건강에 관심이 많은 30대 직장인'과 같은 복합적인 라이프스타일을 계층적 관심 표현으로 포착할 수 있습니다. 이는 국내에서도 점차 중요해지는 퍼포먼스 마케팅의 질적 향상에 기여할 수 있습니다.
- 네이티브 광고 및 쇼핑 광고와의 시너지: HIR은 광고뿐 아니라 유기적 콘텐츠 추천에도 적용될 수 있습니다. 국내에서도 '네이버 쇼핑', '카카오톡 선물하기' 등에서 사용자 관심을 더 정교하게 분석하는 데 참고할 만한 기술입니다.
이 기술의 한계 또는 주의사항
HIR은 매우 혁신적이지만, 몇 가지 중요한 한계와 주의할 점이 있습니다.
-
계산 비용의 천문학적 증가: 수십억 노드 규모의 그래프에서 트랜스포머 기반 어텐션을 학습하는 것은 막대한 GPU 리소스를 필요로 합니다. 메타는 FlexAttention이라는 메모리 효율적 커널을 사용했다고 밝혔지만, 일반 기업이 동일한 수준의 인프라를 구축하는 것은 현실적으로 불가능에 가깝습니다. 따라서 HIR의 아이디어를 차용하더라도, 경량화된 그래프 학습 방법(예: GNN + 샘플링) 을 고려해야 합니다.
-
프라이버시 및 데이터 보호: 사용자의 잠재적 관심을 매우 세밀하게 추론하는 것은 프라이버시 침해 우려를 낳을 수 있습니다. 국내 개인정보보호법 및 GDPR 등 규제 환경에서 이러한 고도화된 타겟팅이 항상 허용되는 것은 아닙니다. 투명성과 사용자 통제권에 대한 고민이 함께 이루어져야 합니다.
-
블랙박스 문제: 계층적 관심 표현은 본질적으로 해석하기 어려운 블랙박스 모델입니다. '왜 이 사용자에게 이 광고가 노출되었는가?'에 대한 설명이 어려워, 광고주나 규제 기관의 요구를 충족시키기 어려울 수 있습니다. 최근 XAI(설명 가능한 AI) 연구와의 접목이 필요합니다.
-
시장 과포화 가능성: HIR이 모든 광고주에게 동일한 수준의 효용을 제공하지는 않을 수 있습니다. 대형 광고주는 풍부한 데이터로 큰 혜택을 보겠지만, 소규모 광고주는 여전히 데이터 부족 문제에 직면할 수 있습니다. 메타가 '모든 규모의 비즈니스'를 위한 솔루션이라고 주장하지만, 실제 효과는 데이터 규모에 따라 차별적일 가능성이 높습니다.
결론적으로, HIR은 광고 기술의 새로운 지평을 여는 연구이지만, 이를 실제 비즈니스에 적용하려면 인프라, 프라이버시, 해석 가능성이라는 세 가지 과제를 해결해야 합니다.
결론: HIR이 바꿀 광고의 미래와 우리의 준비
메타의 계층적 관심 표현(HIR)은 단순한 알고리즘 개선을 넘어, 광고 생태계의 패러다임 전환을 예고합니다. '사용자가 무엇을 클릭했는가'에서 '사용자가 진정으로 관심 있어 하는 것은 무엇인가'로 초점이 이동하고 있습니다. 이는 광고주에게 더 높은 전환율과 ROI를, 사용자에게는 더 관련성 높은 광고 경험을 제공할 잠재력을 지닙니다.
다음 단계 학습 방향 제시
HIR의 개념을 더 깊이 이해하고 실무에 적용하려면 다음 주제들을 학습해보세요.
- 그래프 신경망(GNN) 기초: PyTorch Geometric 또는 DGL 라이브러리를 사용한 그래프 학습 실습.
- 트랜스포머의 그래프 적용: Graph Transformer, Graphormer 등 최신 연구 논문 리뷰.
- 자기 지도 학습(Self-Supervised Learning): SimCLR, BYOL, 그리고 HIR에서 사용된 Cross-View Distillation 기법 학습.
- 대규모 임베딩 관리: 10억 개 이상의 ID를 처리하기 위한 해시 임베딩(Hash Embedding) 및 근사 최근접 이웃(ANN) 검색 기술.
- 광고 시스템 아키텍처: 리트리벌(Retrieval), 프리랭킹(Pre-ranking), 랭킹(Ranking) 단계의 역할과 데이터 흐름 이해.
HIR은 아직 연구 단계이지만, 그 핵심 아이디어는 이미 업계에 큰 영향을 미치고 있습니다. 광고 기술에 종사하는 개발자라면 지금부터 그래프 학습과 자기 지도 학습에 투자하는 것이 미래 경쟁력 확보의 지름길이 될 것입니다.