Como a Netflix Democratizou o ML Construindo um Grafo Universal do Ciclo de Vida dos Modelos

A Crise da Fragmentação em ML na Escala

Conforme o machine learning da Netflix se expandiu da personalização para workflows de estúdio, pagamentos, anúncios e muito mais, um assassino silencioso emergiu: a fragmentação de metadados. Cada domínio operava sua própria stack, seu próprio registry de modelos, seu próprio orquestrador de pipelines e sua própria plataforma de experimentação. Profissionais de ML precisavam alternar entre meia dúzia de ferramentas só para responder a uma pergunta simples como "Quais testes A/B estão usando este modelo?"

Isso não é um problema exclusivo da Netflix. Qualquer organização escalando ML em múltiplas unidades de negócio eventualmente encontra essa parede. Os sintomas são universais:

• Modelos caixa-preta: Sem forma centralizada de descobrir quais modelos existem, quais features usam ou quem os mantém.
• Esforço duplicado: Times constroem embeddings ou features similares sem saber do trabalho existente.
• Cegueira de impacto: Alterar uma feature ou aposentar um pipeline é arriscado porque dependências downstream são invisíveis.
• Atrito de onboarding: Novos membros gastam semanas aprendendo conhecimento tribal sobre quais ferramentas usar e onde encontrar as coisas.

A resposta da Netflix foi o Metadata Service (MDS) — um sistema que ingere eventos de todas as ferramentas de ML, normaliza-os em um modelo de entidade unificado e constrói um Grafo do Ciclo de Vida dos Modelos que permite descoberta, linhagem e análise de impacto em uma única consulta.

Fonte: Netflix Tech Blog

Mergulho na Arquitetura: De Eventos a um Grafo Conectado

O MDS segue um pipeline de múltiplos estágios que transforma eventos brutos do sistema em um grafo rico e navegável. Vamos percorrer cada estágio com um exemplo concreto: conectar um modelo de ranking aos seus testes A/B.

Estágio 1: Ingestão de Eventos

Sistemas fonte (registry de modelos, orquestrador de pipelines, feature store, plataforma de experimentação) emitem eventos leves via Kafka ou AWS SNS/SQS. Esses eventos são mínimos — apenas um identificador e um tipo de evento. A sacada principal: eventos são notificações de mudança, não logs de estado.

{
  "event_type": "model_instance_created",
  "instance_id": "ranking-model-v5-20250101"
}

Estágio 2: Enriquecimento de Entidade

Quando o MDS recebe um evento, ele não confia no payload do evento. Em vez disso, ele chama a API do sistema fonte para buscar o estado completo e atual. Esse padrão de "hidratação" torna o sistema robusto a eventos fora de ordem ou perdidos — o próximo evento sempre corrige o estado.

# Pseudocódigo para o worker de enriquecimento
def handle_model_created_event(event):
    # Busca estado mais recente da fonte da verdade
    model_data = call_model_registry_api(
        f"/api/v1/instances/{event['instance_id']}"
    )
    # Transforma em entidade normalizada
    entity = normalize_entity(model_data, event)
    # Armazena no banco de grafos
    datomic_client.write(entity)
    # Indexa para busca
    elasticsearch_client.index(entity)

Estágio 3: Normalização

Eventos brutos têm esquemas heterogêneos. O MDS os normaliza em um modelo unificado usando URIs AIP (ex.: aip://model/registry/ranking-model-v5-20250101). Isso cria um vocabulário consistente em todos os domínios.

Estágio 4: Armazenamento e Indexação

Entidades normalizadas são escritas no Datomic (para travessias pesadas em grafos) e indexadas no Elasticsearch (para busca rápida em texto completo). Essa abordagem de armazenamento duplo é crítica: usuários geralmente começam com uma busca e depois navegam pelo grafo.

Estágio 5: Enriquecimento de Conhecimento

É aqui que a mágica acontece. Jobs em background descobrem relacionamentos que nenhum sistema fonte conhece isoladamente. Para nosso exemplo de modelo de ranking:

1. O modelo referencia um pipeline_run_id.
2. O job de enriquecimento busca metadados do pipeline e descobre que ele foi executado para a célula de teste A/B #2 do teste "Ranking Model v5 vs v4".
3. O MDS materializa esse relacionamento transitivo: Instância de Modelo → Execução de Pipeline → Célula de Teste A/B → Teste A/B.

Agora, uma única consulta GraphQL responde o que antes exigia quatro ferramentas separadas:

query {
  model(id: "aip://model/registry/ranking-model-v5-20250101") {
    name
    owners { name }
    associatedAbTests {
      name
      cells { number name }
    }
  }
}

Limitações e Cuidados

• Latência de enriquecimento: Relacionamentos são descobertos assincronamente (minutos, não segundos). Profissionais precisam saber que entidades recém-criadas podem não aparecer imediatamente no grafo.
• Confiabilidade do sistema fonte: Se um sistema fonte falha ao emitir eventos ou retorna dados desatualizados, o MDS pode propagar essa desatualização. O sistema é tão bom quanto suas entradas.
• Completude do grafo: Nem todos os relacionamentos são capturados. Conexões implícitas (ex.: dois modelos servindo a propósitos similares baseados em features compartilhadas) exigem inferência avançada que ainda está em exploração inicial.

Por Que Isso Importa Além da Netflix

O padrão de Grafo do Ciclo de Vida dos Modelos está se tornando uma melhor prática para qualquer organização escalando ML. As ideias centrais são transferíveis:

1. Trate metadados como cidadão de primeira classe. Não deixe cada ferramenta silo seus próprios metadados. Invista em uma camada central de ingestão e normalização.
2. Use URIs para endereçamento universal. Um esquema de nomenclatura consistente (ex.: aip://dominio/provedor/id-entidade) torna referências entre sistemas triviais.
3. Adote enriquecimento assíncrono. Você não precisa de relacionamentos em tempo real. Jobs em segundo plano que percorrem o grafo e materializam arestas são bons o suficiente para a maioria dos casos de uso.
4. Projete para descoberta primeiro. A maioria dos profissionais de ML não sabe o que não sabe. Um grafo pesquisável e navegável revela ativos ocultos e reduz esforço duplicado.

Para times começando essa jornada, um primeiro passo pragmático é construir um catálogo de metadados simples que indexe modelos, features e pipelines de dois ou três sistemas-chave. Comece com a pergunta: "Quais são as 5 principais coisas que meus profissionais de ML não conseguem encontrar hoje?" e resolva essas primeiro.

Próximos Passos

• Explore alternativas open-source como Amundsen ou DataHub que fornecem capacidades similares de catalogação de metadados.
• Leia sobre Python Typing em 2025: 86% de Adoção e os Desafios que Permanecem para insights sobre como type safety pode melhorar a confiabilidade de pipelines de ML.
• Confira Datacenters de IA da Azure Construídos para a Plataforma Rubin da NVIDIA para entender as tendências de infraestrutura que impulsionam workloads de ML de próxima geração.

Conclusão: O Grafo é a Nova Fonte da Verdade

O MDS da Netflix demonstra que a parte mais difícil de escalar ML não são os algoritmos — é o encanamento organizacional e infraestrutural. Ao construir um Grafo do Ciclo de Vida dos Modelos unificado, a Netflix transformou uma paisagem fragmentada de modelos caixa-preta em um ecossistema de ativos descobrível, consultável e reutilizável.

A principal lição para engenheiros de ML e times de plataforma: invista em infraestrutura de metadados cedo. O custo de retrofit de descoberta e linhagem após a fragmentação se instalar é muito maior do que construir uma base sólida desde o primeiro dia. Comece pequeno, conecte seus sistemas mais críticos e deixe o grafo crescer organicamente. Seu eu do futuro — e seus novos colegas de time — vão agradecer.