Como a Delphi faz 100+ deploys por dia com backend Python na Vercel

O custo real de gerenciar infraestrutura

A Delphi é uma plataforma que transforma o conhecimento de uma pessoa em uma mente digital com a qual você pode conversar. Com 10 engenheiros, nenhum papel dedicado a infra e produto e design colocando código em produção, o time precisava de um backend que acompanhasse a velocidade com que as demandas dos usuários mudam.

O frontend rodava na Vercel desde o primeiro dia. O backend rodava na AWS com ECS, Docker Desktop e bancos locais. Funcionava no começo, mas colocar um engenheiro novo no primeiro deploy levava um dia inteiro de configuração de ambiente. Dava para consertar na AWS, mas isso significaria projetar e gerenciar uma infraestrutura que o time não queria gerenciar.

"Não conseguíamos acompanhar a IA na nossa infraestrutura antiga. Se um humano levaria oito horas para descobrir, um agente teria desistido." — Spencer Schoeben, engenheiro fundador da Delphi

Para entender melhor como agentes de IA estão mudando o trabalho de conhecimento, confira nossa análise sobre o segundo cérebro organizacional e a arquitetura de conhecimento especializado.

Workflows e Queues tornaram a migração possível

Quando a Delphi foi fundada, Vercel Workflows e Vercel Queues não existiam. Sem eles, a migração teria sido muito mais difícil, se é que seria possível. O backend da Delphi depende de trabalho de longa duração e jobs em background na fila: agentes duráveis que geram conteúdo antecipadamente, mais a ingestão que transforma os livros e palestras de uma pessoa em um grafo de conhecimento.

Workflows cuida do trabalho de longa duração. Queues cuida dos jobs em background. Nenhum dos dois exige configuração. O dev escreve o workflow ou o handler de fila como uma função no código, e a Vercel provisiona o necessário no deploy.

Olha só o formato de um handler de fila típico num backend Python:

# queue_handler.py
# Handler do Vercel Queues: processa jobs de ingestão para uma mente digital

from vercel.queues import QueueHandler
from app.services.ingestion import build_knowledge_graph

handler = QueueHandler("ingest-mind")

@handler.process
def process_ingestion(message: dict) -> None:
    # message contém mind_id e source_urls
    mind_id = message["mind_id"]
    sources = message["sources"]
    build_knowledge_graph(mind_id=mind_id, sources=sources)

E um workflow que gera conteúdo antecipadamente:

# workflow.py
# Vercel Workflows: geração de conteúdo durável e de longa duração

from vercel.workflows import workflow, step

@workflow
def generate_mind_content(mind_id: str) -> None:
    transcript = step(fetch_transcript, mind_id)
    summary = step(summarize, transcript)
    step(store_summary, mind_id, summary)

O ponto principal: infraestrutura não é um arquivo que você mantém. É um efeito colateral de fazer deploy de uma função. Foi isso que permitiu o time da Delphi parar de tratar mudanças no backend como releases pesados.

100+ deploys por dia, direto em produção

Mover o backend para a Vercel deixou a Delphi pular o staging e entregar 100+ vezes por dia atrás de feature flags, rodando testes A/B em vez de agrupar mudanças num release. A detecção de anomalias do Vercel Agent observa a produção nesse ritmo, sinalizando quando algo está se comportando mal e por quê.

Preview deployments são como os agentes conferem o próprio trabalho

Os engenheiros da Delphi entregam problemas para agentes na nuvem, com muito pouco desenvolvimento local. O preview deployment é onde eles veem pela primeira vez o que o agente construiu. Cada push ganha sua própria URL ao vivo, então qualquer pessoa pode conferir o resultado pelo celular ou por uma thread no Slack sem puxar a branch.

Quando um agente falha, geralmente é porque não conseguiu acessar a informação de que precisava. A Vercel expõe dados e controles pelo SDK, MCP e CLI, então um agente pode ler logs, inspecionar um deploy ou alterar uma variável de ambiente pela ferramenta que estiver usando.

Um agente interno no Sandbox para customer success

Um agente interno no Vercel Sandbox simplifica o trabalho com o código. O time de customer success usa o Slack para perguntar sobre problemas reportados, encontrar a causa e entregar ao engenheiro a raiz do problema e uma correção proposta. O Sandbox dá ao agente um ambiente isolado com sistema de arquivos, onde ele pode fazer checkout do código, rodar e puxar os dados que a pergunta precisar.

AI Gateway escolhe o modelo para cada mente

Cada mente digital é diferente, e algumas funcionam melhor em um modelo do que em outro. A Delphi escolhe o modelo para cada cliente e ajusta conforme suas evals mudam. Quando um modelo novo sai, open-source ou não, a Delphi consegue rotear para ele no mesmo dia. O Gateway também cuida do failover, que antes exigia alinhar capacidade de fallback com um provedor de modelo em outras nuvens.

Comparação: stack antiga vs. nova

Para ver como uma plataforma concorrente de agentes lida com trabalho real na conta, confira o review do assistente de dashboard com IA Cloudflare Agent Lee.

Limitações e cuidados

Essa configuração não é resposta universal. Alguns pontos para pesar antes de copiar:

• Acoplamento com o fornecedor: Workflows, Queues, Sandbox e AI Gateway são primitivas da Vercel. A portabilidade é limitada, e o custo de migração cresce com o uso.
• Cold starts e limites de execução: Agentes de longa duração ainda batem nos limites da plataforma. Verifique tetos de timeout e memória contra sua carga antes de commitar.
• Debug orientado a agentes: Quando agentes são os principais usuários de logs e CLI, a observabilidade humana pode piorar. Mantenha dashboards e alertas para humanos, não só para agentes.
• Disciplina de feature flags: Pular staging só funciona se flags, testes e detecção de anomalias estiverem maduros. Sem isso, 100 deploys por dia viram 100 incidentes por dia.

Próximos passos

• Mapeie seus jobs atuais de backend em categorias de longa duração vs. fila antes de escolher uma plataforma.
• Prototipe um workflow e um handler de fila na plataforma alvo antes de migrar qualquer outra coisa.
• Invista em ambientes de preview e detecção de anomalias cedo; são pré-requisitos, não luxo, para alta frequência de deploy.
• Leia o relato original completo: blog da Vercel sobre o backend Python da Delphi.

O próximo capítulo da Delphi é construir a interface além do chat: uma página de busca onde você traz uma pergunta, recebe perspectivas de várias mentes ao mesmo tempo, e a página se adapta a quem você é. Esse trabalho roda como agentes de longa duração no Workflows, com o AI Gateway fornecendo o modelo que cada experimento pedir. O padrão para roubar: torne a infraestrutura invisível, para o time gastar energia no produto.