El costo real de gestionar infraestructura

Delphi es una plataforma que convierte el conocimiento de una persona en una mente digital con la que puedes conversar. Con 10 ingenieros, ningún rol dedicado a infra, y producto y diseño desplegando código, el equipo necesitaba un backend que siguiera el ritmo de las demandas de los usuarios.

El frontend corría en Vercel desde el día uno. El backend corría en AWS con ECS, Docker Desktop y bases de datos locales. Funcionaba al inicio, pero llevar a un ingeniero nuevo a su primer deploy tomaba un día completo de configuración de entorno. Se podía arreglar en AWS, pero eso significaba diseñar y gestionar infraestructura que el equipo no quería gestionar.

"No podíamos seguirle el ritmo a la IA con nuestra infraestructura anterior. Si a un humano le tomaba ocho horas resolverlo, un agente habría renunciado." — Spencer Schoeben, ingeniero fundador de Delphi

Para entender mejor cómo los agentes de IA están transformando el trabajo de conocimiento, checa nuestro análisis sobre el segundo cerebro organizacional y la arquitectura de conocimiento experto.

Developer deploying Python backend to Vercel cloud with 100+ daily deploys Programming Illustration

Workflows y Queues hicieron posible la migración

Cuando se fundó Delphi, Vercel Workflows y Vercel Queues no existían. Sin ellos, la migración habría sido mucho más difícil, si acaso posible. El backend de Delphi depende de trabajo de larga duración y jobs en background en cola: agentes durables que generan contenido por adelantado, más la ingesta que convierte los libros y charlas de una persona en un grafo de conocimiento.

Workflows maneja el trabajo de larga duración. Queues maneja los jobs en background. Ninguno requiere configuración. El dev escribe el workflow o el handler de cola como una función en el código, y Vercel aprovisiona lo necesario al desplegar.

Fíjate en la forma de un handler de cola típico en un backend Python:

# queue_handler.py
# Handler de Vercel Queues: procesa jobs de ingesta para una mente digital

from vercel.queues import QueueHandler
from app.services.ingestion import build_knowledge_graph

handler = QueueHandler("ingest-mind")

@handler.process
def process_ingestion(message: dict) -> None:
    # message contiene mind_id y source_urls
    mind_id = message["mind_id"]
    sources = message["sources"]
    build_knowledge_graph(mind_id=mind_id, sources=sources)

Y un workflow que genera contenido por adelantado:

# workflow.py
# Vercel Workflows: generación de contenido durable y de larga duración

from vercel.workflows import workflow, step

@workflow
def generate_mind_content(mind_id: str) -> None:
    transcript = step(fetch_transcript, mind_id)
    summary = step(summarize, transcript)
    step(store_summary, mind_id, summary)

El punto clave: la infraestructura no es un archivo que mantienes. Es un efecto secundario de desplegar una función. Eso fue lo que permitió al equipo de Delphi dejar de tratar los cambios de backend como releases pesados.

Serverless architecture diagram with Workflows and Queues for background jobs IT Technology Image

100+ deploys al día, directo a producción

Mover el backend a Vercel dejó que Delphi se saltara staging y desplegara 100+ veces al día detrás de feature flags, corriendo tests A/B en vez de agrupar cambios en un release. La detección de anomalías de Vercel Agent vigila producción a ese ritmo, marcando cuándo algo se está portando mal y por qué.

Los preview deployments son cómo los agentes revisan su trabajo

Los ingenieros de Delphi le pasan problemas a agentes en la nube, con muy poco desarrollo local. El preview deployment es donde ven por primera vez lo que construyó el agente. Cada push obtiene su propia URL en vivo, así que cualquiera puede revisar el resultado desde el celular o un hilo de Slack sin hacer pull de la rama.

Cuando un agente falla, normalmente es porque no pudo acceder a la información que necesitaba. Vercel expone datos y controles por el SDK, MCP y CLI, así que un agente puede leer logs, inspeccionar un deploy o cambiar una variable de entorno con la herramienta que esté usando.

Un agente interno en Sandbox para customer success

Un agente interno en Vercel Sandbox simplifica el trabajo con el código. El equipo de customer success usa Slack para preguntarle sobre problemas reportados, encontrar la causa y entregar al ingeniero la raíz del problema y una corrección propuesta. Sandbox le da al agente un entorno aislado con sistema de archivos, donde puede hacer checkout del código, correrlo y traer los datos que la pregunta necesite.

AI Gateway elige el modelo para cada mente

Cada mente digital es distinta, y algunas salen mejor en un modelo que en otro. Delphi elige el modelo para cada cliente y ajusta conforme sus evals cambian. Cuando sale un modelo nuevo, open-source o no, Delphi puede rutear a él el mismo día. Gateway también maneja el failover, que antes requería alinear capacidad de fallback con un proveedor de modelo en otras nubes.

Comparación: stack viejo vs. nuevo

PreocupaciónViejo (AWS + ECS)Nuevo (Vercel)
Onboarding al primer deploy~1 día completoMinutos
Paso de stagingObligatorioOmitido, feature flags
Frecuencia de deployReleases agrupados100+ / día
Trabajo de larga duraciónAutogestionadoWorkflows
Jobs en backgroundAutogestionadoQueues
Herramientas para agentesAd-hocSDK, MCP, CLI
Ruteo de modelosConfiguración manualAI Gateway

Para ver cómo una plataforma competidora de agentes maneja trabajo real en la cuenta, checa el review del asistente de dashboard con IA Cloudflare Agent Lee.

AI agent inspecting preview deployment logs on Vercel Sandbox Algorithm Concept Visual

Limitaciones y precauciones

Esta configuración no es respuesta universal. Algunos puntos para pesar antes de copiarla:

  • Acoplamiento con el proveedor: Workflows, Queues, Sandbox y AI Gateway son primitivas de Vercel. La portabilidad es limitada, y el costo de migración crece con el uso.
  • Cold starts y límites de ejecución: Los agentes de larga duración siguen chocando con límites de la plataforma. Verifica techos de timeout y memoria contra tu carga antes de comprometerte.
  • Debug orientado a agentes: Cuando los agentes son los principales usuarios de logs y CLI, la observabilidad humana puede degradarse. Mantén dashboards y alertas para humanos, no solo para agentes.
  • Disciplina de feature flags: Saltarse staging solo funciona si flags, tests y detección de anomalías están maduros. Sin eso, 100 deploys al día se vuelven 100 incidentes al día.

Próximos pasos

  • Mapea tus jobs actuales de backend en categorías de larga duración vs. cola antes de elegir una plataforma.
  • Prototipa un workflow y un handler de cola en la plataforma objetivo antes de migrar cualquier otra cosa.
  • Invierte en entornos de preview y detección de anomalías temprano; son prerrequisitos, no lujos, para alta frecuencia de deploy.
  • Lee el relato original completo: blog de Vercel sobre el backend Python de Delphi.

El siguiente capítulo de Delphi es construir la interfaz más allá del chat: una página de búsqueda donde traes una pregunta, recibes perspectivas de varias mentes a la vez, y la página se adapta a quién eres. Ese trabajo corre como agentes de larga duración en Workflows, con AI Gateway surtiendo el modelo que cada experimento pida. El patrón para robar: vuelve la infraestructura invisible, para que el equipo gaste energía en el producto.

Este contenido fue redactado con la asistencia de herramientas de IA, basándose en fuentes confiables, y fue revisado por nuestro equipo editorial antes de su publicación. No reemplaza el asesoramiento de un profesional especializado.