KALMAN
← Feed
Arvind @TipsCsharppublicado 24 mar, 12:23 p. m. · ingresado a KALMAN 9 ago, 11:24 p. m.

Cloudflare just dropped Dynamic Workers and it's a massive deal for AI agents. The problem: AI agents generate code. That code needs a sandbox. Containers take 100-500ms to boot and 100-500MB RAM. Dynamic Workers use V8 isolates instead: - Startup: 1-5ms (100x faster) - Memory: few MB (100x less) - No warm pools needed - Unlimited concurrency - Runs on same thread as host The killer feature: TypeScript API definitions replace OpenAPI specs. Fewer tokens, cleaner code, type-safe RPC across the sandbox boundary via Cap'n Web RPC. Code Mode: LLM writes TS code → runs in isolate → calls typed APIs → only final result returns to context. 81% fewer tokens vs sequential tool calls. $0.002 per Worker loaded/day. Free during beta. This is the serverless sandbox containers should have been.

Destilado

Hilo que explica Dynamic Workers de Cloudflare: sandboxes basados en V8 isolates (en vez de contenedores) para ejecutar código generado por agentes de IA, con arranque de 1-5ms y uso de pocos MB de RAM, y la novedad de exponer APIs vía definiciones TypeScript en lugar de specs OpenAPI para ahorrar tokens.

¿Por qué lo guardaste? Gonzalo construye con agentes de IA; esta es infraestructura clave para ejecutar código generado por agentes de forma segura y barata, alternativa directa a contenedores tradicionales (Docker/Modal/E2B).

Ideas

  • Los contenedores tradicionales para sandboxear código generado por agentes de IA tardan 100-500ms en bootear y usan 100-500MB de RAM, mientras que los V8 isolates (como Cloudflare Dynamic Workers) arrancan en 1-5ms y usan solo unos pocos MB, sin necesidad de warm pools.

    Agentes de IA
  • Definir las APIs que un agente de IA puede usar con interfaces TypeScript (en vez of specs OpenAPI) reduce drásticamente los tokens necesarios y da código más limpio con RPC type-safe entre el agente y el sistema host.

    Agentes de IA
  • El patrón 'Code Mode' (el LLM escribe código que corre en un isolate y llama APIs tipadas, devolviendo solo el resultado final al contexto) reduce el uso de tokens hasta un 81% comparado con hacer tool calls secuenciales.

    Agentes de IA