No todas las cadenas son una línea recta

Hasta ahora pensaste en cadenas como una secuencia: A → B → C → D. Eso funciona cuando cada paso realmente depende del anterior. Pero muchas veces los pasos del medio son independientes entre sí, todos comen del mismo upstream y devuelven al mismo downstream.

Cuando eso pasa, ejecutarlos en serie es regalar latencia. La cadena se convierte en un grafo: un fan-out (abanico) que paraleliza el medio, y un fan-in (cierre) que junta todo.

Cuándo paralelizar

Tres condiciones, todas necesarias:

1. Los pasos no se leen entre sí. El output de B no entra a C, ni viceversa.
2. Todos dependen del mismo upstream. Ej: todos esperan que classify termine, ninguno espera a otro paralelo.
3. El runtime lo soporta. Async, threads, workers. cualquier orquestador moderno te lo permite.

Si las tres se cumplen, el medio del grafo se ejecuta como un lote paralelo. Tres llamadas LLM al mismo tiempo. Latencia total = el más lento de los tres, no la suma.

Cuándo NO paralelizar

• Si los outputs interactúan. B necesita el resultado de A. obvio secuencial.
• Si el orden importa para la auditoría. A veces querés que el log muestre los pasos en un orden estable, no en orden de llegada de async.
• Si el rate limit del proveedor te penaliza. Tres llamadas paralelas pueden saturar tu cuota mientras tres secuenciales no. Conocé tus límites.

Forma del grafo

            [classify]
                ↓
        ┌───────┼───────┐
        ↓       ↓       ↓
    [tech]  [people]  [severity]   ← paralelo, todos esperan classify
        └───────┼───────┘
                ↓
          [recommend]                ← fan-in: espera a los 3 anteriores
                ↓
           [digest]                  ← cierre

Pensar en cadenas como grafos, no como listas, es lo que separa al diseñador novato del experto. La lista es un caso especial del grafo (cuando hay un solo camino). El grafo te da paralelismo gratis cuando las dependencias lo permiten.

Tu ejercicio

A la derecha: seis pasos del digest del capitán. Algunos son paralelos (lo dice su detail), otros no. Ordenalos respetando las dependencias reales. Cuando dos pasos pueden correr a la vez, ponelos consecutivos en el orden indicado por sus números. El runtime los va a lanzar juntos.