Faz parte do material de System Design que eu montei a partir das minhas entrevistas. Abaixo, a resposta em inglês e, quando existe, a pegadinha mais comum.
A resposta, como você fala na entrevista
Use rough latency orders only as planning assumptions, then measure the actual path. Network placement, cache misses, query plans, payload size, queueing, and provider load can change the order. Separate time to first token from complete response time for streaming. A small cached operation can be fast while a single slow dependency dominates the end-to-end budget.
Ler é o primeiro passo. No app, essa pergunta vira flashcard com repetição espaçada, e o módulo tem quiz e simulado para testar o que ficou.
Treinar essa pergunta no app