Spot instances nabízejí stejný compute za 60-90 % nižší cenu. Háček? Cloud provider je může kdykoliv vzít zpět. Jak s tím žít?
Jak Spot funguje¶
Cloud provideri mají nevyužitou kapacitu. Místo aby ležela ladem, prodávají ji se slevou. Azure Spot VMs: 30sekundové varování před eviction. AWS Spot: 2minutové varování. Cena se mění podle poptávky.
Vhodné workloady¶
- CI/CD build agenti — build spadne? Restart, žádná ztráta
- Batch processing — checkpointing, idempotentní úlohy
- Dev/test prostředí — tolerantní k přerušení
- ML training — s checkpointy a resume
- Stateless web workery — za load balancerem, automatická náhrada
Architektura pro Spot¶
Kubernetes: dedikovaný node pool s taintem, workloady s tolerations. Mixed strategy: on-demand základ (30 %) + spot nadstavba (70 %). Graceful shutdown handling — SIGTERM handler uloží stav.
Naše úspory¶
CI/CD na Spot: -73 %. ML training: -68 %. Dev prostředí: -80 %. Celkový dopad na cloud bill: -22 %.
Spot = free money (skoro)¶
Pokud vaše workloady tolerují přerušení, nepoužívat Spot je plýtvání.