Ne každý AI workload patří do cloudu. Edge AI přináší inteligenci na zařízení — nižší latence, lepší privacy, offline schopnost.
Proč edge AI¶
- Latence: Milisekundy vs stovky ms
- Privacy: Data neopustí zařízení
- Offline: Funguje bez připojení
- Cost: Žádné cloud poplatky
Hardware¶
Apple Neural Engine: 16 TOPS, Core ML. Qualcomm AI Engine: NPU v Snapdragon. NVIDIA Jetson: Edge GPU pro průmysl.
Model optimization¶
Quantizace (FP32 → INT8), pruning, distillation — full-size modely na edge nepoběží.
Use-cases¶
- Průmyslová QA: Vizuální inspekce na výrobní lince
- Prediktivní údržba: Vibration analysis na IoT
- Retail: Anonymní people counting
Edge AI doplňuje cloud AI¶
Není to cloud vs edge — je to cloud + edge. Quick inference lokálně, komplexní analýza v cloudu.
edge aion-device mltensorflow liteapple neural engine