- března 2023. OpenAI vydává GPT-4. Po měsíci testování GPT-3.5 jsme čekali evoluci. Dostali jsme revoluci. GPT-4 je kvalitativně jiný model — a mění kalkulaci pro enterprise AI adopci.
Co je na GPT-4 jiné¶
Reasoning. GPT-3.5 často hádal. GPT-4 skutečně přemýšlí. Dáte mu komplexní systémový design problém a dostanete strukturovanou analýzu s trade-offs.
Kontext 32K tokenů. To je asi 50 stran textu. Konečně můžete dát modelu celou specifikaci nebo celý modul kódu.
Multimodalita. GPT-4 rozumí obrázkům. Nahrajete wireframe a model vám popíše, co vidí, navrhne vylepšení, nebo rovnou vygeneruje HTML.
Naše první testy¶
- Analýza requirements: GPT-4 identifikoval edge cases, které si tým nevšiml — 8/10 relevantních
- SQL optimalizace: Navržené query plány v 7 z 10 případů lepší než originál
- Security review: Nalezl 4 z 5 záměrně vložených vulnerabilit v kódu
- Architektura: Generoval smysluplné trade-off analýzy pro microservices design
Azure OpenAI Service — enterprise cesta¶
GPT-4 je dostupný přes Azure OpenAI Service. Azure compliance, data residency v EU, SLA, private endpoints. Přesně to, co naši klienti v bankovnictví a healthcare potřebují. Konečně můžeme AI nasadit bez compliance nightmaru.
Náklady — slon v místnosti¶
GPT-4 je drahý. Roughly 30x dražší než GPT-3.5 per token. Řešíme hybridním přístupem: GPT-3.5 pro jednoduché úlohy, GPT-4 pro komplexní reasoning. Router rozhoduje na základě klasifikace dotazu.
AI zrychluje exponenciálně¶
Mezi GPT-3.5 a GPT-4 uběhly 4 měsíce. Skok v kvalitě je obrovský. Pokud jste čekali na ten správný moment pro AI adopci — ten moment je teď.