Testowałem lokalne modele AI na wszystkim, co dało się odpalić na moich RTXach 3090: Qwen, DeepSeek Flash, GLM-y i masę innych.
I powiem uczciwie: to są całkiem spoko modele.
Pokaż więcej
Tylko że przy frontierach (GPT, Claude Opus 5.5, Fable) wyglądają po prostu biednie.
Więc jeśli potrzebujesz prawdziwej mocy, to budowanie lokalnego setupu nie ma sensu. Przepalasz kasę na sprzęt i na prąd, a dostajesz model, który jest o klasę albo i więcej niżej. Lepiej wziąć więcej dostępów do API i tyle.
„Model nie ma znaczenia, liczy się workflow”? Bullshit. Model ma ogromne znaczenie. Moc i jakość modelu to podstawa.
Gdzie jesteśmy dziś?
🇨🇳 Chińskie modele są jakieś 1–1,5 roku za amerykańskimi
🇪🇺 Europejskie mają ok. 2-3 lata straty
🇺🇸 Frontiery na razie nie mają realnej konkurencji
A ekonomia? API jest dziś tanie. Proste rzeczy zrobisz przez DeepSeeka za grosze. Nie potrzebujesz mocnego komputera, nie płacisz za GPU ani za prąd.
Żeby nie było, lokalne modele mają swoje miejsce. Kiedy dane są wrażliwe i nie mogą wyjść do zewnętrznej chmury albo musisz pracować bez internetu, lokal robi świetną robotę.
Ale teza, że lokalne modele zawsze się opłacają - To bullshit.
Licz koszty, zawsze.




