SEJDA: no GLM 5.2 mi jeden 3tok/s
o tom si normalni smrtelni este pred dvema tejdnama ani nemoh nechat zdat, ze to pojede
si to asi nepochopil
mam jeden macbook a jede to na nem, model, co vyzadoval doted 1.5TB VRAM, tak jede lokalne, dokonce ho pustis bez grafarny
nebo sem si na to mohl poridit HW za 20 mega Kc
nemusis spojovat zadny macbooky
3 tok/s je pomaly, ale na lokalni AI mozek to staci, co bude delegovat ukoly na mensi modely, na ktery bych nemel nejmensi sanci si lokalne vubec sahnout...