LAUNCHER: kdyby měla x090 se svou pamětí nvlink, dost lidí by nemuselo kupovat quadro za 4x

Ty jo, ani 6000 Pro nemá NV link. On to předpokládám stejně asi nebude umět ten "5090" chip.

Opet se ukazuje, jak úžasná ta 3090 ve své době byla a pro mnohé účely stále ještě je.

RUDOLF: Ty co se vejdou do 32GB: Krásné odezvy oproti cloudu.

Všechno: Smíš to používat na data, která do cloud nesmí.

LAUNCHER: proč ty modely vlastně chceš běhat doma?

LAUNCHER: máš to pomalé?

random z netu

Model Name Quantization Memory Required (GB) Max ctx length Recommended Hardware Examples
Qwen3-0.6B Q4_K_M ~0.5 32K Virtually any modern PC or Mac; integrated graphics are sufficient. Mobile phones
Qwen3-1.7B Q4_K_M ~1.3 32K Any modern system with a discrete or recent integrated GPU; basic Apple Silicon Macs (M1/M2/M3/M4).
Qwen3-4B Q4_K_M ~2.5 32K GPUs with >= 4GB VRAM (e.g., older GTX cards, RX series); entry-level Apple Silicon.
Qwen3-8B Q4_K_M ~5.0 128K GPUs with >= 8GB VRAM (e.g., RTX 3050, RX 6600); standard Apple Silicon chips (M1/M2/M3/M4 base models).
Qwen3-14B Q4_K_M ~9.0 128K GPUs with >= 12GB VRAM (RTX 3060 12GB, RTX 4060 Ti 16GB, potential RTX 5060 Ti 16GB); Apple Silicon Pro/Max chips (M1/M2/M3/M4 Pro/Max with >= 16GB unified memory).
Qwen3-30B Q4_K_M ~18.6 128K Single GPUs: Used RTX 3090 (24GB), P40 (24GB, low bandwidth), L4 (24GB, low bandwidth), A10 (24GB), Tesla V100 32GB. Multi-GPU: 2x RTX 3060 12GB, 2x 4060 Ti 16GB. Apple Silicon: M-series Pro/Max/Ultra with >= 24GB unified memory. PC with fast DDR5 RAM (see performance notes).
Qwen3-32B Q4_K_M ~19.8 128K Single GPUs: Used RTX 3090 (24GB), P40, L4, A10, V100 32GB. Multi-GPU: 2x RTX 3060 12GB, 2x 4060 Ti 16GB. Apple Silicon: M-series Pro/Max/Ultra with >= 24GB unified memory. PC with fast DDR5 RAM (32GB+ recommended).
Qwen3-235B* Q3_K_L ~112 128K Multi-GPU: 5x RTX 3090 (120GB), 3x L40/A40 (144GB), 4x V100 32GB (128GB), 2x RTX Pro 6000 Ada (96GB – too small). Apple Silicon: Mac Studio/Pro M-Ultra with >= 128GB unified memory. PC Workstation/Server: 128GB+ high-speed RAM (DDR5 preferred).

LAUNCHER: U me doma s 32GB VRAM takto... stridave oblacno 🙄 Muzu si za to sam a reseni existuji, co nadelam no.

Doufam ze NV brzy vyda ty 24GB "Super" varianty pro beznejsi karty / osazene 3GB GDDR7 moduly. 16GB zacalo byt v narocnejsich hrach pro 4k malo. V tabulce zejmena dole.

vRAM Usage in Games - Laptop Study - Find the cheapest & best laptop
https://laptopstudy.com/vram-usage-games/

LAUNCHER: Tyka se spousty aktivit - Jakmile se mlady nadejny CN engineer stane sirsi svetovou spickou, odchazi do USA za uplne jine penize.

OTAVA: Jestli myslis Zhaoxin, tak to je VIA. Prachy se do VIA lejou stale a nikdy to k nicemu nebylo, aktualni hejl je "Shanghai Municipal Government", protoze opravnene obavy z USA vs China.

Zhaoxin - Wikipedia
https://en.wikipedia.org/wiki/Zhaoxin

A ty cinani co maji licencovany ZEN ?
Via by mohla kdyby do toho nekdo nalil prachy.

OTAVA: VIA se nepocita, protoze nepocita (dost rychle).

LAUNCHER: ale kolego .....

List of x86 manufacturers - Wikipedia
https://en.wikipedia.org/wiki/List_of_x86_manufacturers

Koukaje se na Strix Halo, vidim jediny problem v x86 - licencni uzavrenost. ARM muze delat ~ kdo chce za drobny poplatek. x86 nam delaji jen dva vyrobci, Intel jako majitel, AMD z historickych duvodu, that's it. Ale technicka nevyhoda x86 proti ARM neni, stejne jako tam neni nejaka technicka vyhoda. Vyhledove zvitezi ARM, proste protoze se jich vyrabi nasobky proti x86. Lito mi to nebude, vic konkurence mezi vyrobci CPU, lepe pro me.

Druha vec teda je, ze koncept klasickeho desktop PC se srandovnimi DIMM se prezil. Nevim jestli je reseni CAMM nebo proste soldered RAM. Ale zrovna u Strix Halo se CAMM zkousel, nefungovalo jim to - tak bych na to moc nesazel.