• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
  • přihlásit
    registrace
    ztracené heslo?
    HNIZDOnVIDIA - grafické karty, technologie, aplikace, hry
    HNIZDO
    HNIZDO --- ---
    NVIDIA's Next-Gen Rosa CPU To Feature Rigel "Arm v9.2" Cores With Larger L2 Cache & Higher Per-Core Performance In The Same Silicon Footprint
    https://wccftech.com/nvidia-next-gen-rosa-cpu-rigel-arm-v9-2-cores-larger-l2-cache-higher-per-core-performance/

    Představení CPU NVIDIA Rosa

    Nová generace: NVIDIA odhalila první informace o datacentrovém procesoru „Rosa“, který je navržen pro éru agentní AI (Agentic AI).

    Uvedení na trh: Očekává se v roce 2028 po boku GPU architektury Feynman. Do datových center dorazí v roce 2029 a do PC variant (RTX Spark) v roce 2030.

    Architektura: Využívá zcela nové vlastní jádro „Rigel“ postavené na instrukční sadě Arm v9.2.

    Klíčová vylepšení a specifikace

    Výkon na jádro: Zaměřuje se na maximální jednovláknový výkon (single-threaded) ve velkém měřítku. Nabídne vyšší IPC (počet instrukcí za cyklus) než předchozí jádro Olympus (z procesoru Vera), a to při zachování stejné plochy křemíku (silicon footprint).

    Vylepšení architektury: Přináší lepší doručování instrukcí, efektivnější správu paměti a větší L2 cache na jedno jádro (Vera má 2 MB, Rosa bude mít ještě více).

    Podpora pamětí: Předpokládá se nasazení pamětí typu LPDDR6 / LPDDR6X (v rámci RTX Spark).

    Počet jader: Přesný počet jader prozatím nebyl specifikován (předchůdce Vera disponuje 88 jádry Olympus).
    HNIZDO
    HNIZDO --- ---
    Perplexity Bets on NVIDIA's Vera CPU, Calling The Max Single-Threaded Chip a "Dead-On" Fit After It Ran 1.5x Faster in Agentic Coding
    https://wccftech.com/perplexity-bets-on-nvidia-vera-cpu-calling-max-single-threaded-chip-a-dead-on-fit/

    AI:

    ### Hlavní sdělení

    Společnost Perplexity je další významnou AI firmou (vedle OpenAI, xAI, Oracle či Anthropic), která nasazuje nový procesor **NVIDIA Vera**. Tento čip je navržen speciálně pro AI inferenci a agentní AI (Agentic AI) a pro letošní rok má NVIDII zajistit pozici předního dodavatele CPU s tržbami 20 miliard dolarů.

    ### Proč agentní AI vyžaduje procesor Vera

    * **Limitace tradičních CPU:** Agentní AI pracuje v neustálých smyčkách (akce – výsledek – rozhodnutí). Běžná vícejádrová procesorová architektura nedokáže tyto kroky zrychlit a procesory s vysokým počtem jader často ztrácejí výkon kvůli boji o sdílené prostředky.
    * **Strategie NVIDIE:** Místo honby za co nejvyšším počtem jader vsadila NVIDIA na menší počet jader (88 jader) s maximálním jednovláknovým výkonem na jádro a optimalizovanou architekturou.

    ### Klíčové vlastnosti procesoru NVIDIA Vera

    * **Koncept „Max Single-Threaded“:** Poskytuje vysoký výkon jader pod zátěží, dostatečnou paměťovou propustnost pro aktivní jádra a předvídatelnou latenci.
    * **Architektura:** Využívá vlastní jádra *Olympus*, která přinášejí o 50 % vyšší IPC (počet instrukcí za takt) oproti předchozí generaci *Grace*.
    * **Monolitická matrice (Die):** Zajišťuje vnitřní propustnost mezi jádry 3,4 TB/s (více než 3× rychlejší než konkurence), což eliminuje úzká hrdla.
    * **Paměť a spotřeba:** Disponuje propustností paměti LPDDR5X až 1,2 TB/s při spotřebě paměťového subsystému pod 40 W.

    ### Reálné přínosy v praxi

    * **Perplexity:** Dosahuje o 50 % vyšší rychlosti v agentních AI workflows (při kódování) oproti tradičním x86 procesorům a až o 90 % vyššího výkonu v souběžných sandboxech.
    * **Analytika a databáze:** Partneři naměřili 3× vyšší rychlost ve velkokapacitní SQL analytice (Starburst) a až 6× nižší latenci při real-time streamování (Redpanda) ve srovnání s x86 platformou.

    ### Výhled do budoucna

    NVIDIA již nyní láká na příští generaci datacentrových CPU s kódovým označením **Rosa**, která bude postavena na aktualizované architektuře jader *Rigel*.

    ### Hlavní sdělení

    Společnost Perplexity je další významnou AI firmou (vedle OpenAI, xAI, Oracle či Anthropic), která nasazuje nový procesor **NVIDIA Vera**. Tento čip je navržen speciálně pro AI inferenci a agentní AI (Agentic AI) a pro letošní rok má NVIDII zajistit pozici předního dodavatele CPU s tržbami 20 miliard dolarů.

    ### Proč agentní AI vyžaduje procesor Vera

    * **Limitace tradičních CPU:** Agentní AI pracuje v neustálých smyčkách (akce – výsledek – rozhodnutí). Běžná vícejádrová procesorová architektura nedokáže tyto kroky zrychlit a procesory s vysokým počtem jader často ztrácejí výkon kvůli boji o sdílené prostředky.
    * **Strategie NVIDIE:** Místo honby za co nejvyšším počtem jader vsadila NVIDIA na menší počet jader (88 jader) s maximálním jednovláknovým výkonem na jádro a optimalizovanou architekturou.

    ### Klíčové vlastnosti procesoru NVIDIA Vera

    * **Koncept „Max Single-Threaded“:** Poskytuje vysoký výkon jader pod zátěží, dostatečnou paměťovou propustnost pro aktivní jádra a předvídatelnou latenci.
    * **Architektura:** Využívá vlastní jádra *Olympus*, která přinášejí o 50 % vyšší IPC (počet instrukcí za takt) oproti předchozí generaci *Grace*.
    * **Monolitická matrice (Die):** Zajišťuje vnitřní propustnost mezi jádry 3,4 TB/s (více než 3× rychlejší než konkurence), což eliminuje úzká hrdla.
    * **Paměť a spotřeba:** Disponuje propustností paměti LPDDR5X až 1,2 TB/s při spotřebě paměťového subsystému pod 40 W.

    ### Reálné přínosy v praxi

    * **Perplexity:** Dosahuje o 50 % vyšší rychlosti v agentních AI workflows (při kódování) oproti tradičním x86 procesorům a až o 90 % vyššího výkonu v souběžných sandboxech.
    * **Analytika a databáze:** Partneři naměřili 3× vyšší rychlost ve velkokapacitní SQL analytice (Starburst) a až 6× nižší latenci při real-time streamování (Redpanda) ve srovnání s x86 platformou.

    ### Výhled do budoucna

    NVIDIA již nyní láká na příští generaci datacentrových CPU s kódovým označením **Rosa**, která bude postavena na aktualizované architektuře jader *Rigel*.
    HNIZDO
    HNIZDO --- ---
    NVIDIA GeForce RTX 5080 SUPER Features A 415W TDP, 15% Higher Than RTX 5080, According to Seasonic
    https://wccftech.com/nvidia-geforce-rtx-5080-super-415w-tdp/
    HNIZDO
    HNIZDO --- ---
    LAUNCHER: tak určitě pro AI to zůstane u TSMC už jen kvůli pouzdření
    LAUNCHER
    LAUNCHER --- ---
    LAUNCHER: (Na podzim a v zimě budou ty M5 Ultra s 512GB, 256GB také vyprodané, nepočítaje scalpers za $$$)
    LAUNCHER
    LAUNCHER --- ---
    RUDOLF: MacBook Pro jde nakonfigurovat na 128 GB, jako vždycky.

    Na podzim bude nejspíš uvedené Apple Studio M5 Ultra 512 GB. Mmnt pro Studio koukáš na doprodeje M4, M3 - vyšší konfigurace jsou už nejspíš vyprodané.
    RUDOLF
    RUDOLF --- ---
    LAUNCHER: nice.. to vypadá už hodně použitelně. ale 400k je furt moc na hobby projekt..

    Vtipný, apple už nejde nakonfigurovat na 512 GB:-(( Čekal jsem, že Apple zdraží. Ale oni prostě všechno omezili na 98 GB paměti..
    LAUNCHER
    LAUNCHER --- ---
    RUDOLF: Pokud by Ti stacila inference 30 toks/s a nevadilo by Ti za to zaplatit ~ 400k CZK bez dane (4* Spark DGX), tak to muzes mit uz dneska.

    Nedavno uvedeny Minimax M3. S kvalitou bys mohl byt opravdu spokojeny, mnozi pisi o tom, ze to ma vyborny coding.

    MiniMax M3 - How to Run Locally | Unsloth Documentation
    https://unsloth.ai/docs/models/minimax-m3

    MiniMax M3 : NVFP4 for Quad DGX Spark - DGX Spark / GB10 - NVIDIA Developer Forums
    https://forums.developer.nvidia.com/t/minimax-m3-nvfp4-for-quad-dgx-spark/372123/

    Bude s tim vic prace nez s 1ks M3 Ultra 512GB, ale bude to o dost rychlejsi v tech 4 kusech. DGX Spark pak skladem treba na Alza, ted maji 5ks:

    https://www.alza.cz/nvidia-dgx-spark-d13165934.htm?o=1

    LAUNCHER
    LAUNCHER --- ---
    HNIZDO: Rozumim, ale byl bych spoko se Samsung i TSMC. Verim tomu, ze jestli nekdo tohle rozlouskne, tak prave Nvidia. 3090 se vyrabela v Samsung foundry, zadny problem jsem nezanamenal.

    Velmi se ale obavam dostatku pameti pri prichodu 6090. Pral bych si 48GB, ale IMHO to bude tezke, velmi tezke.
    RUDOLF
    RUDOLF --- ---
    RUDOLF
    RUDOLF --- ---
    Tak hlavně správný krok je ta unfikace paměti pro cpu/gpu. Vlastně konec konců, koupím neco, kde bude několik stovek GB a pokud OS modely mají proti komerčním rok zpoždění, tak příští rok je první rok, kde bych nechal lokální model něco tvořit skoro nonstop. Nejde nutně o rychlost, ale cost efficiency versus tokeny. Ted me stála debug session me simulace asi $20. S codebase co plánují, bych chtěl 1m context. Preferoval bych Apple, ale netuším jestli plánuje takový stroj. Přitom ekosystém už má slušný a co plánuje je super. DGX station jsou ale na me drah a obecně než bude levná RAM, tak si roky počkáme.
    HNIZDO
    HNIZDO --- ---
    TSMC's Steep 2nm Price Hikes Could Push NVIDIA and Apple Toward Samsung, as GAA Pricing Opens the Door
    https://wccftech.com/samsung-price-advantage-over-tsmc-2nm-3nm-processes-could-pull-customers-away/

    2nm proces TSMC bude tak drahý, že se možná Nvidia pro průmyslové a Edge produkty (herní GPU) vrátí k Samsungu (2 a 3nm GAA), jehož ceny jsou podstatně příznivější, naznačují zdroje z průmyslu

    fingers crossed, jinak se nedoplatíme, nebo ani nebude za co se nedoplatit
    HNIZDO
    HNIZDO --- ---
    RUDOLF: Obojí
    LAUNCHER
    LAUNCHER --- ---
    My 5¢:

    6090 přijde nejdřív za rok, spíš až ve druhé půlce 2027. Chip bude Rubin, paměti budou buď 16x2GB (to by mě mrzelo, stejně jako 5090), nebo nV příjemně překvapí a 16x3GB, nebo 16x4GB (too good to be true).

    Cenu Nvidia nastaví podle konkurence a podle vlastní marže (segmentace trhu). Reálná konkurence v compute je dnes Google, Meta a Amazon s jejich TPU, lokálně čím dál více i Apple.

    Možná ještě jestli Microsoft přes AMD udělá nějakou variantu Xbox Helix s compute a dost paměti? Po dvou posledních generacích AMD mi to přijde jako spíš snaha MLID nahnat views, rád se v tom spletu. U MLID hrozí, že si opět vysnil varianty s více paměti, které neexistují (stejně jako to udělal s AMD 9090XT 32GB).

    Cena se nastaví na to, co trh unese. To si Nvidia bude analyzovat až blízko launch date.
    RUDOLF
    RUDOLF --- ---
    RUDOLF: první graf co jsme našel

    Video Card Price Trends - PCPartPicker
    https://pcpartpicker.com/trends/price/video-card/#gpu.chipset.geforce-rtx-5090
    RUDOLF
    RUDOLF --- ---
    HNIZDO: cenu 5090 v době uvedení na trh nebo dnes?;-)
    HNIZDO
    HNIZDO --- ---
    RUDOLF: 6090 dostupná bude, pokud dostupností myslíš o 20-30 procent vyšší cenu než 5090.
    TRAGED
    TRAGED --- ---
    MCKIDNEY: Tak nad win jsem neuvazoval ani na vteřinu :-)
    RUDOLF
    RUDOLF --- ---
    Hmm.. já dost přemýšlím, jak zvolím strategii na svůj domácí hobby gaming projekt. Vlastně bych chtěl jet LLM defakto 24h denně. Pokud dám 100$ měsíčně na tokeny tak v pohodě, pokud 1000$ tak asi začnu znova prgat ručně;-)

    Doufám, že 6090 bude dostupná. Ale bojím ze, že jsme zase v cyklu ala BTC mining a high-end bude mít stejný trh s AI nadšencema. Reálně bych doma potřeboval dgx station, ale nemůžu to ospravedlnit jako investici, když dělám jen prototyp;-)

    Chtěl bych dedikovaný chipset na domácí inference, ale to je daleko.
    LAUNCHER
    LAUNCHER --- ---
    Google pro LLM komunitu zachranuje Nvidia N1X (RTX Spark Laptopy), Strix Halo, pripadne M5 Pro. Je to prvni vlastovka, ma to sve problemy, ale ono to pujde. Vyuziva se toho, ze lokalne nemas frontu dotazu od hodne uzivatelu, takze pocitas na jednom promptu 256 tokenu naraz, difuzne. Tzn pokud mas neco, co ma vyrazne vyssi performance chipu nez rychlosti pameti, vice vytezis ten performance a mene trapis tam a zpatky pameti. Vyznamne zabira jak na moji milovanou 5090, tak na RTX Spark.

    U nVidia podpora samozrejme od day 0, protoze spoluprace s Google.

    Run DiffusionGemma on NVIDIA for Developer-Ready, High-Throughput Text Generation | NVIDIA Technical Blog
    https://developer.nvidia.com/blog/run-diffusiongemma-on-nvidia-for-developer-ready-high-throughput-text-generation/

    Reci cisel, inference:
    5090: 700 tokenu / sekundu
    DGX (+RTX) Spark: 150 t/s
    DGX Station: 2000 t/s

    Detail:

    A Visual Guide to DiffusionGemma - by Maarten Grootendorst
    https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-diffusiongemma

    Kliknutím sem můžete změnit nastavení reklam