LAUNCHER: reálně digis, potřebuji stroj na testování a ladění víc replik LLM a 4090 zvládne jen jeden velký model v těch 32 GB paměti. Navíc mi vyhovuje standalone mini super computer. V tom je to prostě lepší. I kdyby 4090 generovala víc tokenů/s než digis, tak pro moji práci chci playground na multi-modal/repliky.
Samo, nejradši bych i 5090 kvůli diffusion modelům. Ale mám teď super malý case, kde mám 4070 Ti s malou spotřebou a v malém buildu a stačí mi to. Takže jsem v klidu. Spíš koupím 40” 5k monitor.
No a poslední, každým dnem se s přítelkyní zreplikujeme, tak budu 3 měsíce na otcovské. Ještě nevím, jak si to rozvrhnu a hlavně, jestli bude spánková deprivace a jestli vůbec budu mít čas tu digis provětrat. Můžu si hrát v AWS na účet zaměstnavatele, spíš než abych pálil rodinný peníze. No a některý technologie , např. od IBM, my pravděpodobné vendor neumožní pouštět doma na lokále.