• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
    • přihlásit
    registrace
    ztracené heslo?
    RUDOLFMachine Learning | Strojové učení | In Machines We Trust | Víra v mechanickou bestii
    Pokec kolem machine learning.

    Machine learning komunita v čechách žije kolem MLMU.
    http://www.mlmu.cz
    http://www.meetup.com/Prague-Machine-Learning/

    Kurzy
    https://www.coursera.org/courses?query=machine%20learning
    rozbalit záhlaví
    ZVIRATKO
    ZVIRATKO --- ---
    XCIDAR: tak mozna naopak mrkni na reseni linuxovyho VMka s dockerem, tam by mela fungovat i nejaka akcelerace, jen naprosto netusim jak Metal a AI...
    XCIDAR
    XCIDAR --- ---
    1 odpověď
    ZVIRATKO: Nasel jsem. Je to vlastne MacOS v kontejneru misto linuxu, ale je potreba vypnout SIP, tak se toho trochu bojim. Krom toho je to v early alpha stagi, takze to nejspis slozite pojede. Pockam az to bude aspon beta, jinak si rozmrdam docker a ten ted potrebuju.
    ZVIRATKO
    ZVIRATKO --- ---
    1 odpověď
    XCIDAR: hledej neco jako "native macos container", ale jinak o tom fakt vic nevim, jen ze to existuje, a ze si s tim exkolega hral a nadaval na to. Narazis na hromadu veci, treva jak do toho dostat Metal podporu a podobne, ale rozhodne to bude jednodussi nez s linuxem
    XCIDAR
    XCIDAR --- ---
    1 odpověď
    ZVIRATKO: To je co? Jak se to jmenuje, ze bych si to dostudoval. Slysim o tom poprve.
    ZVIRATKO
    ZVIRATKO --- ---
    1 odpověď
    XCIDAR: no taky muzes bezet nativni kontejner, ale zkusenosti nemam
    XCIDAR
    XCIDAR --- ---
    API je tam nejaky jednoduchy akorat... Jde tam nastavit parametry modelu a prompty.
    XCIDAR
    XCIDAR --- ---
    1 odpověď
    ZVIRATKO: Ok, no asi udelam nejakej makefile, kterej to vsechno zkompiluje a nastavi a stahne, ten docker me prisel prenosnejsi, ale bophuzel je to z toho skoro nepouzitelny. Docker image to zbuildi, ale taky to trva asi 10 minut, nez to stahne model a dotahne a zkompiluje knihovny.
    ZVIRATKO
    ZVIRATKO --- ---
    1 odpověď
    XCIDAR: no tak muzes ten zbytek sluzeb spoustet v dockeru a jen pouzivat llama API na hostu (o kterem nevim nic, jen predpokladam, ze to nejake ma)
    XCIDAR
    XCIDAR --- ---
    1 odpověď
    Cely to bylo mysleno tak, ze by jsme to pouzili, aby jsme u toho nemuseli platit za ChatGPT API
    XCIDAR
    XCIDAR --- ---
    Plus, kdyz si to chce rozjet kolega, tak akorat zbuildi kontejner a ma to hotovy...
    XCIDAR
    XCIDAR --- ---
    ZVIRATKO: Nativne to mam, ale kdyz bych to chtel pouzit pro RAG (Reality Augmented Generation - v kombinaci s QDRANT Vectorovou databazi), tak jsem zvyklej mit sluzby v docker-compose/dockerfilech, pak se to da lehce hodit do produkce.
    ZVIRATKO
    ZVIRATKO --- ---
    1 odpověď
    XCIDAR: nevim jak by sis povidal s metal API z linuxovyho dockeru, silne pochybuju ze pro to existuje jakakoliv podpora. To uz mas vetsi sanci ve VMku (ale netusim jestli tam ta podpora existuje).
    Proc to nebezis nativne?
    XCIDAR
    XCIDAR --- ---
    1 odpověď
    ZVIRATKO: Chybí podpora ze stran dockeru? Nebo hol primo dockeru na macos? Nebo je to bez podpory v ramci toho serveru pro llama.cpp ? Jakoze jestli s tim jsem schopen nejak hnout...
    ZVIRATKO
    ZVIRATKO --- ---
    1 odpověď
    XCIDAR: v dockeru na 99% nijak
    XCIDAR
    XCIDAR --- ---
    1 odpověď+1
    Zdravim, mam dotaz. Mam MacOS M1 Pro Macbook a rozchodil jsem si pres llama.cpp jeden z tech mensich llama modelu pro chatovani. Povedlo se mi to nacpat i do linuxoveho kontejneru v dockeru. Dotaz zni: Je mozne nejak zprovoznit GPU inferenci i pro ten docker kontejner? Na lokale v MacOS to slo (podporuje to metal primo, takze kdyz to neni v kontejneru, tak to jde pouzit). Google a Stackoverflow mlci. Nasel jsem akorat nejake yt video, kde ale mluvili o pytorch. Plus spousta tutorialu jak to nastavit pro nVidia GPU, ale ne pro M1 GPU, tak se ptam, jestli jste to nekdo uz nezkouseli.
    MATHEZ
    MATHEZ --- ---
    EXIS: pošta
    EXIS
    EXIS --- ---
    1 odpověď
    MATHEZ: Aktuálně je sales práce moje, CEO a jednoho business analysta. Máme zakázky v US v ČR, bavíme se v dalších zemích. Aktuálně máme více zakázek, než rukou. Umíš sales? Globálně?
    MATHEZ
    MATHEZ --- ---
    1 odpověď
    EXIS: jak mate reseny sales?
    QWWERTY
    QWWERTY --- ---
    +2
    EXIS: muzes zkusit poptat i tady, sleduje to vic lidi :)
    [Programatorska spoluprace - spoluprace na projektech, nabidky prace]
    EXIS
    EXIS --- ---
    2 odpovědi+1
    Přátelé, s naším startupem hledáme ML/Data engineer seniorní lidi. Kdyby to někoho zajímalo, mrkněte plz na https://www.startupjobs.cz/nabidka/66027/ml-researcher-data-engineer a případně se mi můžete napřímo ozvat. Pokud sem inzeráty nepatří, tak sorry a dám to do jobs, ale chtěl jsem to hlavně dát vědět relevantním lidem. Ať se data hejbou.
    Kliknutím sem můžete změnit nastavení reklam