• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
    • přihlásit
    registrace
    ztracené heslo?
    KOJAProgramovani 40+
    QWWERTY
    QWWERTY --- ---
    +2
    JANFROG: jako jo, neco vyresi unattended updates, popr. rolling upgrades na novou verzi kontejneru
    ....ale kdo ma porad sledovat CVE, aktivni zero-days, ktere kusy pouzivane konfigurace prestaly byt povazovany za bezpecne, a doufat, ze novy release nerozbil zadny kus funkcionality, ktery zrovna pouzivam
    PES
    PES --- ---
    2 odpovědi+5
    JARDABEREZA: já se děsím, když slyším či čtu "agentický (operační) systém"...
    KOLCON
    KOLCON --- ---
    RUDOLF: Ne, ze zásadní nedůvěry k tomu že tu cizí službu někdo nehackne a/nebo nezavře krám.
    E2E4
    E2E4 --- ---
    1 odpověď+4
    QWWERTY: no, tady vidím riziko, že to někdo začne používat pro kriminální ucely a sestřelí celou platformu, resp to platforma kvůli tomu zabalí..

    to je ostatně riziko všech těchdle protisystemovych platforem..
    JARDABEREZA
    JARDABEREZA --- ---
    1 odpověď
    ANT_39: Mě spíš děsí AI agenti. V okamžiku, kdy pro dosažení svých cílů začnou používat hacky a reinterpretovat svoje vlastní zadání. Např. když se nalogují někam do administrace něčeho.

    A pár dní zpátky jsem si říkal, že by nemuselo dát skoro žádnou práci udělat AI agenta, který bude donekonečna hledat telefoní čísla ruských úřadů a pak je bude vyplňovat do formulářů ruských firem typu: "dejte nám číslo a zavoláme vám později". A pro ověření by mohl použít 10minute mail, pokud je třeba. Něco takového by neprogramátor mohl klidně zvládnout i za 2 hodiny ne?

    A když jsem zkoušel něco vyhledávat tak si minule AI agent stěžoval, že mu obsah zakrývá reklama a musí se nějak proklikat zkrz :-D
    ANT_39
    ANT_39 --- ---
    PES: Jen teda bych rad rekl, ze o tom osobne nic nevim, jen tusim, jak tak v prumeru lidi fungujou. Takovy to, lepsi promotion v hrsti nezli bezpecnej system na strese.
    PES
    PES --- ---
    1 odpověď
    ANT_39: Bohužel...
    ANT_39
    ANT_39 --- ---
    2 odpovědi+8
    PES: > nedostane nikam k ničemu kritickému
    Mam obavu, ze tahle lod uz odplula a je nekde v dali za obzorem.
    PES
    PES --- ---
    JARDABEREZA: což je de-facto jen varianta mé představy jak by to mělo dopadnout...
    JARDABEREZA
    JARDABEREZA --- ---
    1 odpověď+1
    PES: Spíš bych si představil, že taková produkce musí projít nějakým auditem, kde auditor ponese nějakou zodpovědnost. A samozřejmě čím větší sračka, tím dražší audit. A v některých případech bude možná tak drahý, že bude levnější to napsat znovu. :-D :-/
    JANFROG
    JANFROG --- ---
    2 odpovědi+1
    QWWERTY: Moje zkusenost je teda docela opacna. Nastavit to je voser, ale kdyz uz to jede, tak to jede vicemene samo.
    PES
    PES --- ---
    2 odpovědi
    JARDABEREZA: Pak musíš zajistit, že se tahle AI produkce nedostane nikam k ničemu kritickému (a drakonické tresty, pokud by to bylo porušeno, aby se to prostě nevyplatilo ani zkoušet).
    JARDABEREZA
    JARDABEREZA --- ---
    1 odpověď+2
    PES: Ty to bereš z korporátního pohledu. Ale vezmi si třeba menšího autobusového dopravce ve španělsku. Řekněme, že mají 20-30 autobusů. Jejich aplikace je nahovno už dnes aniž by se jí dotklo AI :-D Nemůžeš si tam nic objednat lístek stejně musíš koupit v autobuse. Ale když ta aplikace zrovna funguje, dozvíš se odkud a kam můžeš jet v kolik hodin. Tyhle menší firmy nebo neziskové projekty nemají moc co ztratit. Nemají pořádný software kvůli rozpočtu. Problém bude až okamžik, kdy budou ukládat osobní data, která budou zdrhat.

    Co se týče fintech, tam asi nějaké normy vzniknou.
    PES
    PES --- ---
    1 odpověď+1
    JARDABEREZA: To bohužel skončí tak, že takové "slepence" skončí špatně (průserem). Bohužel to bude daň, kterou budeme muset zaplatit, než se zase manažeři "vzpamatují" (a než se vytvoří něco obdobného jako jsou dnešní normy pracovní, bezpečnostní a kdo ví jaké) a bude prostě dané, že AI kód jen tak psát nemá.
    Samo, zní to naivně, ale prostě bude to jako poznání, že sirky si do stohu nebereme a když už, tak tam s nimi zásadně neškrtáme...
    JARDABEREZA
    JARDABEREZA --- ---
    1 odpověď+1
    PES: Já ti rozumím a souhlasím. Ale vysvětli to lidem, kteří programovat neumí, nemohli roky sehnat programátora, kteří za to navíc chtěli horentní sumy... a najednou si připadají jako supermani a nic není problém zrealizovat. :-D

    Myslím, že tu ještě uvidíme posuny v tom, co kdo od AI čeká a kdo to jak bude reálně používat.
    PES
    PES --- ---
    1 odpověď
    JARDABEREZA: LLM Ti může jen pomáhat, ale kódovat vždy musíš sám (prostě jen místo lopaty a krumpáče dostaneš bagr)
    NAVARA
    NAVARA --- ---
    QWWERTY: Jo, ale v trochu veřejnější (a tedy více auditované) verzi

    Samozřejmě pokud už by tam byly templaty pro celou architekturu včetně loadbalancingu (bezpečně, aby ti to neobcházeli někudy), siem s filtry na relevantní věci pro alerty (jinak ti chodí všecko a ignoruješ to), atd - ještě lépe
    KERRAY
    KERRAY --- ---
    +1
    QWWERTY: na to právě dneska můžeš mít prompty/skilly - jednak aby to rovnou od začátku nějak vypadalo a nestavěl to nováček s omezenýma zkušenostma, když nevidí za nejbližší obzor, a nevadilo by až tak moc, že je to uvnitř komplexní, když i na ten maintenance a monitoring a eventy máš prompty a skilly... když máš prostředí dobře postavený, tak si ho pár příkazy vyšvihneš v klonu někde jinde, a je blbost tohle nechat dělat korporáty za prachy, když by se to dalo volně sdílet
    JARDABEREZA
    JARDABEREZA --- ---
    1 odpověď
    KERRAY: Tím se ale zase dostáváme k tomu, jak moc chceme věřit LLM. Např. bezpečnostní experti tvrdí, že čínské LLM generují méně bezpečný kód, pokud to nějak souvisí s etnikami, u kterých provádí genocidu. https://www.crowdstrike.com/en-us/blog/crowdstrike-researchers-identify-hidden-vulnerabilities-ai-coded-software/
    QWWERTY
    QWWERTY --- ---
    3 odpovědi+4
    NAVARA: ad. provoz na vlastnim [SelfHosted - Návody, rady a zkušenosti s DYI provozem] :)
    nejvetsi problem self-hosted je imho v tom, ze prvotni deployment je jedna vec. ale evoluce, maintenance, monitoring, a reagovani na eventy druha (a narocnejsi)
    Kliknutím sem můžete změnit nastavení reklam