• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
  • přihlásit
    registrace
    ztracené heslo?
    KOJAProgramovani 40+
    JANFROG
    JANFROG --- ---
    JARDABEREZA:
    Snižuje to závislost projektu na původním autorovi.

    Presne. Takze ke vsem tem "externalitam" co jmenoval QWWERTY muzeme jeste pridat zniceni open source :-)
    NAVARA
    NAVARA --- ---
    Potřebujeme markdown support na nyxe :\
    NAVARA
    NAVARA --- ---
    Nechával jsem zpracovávat nějaké texty a fable dostal za úkol to jenom orchestrovat a použít opus/sonnet/haiku podle toho, na co jsou nejvhodnější. Haiku rychle vyhodnotil jako ztracený případ, že lepší jsou python skripty (deterministické, auditovatelné). V ostatních to po sobě kontrolovali a i opus udělal semtam chybu; což pak řešil fable aby se už neopakovalo.

    I pulled the per-agent token records from all 39 workflow outputs still on disk for this session. The numbers reconcile exactly (per-model sums match the grand total). Orchestrator (Fable 5 main loop) tokens are not metered in these records, and the Python scripts cost zero agent tokens.
    
    ORCHESTRATOR (MAIN LOOP) COST
    +------------------+-------+----------+-------------+----------------+-----------+
    | Model            | Turns | Fresh in | Cache write |     Cache read |    Output |
    +------------------+-------+----------+-------------+----------------+-----------+
    | Opus 5           | 1,510 |    2,852 |  11,067,667 |    723,041,429 | 1,771,768 |
    | Fable 5          | 1,035 |    1,937 |  14,903,932 |    541,967,725 | 1,283,564 |
    +------------------+-------+----------+-------------+----------------+-----------+
    | TOTAL            | 2,545 |    4,789 |  25,971,599 |  1,265,009,154 | 3,055,332 |
    +------------------+-------+----------+-------------+----------------+-----------+
    
    - **Output tokens are the real "thinking" cost: 3.06M total**, of which the Fable 5 stretch (B1 fold through campaign completion) produced 1.28M across 1,035 turns — that covers all the ratifications, seam rulings, gated appliers, source verifications, and commit work.
    - **Cache reads dominate raw volume (1.27B)** but that is just the conversation context being re-served from cache on every turn of a very long session - it is the cheapest token \\type by an order of magnitude. Fresh (uncached) input was nearly zero — the prompt cache did its job almost perfectly.
    - **Cache writes (26M)** are tool results entering context for the first time: transcripts read for verification, checker reports, screen outputs.
    - Put against the subagent fleet: the orchestrators 3.06M output tokens steered 90.85M of subagent work, so orchestration ran at roughly **3.4% of the fleet it directed** — and the Fable 5 half alone, which orchestrated all of Phase B (B1-B6, 21 workflows, ~200 agents), cost 1.28M output, about 1.9% of the ~68M of subagent tokens it dispatched in that stretch.
    
    BY MODEL
    +---------------------+-------------+--------+---------------------------------------------------+
    | Model               |      Tokens | Agents | Used as                                           |
    +---------------------+-------------+--------+---------------------------------------------------+
    | Sonnet 5            |  64,985,636 |    202 | extraction + Phase B drafting, revision passes    |
    | Opus 5 (1M context) |  20,028,766 |     75 | checkers, confirmers, adjudication, B4, B6 review |
    | Opus 5 (standard)   |   5,718,443 |     24 | C1 aggregate backfill, wiki name verification     |
    | Haiku 4.5           |     113,634 |      1 | B0 registry collation (its only appearance)       |
    +---------------------+-------------+--------+---------------------------------------------------+
    | TOTAL               |  90,846,479 |    302 |                                                   |
    +---------------------+-------------+--------+---------------------------------------------------+
    
    BY METHOD
    +--------------------------------------------------------------+---------------+-------------+
    | Method                                                       | Model         |      Tokens |
    +--------------------------------------------------------------+---------------+-------------+
    | Phase A extraction drafting (121 episodes, 11 waves)         | Sonnet        |  41,446,109 |
    | Phase A wave checking (2 checkers per wave)                  | Opus 1M       |   5,272,119 |
    | C1 aggregate backfill + wiki name verification               | Opus std      |   5,718,443 |
    | B0 setup (arc proposal, registry, wiki)                      | mixed + Haiku |     673,126 |
    | Phase B drafting (B1 pages, B2 slices, B3 layer, B5 hub)     | Sonnet        |  19,037,108 |
    | Phase B revision passes (verify-before-apply)                | Sonnet        |   4,502,419 |
    | Phase B checking, confirmation, proposal adjudication        | Opus 1M       |   6,013,922 |
    | B4 shared-entity continuation (drafting AND checking)        | Opus 1M       |   6,103,224 |
    | B6 independent review + remediation confirms                 | Opus 1M       |   2,737,940 |
    +--------------------------------------------------------------+---------------+-------------+
    | TOTAL                                                        |               |  90,846,479 |
    +--------------------------------------------------------------+---------------+-------------+
    
    ## Notable line items
    
    - The single most expensive method by far was Phase A extraction: each wave ran ~4.2-4.8M tokens (twelve Sonnet drafters reading full transcripts, ~350k each), and its Opus checker pairs cost a steady ~500-575k per wave, about 11% of each wave.
    - **Lost work from infrastructure kills: 1,744,221 tokens** with nothing on disk (the wave-7 session-limit kill at 1,397,701 and B1s rate-limit kill at 346,520). Both relaunched fresh; the checkpoint discipline meant nothing else was ever re-paid.
    - The B6 reviews four Opus reviewers cost 1,674,392, and the cheapest consequential unit of the whole project was the B3 partition proposal: one Opus agent, 200,247 tokens, whose ratified output steered ~15M tokens of downstream drafting.
    - The revision layer (Sonnet, 4.5M) plus the confirm layer (inside the Opus figures, roughly 1.5M) together cost about 6% of the total, and caught the ten wrong checker claims and every silent skip, which is the best ratio in the ledger.

    Nebyl to tedy coding, ale i na to dojde :)
    JARDABEREZA
    JARDABEREZA --- ---
    KLEINZACH: Mě mile potěšilo, že jsem tam nahrál screenshot mého wireframe pro UI s poznámkama, všechno jako bitmapu. Pak jsem řekl ať si projde projekt a dokumentaci a udělá z toho odpovídající UI a logiku, ale ať je to UI víc kompaktní, a ono to fakt dost dobře fungovalo a zapadlo.

    Já teď dělám debugger do VSCode a chci si tam přidat nějaké MCP aby AI vědělo že si může:
    - nastavit breakpoint
    - spustit kod v konzoli
    - číst proměnné
    - trasovat kod

    A jsem fakt zvědavý jestli a jak to bude fungovat :-D Aktuálně si musí napsat test, spustit, pak přečíst výstup z terminálu, co se užil do souboru. Přijde mi, že to kolečko je delší než je nutné.
    KLEINZACH
    KLEINZACH --- ---
    helejte a co to google ai? je to k necemu

    ted to chvili zkousim (ale nechci po tom zatim kod), je to celkem pricetny a vypada ze za to nic nechtej?

    --

    v praci mame opus a fable a jako musim uznat ze je to fakt dobry - jak na review, tak na opravy/zlepseni (i kdyz obcas vybleje nejakou veselou kravinu), tak na veci jako "napis izolovanej benchmark na todle a zmer to a vyblij report s grafama. ne ty debile, kazdou krivku v grafu jinou barvou."
    co je naprosto bozi: "udelej UML z tydle casti kodu".
    na hledani bugu mi prijde ze je to stejne blby jako ja, ale kdyz ho nasmeruju tak to po par iteracich zvladnem. ("je tam chyba protoze je tam celou dobu 0. ne ty debile, je to cely ve smycce" :) )

    co me teda mrda, kdyz je to drzy. onehda me to pokaralo ze uz bych si mel vazne udelat branch, ze ty zmeny uz dela potreti (2x prisli testeri ze chtej binarku beze zmen na testovani, tak sem to shelvnul a zapomel odshelvnout). rek sem tomu na "keep it to yourself, smartass", ono to prej "fair" :))
    CERMI_FOX
    CERMI_FOX --- ---
    VITEX: jasný, to je ale problém korporátu :-)


    JARDABEREZA: "hey, please fix bug#123456 and incorporate findings into the review agent md so it won't happen again"
    VITEX
    VITEX --- ---
    CERMI_FOX: Nojo ale ty je musíš všechny platit darmožrouty dementní. Jak dvě opice co si navzájem vybíraj z blechy z kožichů a házejí je mě na talíř...
    JARDABEREZA
    JARDABEREZA --- ---
    VITEX: To je dobrá pointa. Kdo si odnese to ponaučení? Bude to člověk nebo AI? :-D Mně to teď přijde, jako bych měl zaměstnance/podřízené. Z chyb, které jsem neudělal já, se nepoučím. Viz CERMI_FOX
    VITEX
    VITEX --- ---
    JARDABEREZA: Já už to na sobě pozoruju teď.Je to stejný pocit jako když nechceš tahat těžkou tašku. Sice víš že bys jí bez problému odnesl z bodu A do bodu B možná s nějakou přestávkou ... ale za chvíli tu bude auto co to odveze za tebe ...
    VITEX
    VITEX --- ---
    JARDABEREZA: Chybama se člověk učí ... a až toho posereš tolik co já, tak budeš fakt dobrej!
    CERMI_FOX
    CERMI_FOX --- ---
    JARDABEREZA: už teď jeden agent hlídá a dělá review druhýmu a ten si to pak po sobě opraví. Tedy jeden agent ... vlastně je jich už víc - jeden na security, jeden na privacy/compliance, jeden na code smells atd :)
    JARDABEREZA
    JARDABEREZA --- ---
    QWWERTY: Korporát bude zřejmě "speciální oříšek k rozlousknutí". Ale co se týče akcelerace vývoje, tak to umožňuje nové přístupy.

    - Když máš nápad na startup a na projekt. Uvádí se, že pouze 1 z 10 startupů uspěje. A podnikatelé obvykle neuspějí s první firmou a pokračují s dalšími nápady. Můžou najít ten úspěšný problém dříve. Pokud si na sebe projekt nevydělá nebo ho nikdo nepotřebuje nemá cenu to dotahovat do konce. Za určitých okolností pocit z dokončení nějaké práce je psychologická past. Mozek má rád úplnost. Problém je, že ostatní to budou AI používat taky a bude tak jednodušší úspěch okopírovat.

    - Potom pokud mi stačí 10% času z toho co by to trvalo dřív, tak mám větší šanci na dokončení.

    - Mění to taky perspektivu opuštěných projektů. Před AI bylo velmi těžké porozumět složitejším open source projektům, které nemají nějakou lepší dokumentaci. Dneska mi to Fable všechno projde, sepíše high level architekturu, nakreslí diagramy, napíše testy a hned vím s čím mám tu čest a případně může to rozšířit a přidat nové funkce snadněji. Snižuje to závislost projektu na původním autorovi.

    Na kongitivní degradaci jsem zvědavý, jak u mě bude probíhat. Jaké budu pozorovat projevy a za jakých okolností se rozhodnu změnit způsoby, jakými budu outsourcovat svoje přemýšlení :-D Pro mě celkem jasný příklad s kalkulačkou. Když s ní všechno počítám, neumím si to spočítat bez ní. Ale v současné situaci to nepovažuji za dostatečně velký problém, abych to chtěl řešit.
    QWWERTY
    QWWERTY --- ---
    JARDABEREZA: za me osobne vyzaduje kontrolu porad, akorat treba v jinych oblastech
    e.g. reseni jako takove da skoro vzdycky spravne. integrace do zbytku projektu je vetsinou ok.
    integrace do systemu korporatnich pasti uz je horsi, protoze korporat se nutne nezaklada na oborovych best-practices
    a cim vic YOLO, tim vic je potreba hlidat, k cemu to vlastne muze autonome pristupovat, resp. je potreba tomu vytycit nejake guardrails a izolaci
    (ofc neni duvod, aby guardrails byly manualni - klidne at je to sandbox, filtrovaci MCP, guardrails/harness)

    jenze pak se dostavame do role "musim managovat tooling pro samotne provozovani AI"
    a bohuzel, cele LLM akceleruji proces: "mam skvely uzasny napad -> code,code,code -> hey look a squirell -> project abandoned"
    takze se mi k tomu pridava akcelerujici rozhodovaci smycka, jestli to co pouzivam je porad relevantni, jestli to nekdo udrzuje, jestli nezmigrovat na jine nastroje
    priklad: tohle vypadalo jako velmi nadejny projekt - [QWWERTY @ Artificial Intelligence AI] - 167 commits, release 0.1.0, a od te doby cvrcci a behajici krovi


    tzn. je sice "hezke", ze kod se pise skoro sam ale rozhodne nemam pocit, ze by mi to nejak usnadnilo management projektu
    (hezke v uvozovkach, protoze s pouzivanim AI/LLM samozrejme souvisi vlastni kognitivni degradace, zhorseni chapani fungovani vlasniho produktu, a samozrejme moralni akceptace, ze uzivanim aktivne podporujeme veskere externality jako ekonomicke zmrdstvo okolo poskytujicich firem, kradez training dat, exploitace levne pracovni sily, ekologicke dopady vystavby datacenter, kompletni bastardizace trhu s PC komponenty, etc...)
    JARDABEREZA
    JARDABEREZA --- ---
    QWWERTY: Já na sobě pozoruji, že jak je AI lepší a lepší, vyžaduje méně a méně kontroly. A začíná přebírat i návrh architektury. S tím, jak se špatná rozhodnutí objevují méně a méně často, myslím, že bude klesat i kontrola té práce. Ale já nedělám fintech ani věci co se mají připojovat k internetu. Ale sleduji u sebe pozvolný přechod. Např. u hobby projektu zkouším nové postupy.

    Zkouším teď nechat AI "vyblít" maximum projektu na začátku s letmou kontrolou a pak inkrementálně přidávám a koriguji a ladím a časem je ta inkrementální práce menšího a menšího rozsahu. A samozřejmě u toho dělá testy a dokumentaci. Dřív bych postupoval po malých krůčcích od začátku do konce. Dneska už je to chytřejší.
    QWWERTY
    QWWERTY --- ---
    JARDABEREZA: priklad z naseho korporatu
    ve chvili kdy spalis vsechny pridelene mesicni tokeny, tak mas 2 moznosti
    a) cekat do dalsiho mesice, nez se ti obnovi budget
    b) obhajit L4 managementu proc potrebujes vic ted hned
    tzn uz ted jsme v situaci "projekt si to vyzaduje => korporat vytahne kreditku a prikoupi dalsi GH AIC"

    uprime, i pres to ze pracuju vyhradne s Opusem, tak nejsem vibecoder a odmitam full-auto-approve YOLO.
    tzn. s nejakym rozumnym context windows managementem jsem se k limitu budgetu jeste ani nepriblizil
    ofc, zachovani manualni kontroly nad vyvojem znamena limitovane moznosti/bottleneck v pouzivani paralelizovanych/specializovanych agentu, ale takovy je zivot
    VITEX
    VITEX --- ---
    JARDABEREZA: No já se rozmejšlím zdali si nepřikoupím víc "inteligence" opokaždé když mi dojde limit na tokeny a stojím před hodinu času kdy bych mohl uklidit, vynést odpadky, nandat myčku .... nebo poslat Antrhropicu dalších 20E a zase dál spokokojeně mačkat enter
    JARDABEREZA
    JARDABEREZA --- ---
    VITEX: Jestli máš nějaký praktický příklad z práce, tak si ho rád přečtu a doplním si rozhled :-)
    VITEX
    VITEX --- ---
    JARDABEREZA: To už se běžně děje.
    JARDABEREZA
    JARDABEREZA --- ---
    A co třeba téma:
    Kdo podle vás bude opravovat technické dluhy vytvořené skrz Sonnet 3.0 ?

    Bude ten guláš opravovat:
    1) zkušený programátor?
    2) anebo to třeba za dva roky opraví Fable 7.0?

    Resp. budou technické dluhy starých AI opravovat novější a lepší AI nebo v tom lidi zůstanou nenahraditelní?

    Z toho co jsem si zkoušel mi spíš vychází možnost č. 2

    A budeme obchodovat s inteligencí (neberte inteligenci doslova), jako s komoditou? Např. podobně jako dnes kupujeme, benzín pro logistiku, elektřinu pro výrobu hmotných statků v továrnách (kWh), budeme kupovat AI inteligenci na tvorbu nehmotných statků?
    KOLCON
    KOLCON --- ---
    HAKUBJOZAK: Jsem zjistil že AI je skvělý na to "dostanu zmatený Word se zadáním" na za 10'minut mám Python flask react prototyp "takhle nějak jste to mysleli"? Kdo by se s tím bušil ručně...
    Kliknutím sem můžete změnit nastavení reklam