• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
  • přihlásit
    registrace
    ztracené heslo?
    KOJAProgramovani 40+
    KOJA
    KOJA --- ---
    JANFROG: Souhlasim. Hlavne si to predstavuju u projektu kde maji ruzny prispevatele ruzny potreby a konsensus se buduje pracne.
    KEJML
    KEJML --- ---
    JARDABEREZA: Používám v práci IntelliJ s Githib Copilot pluginem a před pár dny mě překvapilo, že ten už tohle umí. Něco s nim chci debugovat a najednou se mě začne ptát, jestli si může dát breakpoint tam a tam a celkově problém více méně samostatně zanalyzoval.
    KOLCON
    KOLCON --- ---
    JANFROG: Tak ne nutně. Zase může AI časem psát kvalitní PR ("oprav to a udělej PR") a zase nechceš vibecodovat všechny knihovny sám znova... Zatím jsem to zkusil 2x a v obou případech mi maintainer vysvětlil, proč se AI tak trochu netrefilo...
    JARDABEREZA
    JARDABEREZA --- ---
    JANFROG: Tady se to taky pěkně větví. Možnosti jsou:
    1) AI šáhne po open source dependency
    2) napíše místo ní něco od nuly
    3) udělá stovky PR do existujícího projektu
    4) vývojář dá pokyn AI udělat hard-fork opuštěného projektu a dokončit ho

    U sebe jsem pozoroval, že rádo dělá věci od nuly. Občas ho přesvědčím pro použití dependency. Ale líbí se mi, že pro jednoduché věci to dělá kód od nuly. Lepší kontrola, méně problémů se závislostmi. Menší problém se supply chain attack. Umí vychrlit stovky testů. Má kapacitu pomoci s údržbou. U složitějších závislostí to už nedává tolik smysl.

    Líbilo se mi, že mi to třeba umělo udělat PSD/PSB binary parser pro vytažení specifických hodnot v C++ s tím, že to čte pouze nezbytně nutné údaje, co chci, a nemusí to ani načíst celý soubor do paměti.
    JANFROG
    JANFROG --- ---
    JANFROG: Tedy za predpokladu, ze povazujeme open source za dobrou vec. Pokud ne, je to samozrejme vitany vedlejsi efekt :-)
    JANFROG
    JANFROG --- ---
    JARDABEREZA:
    Snižuje to závislost projektu na původním autorovi.

    Presne. Takze ke vsem tem "externalitam" co jmenoval QWWERTY muzeme jeste pridat zniceni open source :-)
    NAVARA
    NAVARA --- ---
    Potřebujeme markdown support na nyxe :\
    NAVARA
    NAVARA --- ---
    Nechával jsem zpracovávat nějaké texty a fable dostal za úkol to jenom orchestrovat a použít opus/sonnet/haiku podle toho, na co jsou nejvhodnější. Haiku rychle vyhodnotil jako ztracený případ, že lepší jsou python skripty (deterministické, auditovatelné). V ostatních to po sobě kontrolovali a i opus udělal semtam chybu; což pak řešil fable aby se už neopakovalo.

    I pulled the per-agent token records from all 39 workflow outputs still on disk for this session. The numbers reconcile exactly (per-model sums match the grand total). Orchestrator (Fable 5 main loop) tokens are not metered in these records, and the Python scripts cost zero agent tokens.
    
    ORCHESTRATOR (MAIN LOOP) COST
    +------------------+-------+----------+-------------+----------------+-----------+
    | Model            | Turns | Fresh in | Cache write |     Cache read |    Output |
    +------------------+-------+----------+-------------+----------------+-----------+
    | Opus 5           | 1,510 |    2,852 |  11,067,667 |    723,041,429 | 1,771,768 |
    | Fable 5          | 1,035 |    1,937 |  14,903,932 |    541,967,725 | 1,283,564 |
    +------------------+-------+----------+-------------+----------------+-----------+
    | TOTAL            | 2,545 |    4,789 |  25,971,599 |  1,265,009,154 | 3,055,332 |
    +------------------+-------+----------+-------------+----------------+-----------+
    
    - **Output tokens are the real "thinking" cost: 3.06M total**, of which the Fable 5 stretch (B1 fold through campaign completion) produced 1.28M across 1,035 turns — that covers all the ratifications, seam rulings, gated appliers, source verifications, and commit work.
    - **Cache reads dominate raw volume (1.27B)** but that is just the conversation context being re-served from cache on every turn of a very long session - it is the cheapest token \\type by an order of magnitude. Fresh (uncached) input was nearly zero — the prompt cache did its job almost perfectly.
    - **Cache writes (26M)** are tool results entering context for the first time: transcripts read for verification, checker reports, screen outputs.
    - Put against the subagent fleet: the orchestrators 3.06M output tokens steered 90.85M of subagent work, so orchestration ran at roughly **3.4% of the fleet it directed** — and the Fable 5 half alone, which orchestrated all of Phase B (B1-B6, 21 workflows, ~200 agents), cost 1.28M output, about 1.9% of the ~68M of subagent tokens it dispatched in that stretch.
    
    BY MODEL
    +---------------------+-------------+--------+---------------------------------------------------+
    | Model               |      Tokens | Agents | Used as                                           |
    +---------------------+-------------+--------+---------------------------------------------------+
    | Sonnet 5            |  64,985,636 |    202 | extraction + Phase B drafting, revision passes    |
    | Opus 5 (1M context) |  20,028,766 |     75 | checkers, confirmers, adjudication, B4, B6 review |
    | Opus 5 (standard)   |   5,718,443 |     24 | C1 aggregate backfill, wiki name verification     |
    | Haiku 4.5           |     113,634 |      1 | B0 registry collation (its only appearance)       |
    +---------------------+-------------+--------+---------------------------------------------------+
    | TOTAL               |  90,846,479 |    302 |                                                   |
    +---------------------+-------------+--------+---------------------------------------------------+
    
    BY METHOD
    +--------------------------------------------------------------+---------------+-------------+
    | Method                                                       | Model         |      Tokens |
    +--------------------------------------------------------------+---------------+-------------+
    | Phase A extraction drafting (121 episodes, 11 waves)         | Sonnet        |  41,446,109 |
    | Phase A wave checking (2 checkers per wave)                  | Opus 1M       |   5,272,119 |
    | C1 aggregate backfill + wiki name verification               | Opus std      |   5,718,443 |
    | B0 setup (arc proposal, registry, wiki)                      | mixed + Haiku |     673,126 |
    | Phase B drafting (B1 pages, B2 slices, B3 layer, B5 hub)     | Sonnet        |  19,037,108 |
    | Phase B revision passes (verify-before-apply)                | Sonnet        |   4,502,419 |
    | Phase B checking, confirmation, proposal adjudication        | Opus 1M       |   6,013,922 |
    | B4 shared-entity continuation (drafting AND checking)        | Opus 1M       |   6,103,224 |
    | B6 independent review + remediation confirms                 | Opus 1M       |   2,737,940 |
    +--------------------------------------------------------------+---------------+-------------+
    | TOTAL                                                        |               |  90,846,479 |
    +--------------------------------------------------------------+---------------+-------------+
    
    ## Notable line items
    
    - The single most expensive method by far was Phase A extraction: each wave ran ~4.2-4.8M tokens (twelve Sonnet drafters reading full transcripts, ~350k each), and its Opus checker pairs cost a steady ~500-575k per wave, about 11% of each wave.
    - **Lost work from infrastructure kills: 1,744,221 tokens** with nothing on disk (the wave-7 session-limit kill at 1,397,701 and B1s rate-limit kill at 346,520). Both relaunched fresh; the checkpoint discipline meant nothing else was ever re-paid.
    - The B6 reviews four Opus reviewers cost 1,674,392, and the cheapest consequential unit of the whole project was the B3 partition proposal: one Opus agent, 200,247 tokens, whose ratified output steered ~15M tokens of downstream drafting.
    - The revision layer (Sonnet, 4.5M) plus the confirm layer (inside the Opus figures, roughly 1.5M) together cost about 6% of the total, and caught the ten wrong checker claims and every silent skip, which is the best ratio in the ledger.

    Nebyl to tedy coding, ale i na to dojde :)
    JARDABEREZA
    JARDABEREZA --- ---
    KLEINZACH: Mě mile potěšilo, že jsem tam nahrál screenshot mého wireframe pro UI s poznámkama, všechno jako bitmapu. Pak jsem řekl ať si projde projekt a dokumentaci a udělá z toho odpovídající UI a logiku, ale ať je to UI víc kompaktní, a ono to fakt dost dobře fungovalo a zapadlo.

    Já teď dělám debugger do VSCode a chci si tam přidat nějaké MCP aby AI vědělo že si může:
    - nastavit breakpoint
    - spustit kod v konzoli
    - číst proměnné
    - trasovat kod

    A jsem fakt zvědavý jestli a jak to bude fungovat :-D Aktuálně si musí napsat test, spustit, pak přečíst výstup z terminálu, co se užil do souboru. Přijde mi, že to kolečko je delší než je nutné.
    KLEINZACH
    KLEINZACH --- ---
    helejte a co to google ai? je to k necemu

    ted to chvili zkousim (ale nechci po tom zatim kod), je to celkem pricetny a vypada ze za to nic nechtej?

    --

    v praci mame opus a fable a jako musim uznat ze je to fakt dobry - jak na review, tak na opravy/zlepseni (i kdyz obcas vybleje nejakou veselou kravinu), tak na veci jako "napis izolovanej benchmark na todle a zmer to a vyblij report s grafama. ne ty debile, kazdou krivku v grafu jinou barvou."
    co je naprosto bozi: "udelej UML z tydle casti kodu".
    na hledani bugu mi prijde ze je to stejne blby jako ja, ale kdyz ho nasmeruju tak to po par iteracich zvladnem. ("je tam chyba protoze je tam celou dobu 0. ne ty debile, je to cely ve smycce" :) )

    co me teda mrda, kdyz je to drzy. onehda me to pokaralo ze uz bych si mel vazne udelat branch, ze ty zmeny uz dela potreti (2x prisli testeri ze chtej binarku beze zmen na testovani, tak sem to shelvnul a zapomel odshelvnout). rek sem tomu na "keep it to yourself, smartass", ono to prej "fair" :))
    CERMI_FOX
    CERMI_FOX --- ---
    VITEX: jasný, to je ale problém korporátu :-)


    JARDABEREZA: "hey, please fix bug#123456 and incorporate findings into the review agent md so it won't happen again"
    VITEX
    VITEX --- ---
    CERMI_FOX: Nojo ale ty je musíš všechny platit darmožrouty dementní. Jak dvě opice co si navzájem vybíraj z blechy z kožichů a házejí je mě na talíř...
    JARDABEREZA
    JARDABEREZA --- ---
    VITEX: To je dobrá pointa. Kdo si odnese to ponaučení? Bude to člověk nebo AI? :-D Mně to teď přijde, jako bych měl zaměstnance/podřízené. Z chyb, které jsem neudělal já, se nepoučím. Viz CERMI_FOX
    VITEX
    VITEX --- ---
    JARDABEREZA: Já už to na sobě pozoruju teď.Je to stejný pocit jako když nechceš tahat těžkou tašku. Sice víš že bys jí bez problému odnesl z bodu A do bodu B možná s nějakou přestávkou ... ale za chvíli tu bude auto co to odveze za tebe ...
    VITEX
    VITEX --- ---
    JARDABEREZA: Chybama se člověk učí ... a až toho posereš tolik co já, tak budeš fakt dobrej!
    CERMI_FOX
    CERMI_FOX --- ---
    JARDABEREZA: už teď jeden agent hlídá a dělá review druhýmu a ten si to pak po sobě opraví. Tedy jeden agent ... vlastně je jich už víc - jeden na security, jeden na privacy/compliance, jeden na code smells atd :)
    JARDABEREZA
    JARDABEREZA --- ---
    QWWERTY: Korporát bude zřejmě "speciální oříšek k rozlousknutí". Ale co se týče akcelerace vývoje, tak to umožňuje nové přístupy.

    - Když máš nápad na startup a na projekt. Uvádí se, že pouze 1 z 10 startupů uspěje. A podnikatelé obvykle neuspějí s první firmou a pokračují s dalšími nápady. Můžou najít ten úspěšný problém dříve. Pokud si na sebe projekt nevydělá nebo ho nikdo nepotřebuje nemá cenu to dotahovat do konce. Za určitých okolností pocit z dokončení nějaké práce je psychologická past. Mozek má rád úplnost. Problém je, že ostatní to budou AI používat taky a bude tak jednodušší úspěch okopírovat.

    - Potom pokud mi stačí 10% času z toho co by to trvalo dřív, tak mám větší šanci na dokončení.

    - Mění to taky perspektivu opuštěných projektů. Před AI bylo velmi těžké porozumět složitejším open source projektům, které nemají nějakou lepší dokumentaci. Dneska mi to Fable všechno projde, sepíše high level architekturu, nakreslí diagramy, napíše testy a hned vím s čím mám tu čest a případně může to rozšířit a přidat nové funkce snadněji. Snižuje to závislost projektu na původním autorovi.

    Na kongitivní degradaci jsem zvědavý, jak u mě bude probíhat. Jaké budu pozorovat projevy a za jakých okolností se rozhodnu změnit způsoby, jakými budu outsourcovat svoje přemýšlení :-D Pro mě celkem jasný příklad s kalkulačkou. Když s ní všechno počítám, neumím si to spočítat bez ní. Ale v současné situaci to nepovažuji za dostatečně velký problém, abych to chtěl řešit.
    QWWERTY
    QWWERTY --- ---
    JARDABEREZA: za me osobne vyzaduje kontrolu porad, akorat treba v jinych oblastech
    e.g. reseni jako takove da skoro vzdycky spravne. integrace do zbytku projektu je vetsinou ok.
    integrace do systemu korporatnich pasti uz je horsi, protoze korporat se nutne nezaklada na oborovych best-practices
    a cim vic YOLO, tim vic je potreba hlidat, k cemu to vlastne muze autonome pristupovat, resp. je potreba tomu vytycit nejake guardrails a izolaci
    (ofc neni duvod, aby guardrails byly manualni - klidne at je to sandbox, filtrovaci MCP, guardrails/harness)

    jenze pak se dostavame do role "musim managovat tooling pro samotne provozovani AI"
    a bohuzel, cele LLM akceleruji proces: "mam skvely uzasny napad -> code,code,code -> hey look a squirell -> project abandoned"
    takze se mi k tomu pridava akcelerujici rozhodovaci smycka, jestli to co pouzivam je porad relevantni, jestli to nekdo udrzuje, jestli nezmigrovat na jine nastroje
    priklad: tohle vypadalo jako velmi nadejny projekt - [QWWERTY @ Artificial Intelligence AI] - 167 commits, release 0.1.0, a od te doby cvrcci a behajici krovi


    tzn. je sice "hezke", ze kod se pise skoro sam ale rozhodne nemam pocit, ze by mi to nejak usnadnilo management projektu
    (hezke v uvozovkach, protoze s pouzivanim AI/LLM samozrejme souvisi vlastni kognitivni degradace, zhorseni chapani fungovani vlasniho produktu, a samozrejme moralni akceptace, ze uzivanim aktivne podporujeme veskere externality jako ekonomicke zmrdstvo okolo poskytujicich firem, kradez training dat, exploitace levne pracovni sily, ekologicke dopady vystavby datacenter, kompletni bastardizace trhu s PC komponenty, etc...)
    JARDABEREZA
    JARDABEREZA --- ---
    QWWERTY: Já na sobě pozoruji, že jak je AI lepší a lepší, vyžaduje méně a méně kontroly. A začíná přebírat i návrh architektury. S tím, jak se špatná rozhodnutí objevují méně a méně často, myslím, že bude klesat i kontrola té práce. Ale já nedělám fintech ani věci co se mají připojovat k internetu. Ale sleduji u sebe pozvolný přechod. Např. u hobby projektu zkouším nové postupy.

    Zkouším teď nechat AI "vyblít" maximum projektu na začátku s letmou kontrolou a pak inkrementálně přidávám a koriguji a ladím a časem je ta inkrementální práce menšího a menšího rozsahu. A samozřejmě u toho dělá testy a dokumentaci. Dřív bych postupoval po malých krůčcích od začátku do konce. Dneska už je to chytřejší.
    QWWERTY
    QWWERTY --- ---
    JARDABEREZA: priklad z naseho korporatu
    ve chvili kdy spalis vsechny pridelene mesicni tokeny, tak mas 2 moznosti
    a) cekat do dalsiho mesice, nez se ti obnovi budget
    b) obhajit L4 managementu proc potrebujes vic ted hned
    tzn uz ted jsme v situaci "projekt si to vyzaduje => korporat vytahne kreditku a prikoupi dalsi GH AIC"

    uprime, i pres to ze pracuju vyhradne s Opusem, tak nejsem vibecoder a odmitam full-auto-approve YOLO.
    tzn. s nejakym rozumnym context windows managementem jsem se k limitu budgetu jeste ani nepriblizil
    ofc, zachovani manualni kontroly nad vyvojem znamena limitovane moznosti/bottleneck v pouzivani paralelizovanych/specializovanych agentu, ale takovy je zivot
    Kliknutím sem můžete změnit nastavení reklam