• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
  • přihlásit
    registrace
    ztracené heslo?
    TOXICMANElon Musk
    ALMAD
    ALMAD --- ---
    Tyjo tak ta story s tim jak Waymo blokuje dopravu zatimco Tesly jedou dal se ukazuje jako naprosto super :D

    Podle kalifornskejch zakonu je totiz svetelna krizivatka bez svetel 4way stop (tzn. auto z kazdyho smeru musi zastavit, rozjizdej se v poradi v jakym prijeli).

    Akorat Wayma byly jediny co to dodrzovaly :D

    Pravidla vs realita no…
    VOYTEX
    VOYTEX --- ---
    XCHAOS: "spekulanti na burze by o zpětnovazebném šumu mohli vyprávět"

    Mandelbrot rikal, ze burza sleduje ty jeho krivky a ma roughness a je nepredvidatelne predvidatelna, ale pak prisly rychly transakce a zkratovaly mu krivky do flash crashe a on nevedel proc. Nebo to tvrdil. A lital na kavinku k Epsteinovi.

    XCHAOS: "nějak to minimalizovat, až se zbavíme pastí, které vedou k exponenciální složitosti"

    To je past vedle pasti, py*o! Ani n*log(n) né-na-sadíš, protože to je u železa! Banální věc, která trvá, když hódně, dvě tři minuty :))
    PES
    PES --- ---
    XCHAOS: ále, nemáš stroj času, co když to v té Alexandrii byla jen hloupá nehoda a nedokonalé BOZP a PO předpisy :-))) A pak se to svedlo na úmyslné zapálení pro očernění pachatele... ( #ironie #humor )
    XCHAOS
    XCHAOS --- ---
    KOUDY: možná je celá AI bublina snaha zopakovat Reganův triv s "Hvězdnými válkami", Strategic Defense Initiative, které za časů mého dětství komunističtí agitátoři fakt nenáviděli. Sověti na to ale skočili a ačkoliv na americké straně to byl převážně tunel z veřejného rozpočtu do soukromých kapes (čehož následkem je nejspíš i dnešní oligarchizaci, když bychom prehistorii těch firem sledovali hlouběji do minulosti v 80. letech), tak na druhé straně se je skutečně podařilo "uzbrojit", protože se vrhli na vyvíjení alespoň dílčích technologií a v kombinaci s propadem příjmů z ropy to vedlo ke Gorbačovově kolapsu SSSR....

    Takže si možná představují, že uvrtaj Čínu do napodobování nesmyslů, kterými ji zkolabují. Každopádně, ta bublina je svým způsobem poslední bublinou svého druhu - a hraje na sci-fi estetiku a mytologii, kterou byla okouzlena generace boomerů, protože takhle nějak si představovali v mládí svůj důchod. Po pádu téhle bubliny bude už ekonomika strukturovaná jinak... jen se trochu bojím, že někdo dostane skvělý nápad znovu zkusit postupy, které selhaly v éře reálného socialismu u nás... někdy ale mám pocit, že vyzkoušené bylo skoro všechno.
    XCHAOS
    XCHAOS --- ---
    PES: patříš k živočišnému druhu, který zapálil knihovnu v Alexandrii. Tohle se neděje poprvé, spíš asi udeřili hřebík na hlavičku fatalističtí Indové se svými představami různých velkých cyklů. Ať se sebevíce snažíme inspirovat z historie, pořád ji jenom nějakým způsobem remixujeme a různé podivné atraktory, jako je třeba dav pálící knihy apod., se pořád obloukem vrací.

    Odvržení knih a obrazoborectví u náboženských sekt je samo o sobě rituálem, který může být užitečný. Protože to ritualizované vědění ztratilo původní smysl, dá se říct, že kultura se sama o sobě, dávno před vynálezem AI, opakovaně zahltila zpětnovazebným šumem a různé původně smysluplné aktivity související s přežitím se staly prázdným rituálem (ovšem i ve schopnosti reprodukovat prázdné rituály se dá úspěšně soutěžit a budovat tím sociální hierarchie a ty pak dokážou nějaké reálné situace občas řešit...)

    Já myslím, že spekulanti na burze by o zpětnovazebném šumu mohli vyprávět... ale radši si to nechají pro sebe, že jo :-)
    KOUDY
    KOUDY --- ---
    K misi Genesis se upsaly Microsoft, OpenAI i Nvidia - Novinky
    https://www.novinky.cz/clanek/internet-a-pc-ai-k-misi-genesis-se-upsaly-microsoft-openai-i-nvidia-40554416

    Americké ministerstvo energetiky podepsalo dohody s 24 technologickými společnostmi. Jsou mezi nimi i Microsoft, Google, OpenAI nebo Nvidia. Cílem dohod o partnerství ve výzkumu je pokročit v misi Genesis, jak administrativa prezidenta Trumpa označuje národní program zaměřený na využití umělé inteligence (AI) k urychlení vědeckého výzkumu a posílení energetických a bezpečnostních kapacit USA.
    PES
    PES --- ---
    XCHAOS: bohužel, dobrý postřeh, který může ukazovat paralelu (nehezkou)...
    CEEFA
    CEEFA --- ---
    XCHAOS: ne, jen si ma historii konverzace s tebou.. nikomu dalsimu tohle "nauceni" neukaze...
    XCHAOS
    XCHAOS --- ---
    PES: to ale nemusí být nic pěkné. Viz původně demokratické systémy, které prošly fází, kdy demokracie zruší sama sebe (k jedné další iteraci se blížíme...)
    CEEFA
    CEEFA --- ---
    KOUDY: to ze jsou generovany tuny ai slop contentu nic nerika o jeho kvalite... taky uz ho treba zacal google penalizovat

    navic to, ze ti vyplivne info se zdroji opet nic nerika o jeho pravdivosti, nedavno sdilel Slerka skvelou studii jak ruska deiznfo sit pravda krasne obalamutila gia chatboty jen prave tou kvantintou, porad je to jen statistickej model
    XCHAOS
    XCHAOS --- ---
    CEEFA: tady zase pozor... lidi poukazujou na to, že když jim něco prozradíš, tak i když jim můžeš zdánlivě dát příkaz, aby to "zapomněli", tak fakticky to nemusí být možné. Probíhá zpětné trénování na komunikaci s tebou (a je to zoufale netransparentní, co se doopravdy děje). Jsou to doklady o tom, že jim někdo omylem pastnul zdroják s API tokenem do promptu a ten se pak vynořil někde v nějaké příští odpovědi, když mezitím měla být wannabe "mezipaměť" konverzace vymazaná.

    Je to naopak, než říkáš - dnešní LLM se učej, i když to po nich nechceš!

    S tím halucinováním nás to ale donutí přehodnotit spíš to, jak velká část našeho obrazu světa, pokud ho inferujeme jen z jazykového/textového popisu a ne ze smyslové zkušenosti, je taky halucinace. A platí tam skuečně, že jak chytře se ptáš, tak chytrou odpověď dostaneš - protože nakonec ten chat a "osobnost" je jen iluze, ve skutečnosti to pořád vychází z nástroje na doplňování chybějící části textu. Takže čím chytřejší kus textu dodáš, tím chytřejším způsobem ti ho to doplní. Vlastně kdybych někdy skutečně podlehl pokušení si k AI sednout, tak si nejdřív napůjčuju co nejchytřejší knížky k tématu, co mě zajímá a budu se snažit, aby mi je AI vysvětlilo.

    Nějaký způsob práce, která má hlavu a patu, asi objevit půjde, protože ta věc se nemůže jednoduše "odstát"... můžeme tomu snížit spotřebu energie a nějak to minimalizovat, až se zbavíme pastí, které vedou k exponenciální složitosti... ale asi to tu s námi už zůstane. Podle mě ale schopnosti, které jsou nutné k efektivnímu používání AI, právě odezní, stejná jako já třeba nikdy nezískal schopnosti používat veřejné nebo dokonce odborné knihovny a jsem generace zničená Internetem.
    PES
    PES --- ---
    KOUDY: čím více AI generovaného obsahu, tím dříve se on-line aktivní LLM utopí ve zpětnovazemném šumu halucinací (a bude od toho zase pokoj ;-))
    KOUDY
    KOUDY --- ---
    CEEFA: Tak si vem dva roky zpet kdyz ta AI ani nemela pristup na internet a jak je to ted a predstav si jaky to asi bude za pet let. Uz ted mas plno clanku psanych pomoci AI. Kolik asi obsahu bude za pet let generovano pomoci AI. Obrazku, videi, clanku apod. Jestli Ai vyuzivas jen k tomu aby ti rekla jaky je dneska pocasi, tak tam urcite nebude tak presna a aktualni. Kdyz se ji zeptas kdy kde co prohlasil Musk o zakladne na mesici a at ti to vyhleda vcetne zdroju a najde ti k tomu pripadne i videa..tak tam presna je. Viz me prispevky.
    CEEFA
    CEEFA --- ---
    KOUDY: Ne, at uz gpt, gemini, claude, grok, mistral nebo cokoli, porad je to jen chatbot napojenej na dany llm, zadny dalsi uceni u neho neprobiha, jeho znalosti koncej tam, kde konci ucici sada toho llm, proto nikdy nebude mit aktualni informace ale vzdy v lepsik pripade jen info do data uceni - takze pokud chces "real time" informace halicunovat bude vzdy (viz treba seznam ai, ktery si stale mysli, ze prezidentem je zeman), a to je taky duvod proc je zpravodajstvi nejmin zasazenym segmentem ai searchem
    generativni ai je super nastroj na spoustu veci (napr notebooklm mi pracovne setri hodiny a hodiny casu) ale jako primarni zdroj informaci bude vzdycky velmi nedokonala a halucinovat bude uz ze svy podstaty..
    XCHAOS
    XCHAOS --- ---
    KOUDY: ne, z principu to nejde. Dodaj do toho konkrétní mechanismy pro konkrétní specializace, konkrétní oblasti, jistě. To si představit lze, protože vedlejší efekt toho, že jsou LLM dobré na překlady, je asi i to, že dokáží tak nějak významově porovnat nějaké dva výroky, případně zkusit se zpětně dozdrojovat to, co vymyslely, apod. Jenže to právě vede na tu exponenciální složitost.

    LLM nejsou cesta k AGI. Ostatně, klasická von Neumannova architektura z počátků programování, kterou rozvíjíme v podstatě už 80 let, touhle cestou taky nebyla. Principy LLM nejsou taky nic nového pod sluncem, pouze se postupem času objevil takový výpočetní výkon, který to umožnil použít na něco víc, než byl obligátní autocomplete, který je tu s náma před 20 let.

    Neuvědomuješ si jednu věc: to, že "inteligence" okolního světa narůstá, včetně zdánlivé strojové inteligence pro ty, kteří jsou z nějakého důvodu přilepeni k monitoru, to není projevem toho, že ten vesmír okolo je chytřejší. Je projevem toho, že my stárneme a jsme blbější. Tohle se špatně vysvětluje, protože je to spíš filosofický kognitivní koncept, než nějaká tvrdá věda, ale faktem je, že AI je pro mě jen důkazem toho, že já jsem starší a blbější, nic jiného. Zamlada jsem býval nejchytřejším objektem v pozorovatelném vesmíru mezi 4 stěnama místnosti, zvlášť když jsem tam byl sám, třeba s knížkou. Dnes už vůbec ne.
    PES
    PES --- ---
    KOUDY: no bude třeba počkat na další generaci natrénovaných modelů, kde zavedou při trénování penalizaci za falešnou odpověď (oni už to vědátoři zjistili, že základní problém halucinací těch LLM je v tom, že pozitivní body dostává za dobrou odpověď, negativní za žádnou odpověď a hlavně že nějaké pozitivní body dostává i za "jakoukoliv" odpověď a tam je prazáklad toho, proč ty neuronky tak často sklouzávají k halucinacím, protože byly natrénované, že je lepší si odpověď i úplně vymyslet třeba i s falešnými odkazy na zdroje, aby to vypadalo důvěryhodně, než vrátit jednoduché "nevím, nemám dostatek dat")
    PER2
    PER2 --- ---
    ale decka, je to vyreseny problem a do konce roku bude robotaxi obsluhovat pul ameriky.....

    An engineering student managed to reverse-engineer Tesla’s Robotaxi app and collect data that shows the autonomous but supervised ride-hailing system in Austin consists of no more than a few vehicles (~5) operating at the same time.
    KOUDY
    KOUDY --- ---
    XCHAOS: Meritum prispevku bylo ze LLM modely tim jak se neustale zdokonaluji, tak halucinuji daleko mene nez pred rokem nebo dvema a za dva roky budou halucinovat jeste mene. Zalezi nicmene na promptu jaky nastavis, na tom jestli si platis ten lepsi model a take na tom jak si ten model nastavis, zda u nej zapnes reasoning, deep research apod. Pak se samozrejme chova uplne jinak nez bezny chatbot. Takze je to opet jen o tobe jako o uzivateli. Moc nemusim Petra Ludwiga, ale zrovna o tomhle tematu se obcas na facebooku moc hezky rozepisuje, dava tam overitelny statistiky toho jak malo uz nektere modely halucinuji a jak jsou presne v odpovedich+ti daji zdroje ze kterych cerpaji atp. Viz ja dole kdy jsem se zeptal ChatGPT na jednoduchou otazku ohledne Muska a zakladny na mesici a vyhodila mi odpoved vcetne zdroju ze kterych cerpala a kde ta informace je. Takze nulova halucinace.
    XCHAOS
    XCHAOS --- ---
    KOUDY: S tou přesností je to jinak.. kdyby to skutečně mělo eliminovat halucinace, tak bude náročnost exponenciální, takže to nejde... pokud vůbec, tenhle režim si budou moci dovolit jen nejnáročnější uživatelé.

    Spíš je skutečně zajímavý problém, že dobrá otázka je de-facto součástí dobré odpovědi. Není to záměr, ale prostě výsledek toho, jak je AI trénovaná. Čím více je otázka de-facto fragmentem té znalostní báze, kterou prohledáváš, tím větší je šance, že odpověď bude pocházet taky z ní (nebo jak to formulovat). V podstatě je to jen glorifikované fulltextové vyhledávání, akorát se spoustou omáčky okolo.

    Proboha, modely maj dodnes problém rozlišit, jestli pracujou s desetinými čísly nebo čísly SW verzí (oboje dvoje se třídí jinak). A podobných nuancí v kontextu je v jakékoliv mase lidských znalostí v nějakém dílčím oboru prakticky nekonečno. Různé oborové žargony, apod. AI může udělat dojem jen na opravdu hloupé lidi bez větší specializace v čemkoliv.
    KOUDY
    KOUDY --- ---
    DOKIS: Proc se bavis o me? Ja tu nepisu o tom jak co chci. Pisu tu o tom jak to bude a jestli to nechces cist odemne, tak si o tom muzes precist od lidi kteri s temi modely na kazdodenni bazi pracuji a reknou ti jakou cestu ty modely urazily za posledni dva roky..pripadne se muzes treba podivat na videa jak Will Smith ji spagety ted a jak je jedl dva roky zpet a zkusit si predstavit jak je asi bude jist za 2-3 roky.

    To ze ty ses tech pesimista jako plno lidi tady je tvoje vec. Ja jsem diky podnikani a investicim uz desitky let nauceny jet na vlne a nesnazit se ji prorazit malou pramickou. Kdyz dva nejbohatsi muzi na planete testuji sve raketky a rikaji ze bude zakladna na mesici, tak bych jim to celkem veril. Kdyz tu patnact nejhodnotnejsich firem investuje do AI infrastruktury a cpou nam Ai do mobilu, google vyhledavace apod, tak bych tak nejak predpokladal ze ta technologie tu s nama uz zustane a budeme ji na kazdodenni bazi pouzivat i nadale a nezmizi za rok v propadlisti dejin jako ClubHouse po kovidu.

    Co se tyce autonomnich aut tak uz ted jsou snad data na to, ze ta auta jezdi o 90% bezpecneji nez kdyby je ridil clovek ne? To ze urcite v 1% nejake nehody budou je jasne. Nikdy nic neni a nebude 100%. To vedeli uz panove v Nasa pred 70 lety, takze ikdyz budou na silnicich jen autonomni auta, tak stejne v 1% k nejakym i fatalnim nehodam bude dochazet.
    Kliknutím sem můžete změnit nastavení reklam