ZAHRADKAR: 1. co se ma resit halucinovanim. halucinovani = odhad vyhledanim podobnosti s predchozimi daty. tj to co LLM delaji a jsou v mnoha ulohach vyhovujicim zpusobem uspesne. a to, co humans delaji v tom rychlem, uspornem rezimu (viz Kahneman). resime tim drtivou vetsinu situaci. proneslo nas to pres 50k let. az teprve ta "vedecka revoluce" navrhla neco noveho, fakt divneho. zkouset stanovit nejake axiomy, nejak pokud mozno opravnene, zkouset z nich odvozovat, bourat teorie hned kdyz prijde nova evidence atd. je to pracne, pomale, nevdecne. Hodi se to jen na urcitou tridu problemu. Issue neni ze LLM nebo humans halucinuji. Ale ze se nevi, v jakem momente uz halucinovani odmitnout. Zatim kolem toho jen halucinujeme (tj nekdo ma pocit, ze "zda ockovat" je cajk resit halucovanim, nekdo uz ten pocit nema a hleda neco vic "from first principles"...). U ockovani je to jasne. Ale jinak to jasne neni. Jak rozlisit otazky, kde je v poradku odhad a kde uz ne.
2. ano a to jsem myslela tim A CO KDYZ je v lidske populaci limit. Co kdyz nadkriticke mnozstvi lidi nema kapacitu videt rozdil mezi halucinovanim a evidence based/first principles. Prosli skolou ale bez efektu. Pokud v tom nevidi rozdil, neni duvod aby vnimali jako vyhodne kdyz se rozhoduje dle evidence based. Kdyz osobne je jim blizsi halucovani, ktere provadi cely zivot.
Co pak s tou tzv "svobodou". "Rasisticky (kognitivne-isticky)" receno, dal jsi volebni pravo vsem savcum a oni pacičkami mačkají tlačítko které jim asociuje chutnější potravu .. extrémní shorttermismus...
Nové v této úvaze ("vede demokracie do prdele?") je pro mě ta zkuešnost co máme s LLM. Velmi úspěšně to simuluje inteligenci halucinováním. Prošlo to Turingův test. A přitom neumí nahlédnout že 9.11 není větší než 9.9. Tj teď víme, že se dá inteligentně řešit spousta situací, i když tomu "vůbec nerozumíš". Můj point je, že takhle funguje většina lidí většinu času (to nemá být kritika).
Moje naděje je,, že z procesu kdy LLM naučíme toto pobrat, vidět svoje limity, vědět kdy halucinuje a kdy ne, by nám to mohlo nějak pomoct i s lidmi. (nemusí to se pak jmenovat LLM, ...).