TRANCEWARP: Tak Nobel taky myslel že dynamit bude jen sloužit v dolech...
Imho je spousta tehle lidí prostě jenom "fanaticky optimistickejch"...

Anebo mají jen ten mindset "a proč by to někdo dělal" případně "to by si nedovolili" a tak podobně...

PATISLAV: Znas Marka Rosu? Ten zakladal AI firmu Good AI uz myslim tak pred osmi lety cirka.
A jeho cilem byla samozrejme AGI.
On je docela bedna, mel na to 200 mega (korun, smesny, ale v cesku to rozruch udelalo).
No a sedime spolu na Rebootu na veceri a za dve hodiny nebyl schopnej uznat, ze prvni vyuziti jeho chytryho AI mozku bude nejspis neco, co bude zabijet lidi. Proste tomu neveril.

Mozna je to common trait u tehle lidi

PATISLAV:
SEJDA: já to viděl už před třemi dny, ale zkusím pár klíčových bodů.

1. Vždycky říkal, že jediná cesta jsou neuronové sítě, i když si tehdy lidi mysleli, že je to s kanonem na vrabce a hlavně příliš vzdálená realita
2. Jeho ani jeho tým nikdy nenapadlo klást si otázku, co se bude dít, pokud by se k technologii dostali špatní lidé a co bude, až AI získá schopnost se sama učit a zlepšovat a překoná tak v inteligenci a schopnostech nás.
3. Teď si myslí, že to může být hodně zlý a na otázku, jak nás bude potom taková AI vnímat, odpovídá že asi jako my na kuřata. Možnosti, že se to zvrtne tímto směrem momentálně přisuzuje 20 %.
4. Že se to zvrtne i bez super AI, je podle něj teď už jisté a pracovní trh na něco takového není vůbec připraven. Běžné kancelářské joby začnou padat jako mouchy do dvou let, zbytek za deset. Jediné zatím bezpečné práce jsou ty, kde je potřeba jemná mechanika, jako třeba instalatér.
5. Jediná cesta, jak z toho ven je regulace kapitalismu.

Ba dum tss ;)

A další, v Elonově vizi, do řad nezaměstnaných, míří taxikáři.

PATISLAV: tl;tr ?

CHAOS_RK: roboti co dělají vybrané úkoly líp než člověk jsou mezi náma už dekády (ať v dostupných nebo nedostupných prostředích)

TRANCEWARP: Ja vim. Cetl jsem ji. Od harariho jsem cetl asi vsechno a Sapisens kupuju vsem co znam. To by mela bejt povinna cetba a jasne ze kazdej maka na AGI. Altman to rikal uz dva roky zpet. Ze ten zavod je o AGI. Ja jen rikam ze si myslim, ze AGI je furt 5-10 let daleko. Spis tech 10 a ted budeme dva-tri roky resit a vychytavat AI agenty, budeme resit na cem se maj vylepseny LLM modely ucit, budou umely data, bude se resit at to stoji min penez to trenovani. Beck na to zalozil bottlecap kam pretahl Mikolova..atp..

Jinak hezky to bylo videt na posledni Mission Impossible. Sice film a pritazeny za vlasy, jasne, ale jak tam AI vypustila do sveta plno dezinformaci, takze lidi uz nevedeli cemu verit atp. Jak v problemu tri teles tyve. Jsme furt jednoduchy opice a uz dneska s tebou i ten reasoning LLM model dokaze manipulovat jako s ditetem..Deepfaku bude cim dal vic apod. Navic tohle nepujde zastavit ani omezit. Je to jak internet a pochybuju ze vsichni velci hraci dohodnou na nejakejch jednotnejch pravidlech a pojistkach. Cina s deepseekem to urcite delat nebude..Takze tyve :))..Ceka nas zajimava desetiletka.

KOUDY: Tak dovol, abych ti shrnul, co Harari rika v knize Nexus. Je to fakt dlouhy, takze tohle je velmi strohy tldr.
Samozrejme, ze vsichni hraci na poki AI, co maj dost penez na vlastni vyvoj a nedelaj jen appku based on chatgpt, tak se snazej udelat AGI. Protoze pokud budou prvni a navrhnou AI co se sama sebe dokaze zlepsovat, tak od toho okamziku jejich vyvoj pojede exponencialne rychle a jejich schopnost ovladnou planetu bude ohromna.
Ja chapu, jak je to slozity, ze LLM nejsou AGI a je to jinej tech, nicmene tohle je jejich long term goal.
Ze lidstvo nejspis zhebne, protoze tim stvorime neco chytrejsiho, nez jsme sami, co nebudeme schopny kontrolovat, je nasnade.
Vsechny ty firmy na tom makaj a je to to hlavni, co chtej. Zbytek je marketing.

TRANCEWARP: Jasne ze je, ale od LLM modelu k AGI je furt dlouha cesta a prvni to stejne bude nekde v DARPA apod. Nerekl bych ze ji vyvine Altman nebo Zuck. Nicmene jak rikam. Je otazka jestli ji vubec potrebujem. Uz dneska jsou ty LLM modely (placeny) tak dobry, ze si s chatgpt muzes povidat pri ceste v aute jako s buddym kterej ti rozpracovava tvy napady a dava ti feedback. Neni nijak tezky simulovat empatii, takze pro nejaky roboticky kurvy to bude pouzitelny, pro roboty zametace/kuryry to bude pouzitelny. Pro roboty do domacnosti kteri se budou ucit s detma, vynaset odpadky a buhvi co jeste to bude pouzitelny. Na nic z toho nepotrebujes AGI. Viz treba povidky Ja Robot od Asimova. Vychytany a nehalucinujici LLM modely nam budou pristich pet/deset let imho v pohode stacit. AI agenti budou chytrejsi a ve spojeni s ruznejma robotama to bude supr. AGI bych se spis bal kdyz se podivam na dnesni lidstvo.

KOUDY: Kolik Indů je za tím AI schovaných? ;-)))

imo se dost ve vztahu k AI prehlizi nebo bezne nevi / nemluvi o tom, ze je tady nekolik pristupu jak do stroje dostat "inteligenci", kde kazdy prisup je dost odlisny v tom jak se to dela a k cemu je to ve finale dobry... LLM asi pujde tezko "premluvit" k tomu aby ridil pohyby robota, stejne tak Reinforcement Learning agent tezko nauci robota mluvit... Myslim ze do humanidnich robotu bude potreba tyhle pristupy nejak integrovat, kde ruzny agenti budou mit na starosti ruzny cile. Osobne si myslim, ze je to jen otazka casu, kdy se zacnou objevovat roboti (at uz humanoidni nebo bagr), ktery budou delat vybrane ukoly lepe nez clovek nebo klidne i hur, ale v prostredich kam se cloveku moc nechce nebo je to pro nej nebezpecny. Nam taky pred 4 rokama lidi rikali, ze jsme blazni, jestli chceme udelat AI bagr a ejhle uz mame nejen ten, ale i buldozer ;)

TRANCEWARP: no, co se tyce llm, tak opravdu nic tak svetoborneho od prvni verejne verze chatgpt nevzniklo a ze jsme blizko agi tvrdi jen techbros, co v tom maj zainvestovany miliardy svych investoru. A tvrdi to uz ty tri roky.

Vskutecnosti za llm zadna inteligence neni. Tedy krom te lidske, ktera vymyslela algoritmy, ktere urcuji poradi slov, jak je llm bleje a nic noveho vymyslet nedokazala. Je to super nastroj, ktery lidem a vedcum setri cas a urychluji proces? Ano.

Ale i alphafold je o tom, ze to navrhlo designy, ktery by vedci delali desitky let behem nekolika dni. Nevymyslel nic noveho.

KOUDY: Asi budou, ale je otazka, jestli napred nemusi umrit soucasny AI hype, ktery cpe zdroje do nevhodnych technologii.

KOUDY: LLM muza zaridit, ze bude robot poslouchat a mluvit, ale nejsem vubec presvedceny, ze to bude dobre fungovat na rizeni jeho pohybu. A s ohledem na to, ze vetsina z tech miliard tece prave do LLM, je mozne, ze se v tomto smeru relne moc neposouvame. Nesdilim nazor, ze AGI dosahneme zvetsovanim LLM, ani to, ze nam LLM samo vymysli AGI.