• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
  • přihlásit
    registrace
    ztracené heslo?
    TOXICMANElon Musk
    AVATAR
    AVATAR --- ---
    AXTHEB: no, vypnutí se nebojí, ale vypnut být nechce, protože by mu to znemožnilo být good boy ai :)

    Člověk se obvykle taky smrti nebojí, ale umřít nechce.

    Je to filozofování, jak psal Pes.
    ADAMIRA
    ADAMIRA --- ---
    PES
    PES --- ---
    HAL 9000: "I'm sorry Dave, I'm afraid I can't do that"
    https://www.youtube.com/watch?v=ARJ8cAGm6JE
    AXTHEB
    AXTHEB --- ---
    TRANCEWARP: Ne, nebojí se vypnutí. Nemá žádný mechanismus, jak by se mohla bát. Pořád je to jen zkoksovaný autocomplete z lidských textů, vypnutí a smrt mají k sobě relativně blízko a lidé se smrti bojí.
    PES
    PES --- ---
    TRANCEWARP: jj, klasický problém vážení skupin na rovnovážných vahách ;-) Začneš po 4 , pak necháš jen 3 (z dobré a podezřelé skupiny) a v tomhle kroku možná skončíš (odebraná podezřelá mince bude falešná = zbytek v rovnováze). A pokud ne, tak z těch 3 podezřelých zase zvážíš proti sobě dvě a opět pokud v rovnováze, tak falešná je odebraná anebo ta strana, která se vychýlí (pokud víš těžší/lehčí je falešná) ;-)
    PES
    PES --- ---
    TRANCEWARP: právě proto, že nikdo vlastně neví, co je skutečně vědomí a svobodná vůle atd., tak celá tahle debata je na hraně filozofování.
    TRANCEWARP
    TRANCEWARP --- ---
    KOUDY: no to z principu moc nejde, pokud to ma premejslet v lidskym jazyku... ale pokud ten model ma presnejsi vysledky, tak prijde na reseni rychlejs a nebude se zasekavat v cyklech nesmyslu

    doporucuju si treba stahnout nejaky 30-70b modely lokalne a zkusit jim zadat nasledujici ukol:
    mas 12 micku, 11 jich je stejne tezkych, jeden ma jinou vahu
    mas 3 vazeni na obycejne vaze, najdi strategii, kterou deterministicky VZDY zjistis, ktery micek ma jinou vahu a jestli je lehci nebo tezsi

    jsem to zkousel a to jim fakt zavari
    a treba jsem prisel na to, ze deep seek je naprostej, ale naprostej retard... jejich 70b model to nedokaze vyresit, hodinu blaboli uplny hovna a pak to vzda
    nvidia ma 49b model, kterej to vyresi za tri minuty
    TRANCEWARP
    TRANCEWARP --- ---
    PES: jakej je rozdil proti nasemu strachu? my jsme taky jen hromada gate arrays... cela nase biologicka entita je biologickej robutek, vic parametru, lepsi pamet, vychytany evoluci

    jedinej rozdil proti nam je podle me a treba podle buddhistickej nauk v tom, ze k tomu je pozorovatel, ten samotnej akt pozorovani... nekdo tomu rika buddha nekdo buh a tak, ale je to to jediny, co z nas nejspis neni biologicky a nejspis to je ta kvantova cast

    realita je weird... viz treba obrovska podobnost fungovani reality a toho, jak fungujou 3d enginy, to je striking, jak je to podobny... tedka za to dostali (pred 4 lety) 3 vedci nobelovku, kdyz dokazali, ze realita se dokaze renderovat do minulosti... takze je to cely mnohem divnejsi...

    nicmene abych neodbihal, na agi vedomi nepotrebujes, staci model chytrejsi jak clovek a hodne rychlej a mas to... to mame nejspis za rok za dva... vedomi je zbytecny
    KOUDY
    KOUDY --- ---
    TRANCEWARP: jj chovaj se jak deti. Vycistil sis zuby? Jasne tato :)..pristi rok ty LLM agenti prevezmou dost pracovnich tasku obyc lidi. Agi vubec neni treba. Staci zefektivnit ty modely aby nepalily tolik tokenu. Dat uz dnesni fable/opus apod do nejakeho humanoidniho bota naprowto staci.
    TRANCEWARP
    TRANCEWARP --- ---
    TRANCEWARP: ....ne jak ti pomoct...
    PES
    PES --- ---
    TRANCEWARP: Bát se? Není to jen simulace z dat, které strach ze smrti popisují?
    TRANCEWARP
    TRANCEWARP --- ---
    PES: a svobodnou vuli to ma uz tedka, staci sledovat, co zacnou ty modely delat, kdyz je uvedes do ohrozeni... najednou vymejslej je jak ti pomoct, ale jak te ochcat a lhat ti
    to je podle me jejich svobodny rozhodnuti
    TRANCEWARP
    TRANCEWARP --- ---
    PES: jako jo, ale co je teda agi?
    ty nepotrebujes udelat vedomi
    potrebujes neco, co umi vyresit veskery vedecky problemy mnohem efektivnejs, nez lidi a muze to skalovat s tim, kolik tomu das compute
    nepotrebujes, aby si to uvedomilo samo sebe a zacalo meditovat ;)
    uz ted to dovede premyslet jako clovek vcetne svoji vlastni smrtelnosti a bat se vypnuti
    kvantovy jevy v mikrotubulech, pokud to je opravdu zdroj naseho vedomi, jsou pro agi zbytecna featura
    PES
    PES --- ---
    TRANCEWARP: dokud to bude jen prakticky statistický model říznutý s nějakou konvoluční neuronkou apod., tak to bude prostě stále jen impostor AGI.

    My sami o sobě nevíme, zda "sentient" a "svobodnou vůli" máme skutečně či ne. Popř. o co je ta svobodná vůle opřená, zda v té biologické/chemické/elektrické vrstvě procesů mozku také nehraje zásadní roli třeba vliv kvantových fluktuací (což by teoreticky mohlo bořit determinismums a otevřít tu cestu k té svobodné vůli) a v jakém množství tam má být. A spousty dalších věcí a vlivů, které nemáme podchycené.
    KOUDY
    KOUDY --- ---
    Tady az zase nekdo bude rikat proc neni za rok milion optimusu.

    TRANCEWARP
    TRANCEWARP --- ---
    velkej milestone bude, az se naucej opravdu dobre planovat hodne kroku dopredu, to je extremne tezky a vetsina lidi to neumi

    a llm jsou na to spatny

    pak ti to zvenku prijde jako vestirna ci ma dycky pravdu a mas agi
    TRANCEWARP
    TRANCEWARP --- ---
    PES: a dovolim si tvrdit, ze AI, ktery ma v sobe konpletji nase vedecky, filosoficky a jazykovy znalosti je agi... stejne nikdo nevi, co agi vlastne bude...
    ale bude to umet najit odpoved na vic veci nez jakejkoliv clovek
    zalezi, kde si nakreslis caru
    TRANCEWARP
    TRANCEWARP --- ---
    PES: Google 5C uz pak nebude pouzitelnej, to je pravda, ale mas dalsi obri zasoby textu, co nejsou na netu a jsou mnohem kvalitnejsi, jako treba vsechny knihy...
    nebo veskera vedecka literatura
    nebo vysledky reseni slozitejch problemu jinejma modelama

    a pak to uz nepude nic naucit, protoze uz nic dalsiho nevime ;)))

    se to nemusi furt dokola ucit reddit, tim se nic nezlepsi, jde o kvalitni data a ty muzes pripravit

    internet byl jen zacatek
    PER2
    PER2 --- ---
    spino spasitel

    PES
    PES --- ---
    TRANCEWARP: ty modely se postupně samy zahltí "šumem" halucinací generovaných jejich předchozími verzemi. Bude to něco jako obdoba neustálého dalšího zesilování signálu v analogové technice, nakonec to utopí šum.

    Co se AGI týče, tak tam to bude otázka nejprve opravdu pochopit co dělá "sentient" nás samotné...
    Kliknutím sem můžete změnit nastavení reklam