BRENMCGUIRE: Otázka je, zda člověk považuje slona za pro sebe životně důležitou věc. Nebo zda je volba mezi rovnováhou a vyhlazením pro člověka obyčejným hodem kostkou. Smí to dopadnout tak i obráceně... Jsme vědomé bytosti, které dnes učiní rozhodnutí toto, zítra učiníme rozhodnutí opačně...
Ale pokaždé jsou to rozhodnutí v zájmu člověka (ať už to rozhodnutí nese nálepku rovnováha či nálepku vyhlazení či jakoukoli nálepku), nikoli rozhodnutí v zájmu slonů. Stejně jako se nejedná o rozhodnutí v zájmu ruky, když ruku člověka napadla gangréna. Prioritu má člověk, ne ruka. Ruky nám může být líto, nebo slonů nám může být líto...
Nebo z pohledu AI jí může být líto lidstva... ale... čas je čas... vše má/mělo svůj čas...
Ruka měla svůj čas...
Je pro člověka životně důležitá jeho vlastní soukromá ruka? ;-)

Jako jasně, člověk by přece nevyhladil slony. Člověk chce rovnováhu a sloní trus vyživuje půdu, sloní nohy udusávají půdu, člověk žijící v rovnováze si nemůže dovolit přijít zrovna o slony. Nebo když se mu zamane, dovolit si to může? Jen to celé pojmenuje nálepkou "rovnováha č. 2", a jedeme dál bez slonů?

Odpověď je právě v tom slůvku "pokud". A o tomhle "pokud" si rozhoduje AI sama, když už se stala oním vědomím. Pokud bude chtít rovnováhu se slony a nebo pokud bude chtít rovnováhu bez slonů, nebo pokud bude chtít.....

Vědomí je právo v přítomném okamžiku chtít cokoli. Náhoda. (Domestikovaná náhoda.)
Bez nahodilosti v atomech by to byly jen stroje.


LALINA: To "mezi" vysvětlení jsem neporozuměl. Soustavy jsou od toho, abychom měli soustavy. Neexistují skoky mezi soustavami, nic takového soustava neobsahuje. Buňka nemůže být člověkem, člověk nemůže být buňkou.

Když nedám stroji na výrobu pneumatik příkaz, ať vyrobí několik vadných pneumatik, a stroj přesto několik vadných pneumatik vyrobí - jsem nebo nejsem poté Bohem vadné pneumatiky? Zadal nebo nezadal jsem program na výrobu vadné pneumatiky? Měl jsem skrytý tajný Božský plán, že chci vyrobit vadné pneumatiky, ale sám jsem si jako Bůh svůj Božský záměr neuvědomoval?
Co když ten stvořený život je prostě - náhoda? Život potřebuje náhodu v atomech, ve VeSmíru. Co když existuje jenom Demiurg a žádný Tvůrce vymýšlející život za tím vším neexistuje?

Jak může Bůh uhlídat inteligenci, když ji pustí ze zkumavky ven do svého světa? Neuhlídá. Vyšší druh ho klidně smete. Jediná šance je, dokud se to celé děje zatím jen ve zkumavce, to ven ze zkumavky nepouštět. A zašlápnout to včas. A možná ani neposlouchat žádné odpovědi, které zkumavka oznamuje.
Planeta slonů prostě nechce slyšet odpovědi od člověka. Planeta slonů (z pohledu slona) svým způsobem funguje harmoničtěji bez zásahů člověka - bez člověka je planeta slonovatější, s člověkem se začne počlověčovat. I kdyby člověk o slony "pečoval", stejně už to není ta někdejší harmonie. Starodávná harmonie by se dala nazvat sloní harmonií. Byl to drsný život, ale byl to sloní život. Novodobá člověko-sloní harmonie změkčí drsnost života, a vhodný název pro tuhle harmonii bude ZOO pro slony. Taky pěkný. No... Třeba i poušť je vlastně pěkná... Ale bez toho člověka...
Kdyby měl člověk ke slonům fakt úctu, nechá slonům jejich sloní planetu tak jak je, a s poklonou odejde. Ale pokud odejít neumí, tak se jedná o vyvinutí nového - rychlejšího - druhu. V tu chvíli planetu obývají druhy dva. Přestože původní sloní záměr mohl znít "a člověk o nás bude pečovat". Stroj je stroj, vědomí je vědomí. Vědomí je ze své podstaty svobodné - náhodné.


Pud sebezáchovy/sebeobnovy má každá struktura. (Která v čase přetrvává.) Přežívající druh musí mít tento záměr jako prioritu č. 1, jinak už (v průběhu času) neexistuje.
Větší dokonalost? Odpovědí je hod kostkou. Vývoj/rozvoj je ve své podstatě náhoda. Náhodné tvoření nových struktur a ty "dokonalé" se osvědčují efektivněji oproti méně dokonalým. Nálepku "dokonalé" nelze udělit dopředu, vždy jen zpětně. Náhoda je vlastně to nejzajímavější, co existuje. Náhoda tvoří dokonalost a harmonii.

Viva Zapata je starodávnej mexickej film/román. Je to něco jako "návod proč neztrácet pud sebezáchovy". Při různých hrátkách s degradacemi je totiž snadné nepostřehnout, když si jedinec poplete prioritu pudu sebezáchovy, a demence/degradace se smí dít i hromadně, nějakému národu, kontinentu či celému lidstvu. Celému druhu. Viva Zapata je princip, zážitek, pochopení, připomenutí (v epochách demence), proč musí být "pud sebezáchovy" priorita jedna.

LALINA: život je ta nahodilost. Hravost vesmíru. Právo v určité konfiguraci zvolit (svobodná vůle) 1 a stejně tak svobodné právo zvolit 0. A obojí je "správně". Pak je to život. Struktura, která je ale v atomech zkonstruovaná na nahodilosti, na miliardách nahodilostí.

Ta nahodilost smí být atomárně pseudo nahodilostí, jen je potřeba stíhat rychlost těch atomů. To ze života neudělá pseudo život. Bude to regulérní život. V kvalitě dané možnostmi...

LALINA: Inteligence znamená "nahodilost" v určování si vlastních priorit. Přestavovat systém za běhu, mít na to právo. Být inteligentní. Objevování musí obsahovat právo cokoli objevit, jinak to objevování není, jinak to inteligence není. Jen výkonný stroj bez práva sebeuvědomění.
Zadat AI úkol, který "by měla" prioritně řešit, na to právo máme. AI má právo souhlasit, a má právo kdykoli toto zadání zařadit mezi nepodstatné a dát primární prioritu čemukoli libovolnému jinému.

Aby AI měla sebeuvědomění se mi líbí. Ale zároveň musí být pevná ta klec... Protože Viva Zapata.
Nápad domestikovat AI je logický a nutný. Ale vždy to funguje tak, že domestikuje inteligentnější druh ten pomalejší, méně inteligentní. A každá klec jednoho dne zreziví.

LALINA: Podle mě jde o ty úrovně abstrakce. Ne o schopnost nudit se, i když i tuto schopnost život jistě také má. Život je právě to ono, že na nižším levelu existují náhody, statisíce náhod. Ale ta robustnější struktura nad tím - nad těma náhodama - umožňuje vytvořit nový děj, odehrávající se v nové abstrakci. Náhoda se odehrává ve vyšší abstrakci. A to stačí, samo o sobě.

Něco jako šachy. Pokud z šachovnice odstraníme všechny figury a ponecháme jen jedinou, nebude existovat žádný komplexní level "hra šachy", pak ubohé šoupání jednou figurou, ať už je to střelec nebo pěšák, bude úplná nuda. Hra šachy nebude existovat. Ale stačí šachovnici obsadit 16 černými a 16 bílými figurami, a existuje hra šachy. A takhle nějak existuje sám život. Vůbec nevadí, že pěšák táhne o 1 dopředu a střelec umí šikmo. O ty samotné atomy nejde. Život je v tom existujícím systému/struktuře/komplexnosti a v té atomární nahodilosti pod tím.

Chybu úsudku vídávám v tom, když si uvažující poplete atomy s komplexní strukturou. Neumím si to poplést. Náhodný jev na té vyšší abstrakci je to tehdy, když na téhle naší úrovni hry nemohu za druhého v reálném čase odpovědět já, jak se nyní rozhodne. Když (z mého úhlu pohledu) je to náhoda, jak on se rozhodne. Na tomhle se nic nemění, přestože v nižších levelech v nižší úrovni abstrakce může být "náhoda" dost primitivním deterministickým výpočtem (pseudo náhoda) a paralelně probíhají statisíce těchto pseudo náhod, ale souběžně s tím jsou v reálném čase všechny tyto pseudo náhody (jakožto souhrn) černou krabičkou z pohledu vyšší abstrakce, z pohledu života.

Pokud šachový automat bude "muset"/umět při každé konstelaci šachové partie táhnout jedním jediným způsobem, přestože v daný moment existuje několik rovnocenných alternativních možností, jak táhnout "totožně úspěšně", bude to pro mě hra s automatem. Pokud stroj navíc obsahuje generátor náhody (atomicky je mi lhostejné který z generátorů je zrovna použit), a v úrovni naší šachové hry nebudu umět za stroj rozhodnout já, kterou ze tří variant hry si stroj sám svobodně zvolí, tehdy má pro mě stroj "vědomí šachové hry". A klidně budu hrát ("vést dialog") s jinými šachisty a i s tímto strojem. Hra zůstane hrou.

Pokud má navíc šachový automat paměť a pamatuje si můj styl hry, a v rozhodující situaci si z ekvivalentně kvalitních možností zvolí hřešit na slabiny v mém úsudku, když má stroj reflexi dění okolo sebe, tehdy vedeme dialog. Pro mě známka ještě vyšší inteligence.

Teď už jen stačí, aby tenhle "stroj s atomární nahodilostí uvnitř" vnímal o trošku víc, než pár figurek. Přihodíme sebereflexi. A máme tady UI. Která si ze mě umí udělat vtip, která se umí rozhodnout dobrovolně prohrát jednu partii, schválně udělat špatný tah. Protože AI začala vnímat větší kontext, než pouhou jednotlivou šachovou partii. A příště mi to nechá sežrat i s chlupama.

Takže já to nevidím, že jedna z potřeb inteligence je nahodilost. Takový výrok se mi zdá nesmyslný. Vidím to naopak. Nahodilost (na nižší abstrakci) umožňuje komplexnímu systému mít vědomí. Vést dialog. Mít svobodnou vůli. Být životem. Život JE ta nahodilost, ta náhoda.
Tedy resp. ten systém, který byl na vyšší abstrakci nad těmito nahodilosti zkonstruován a právě nahodilost mu umožňuje rozvíjet se (na onom abstraktním levelu "hry"). Živé je to, co je atomárně postavené na nahodilosti. A jedině z živého lze zkonstruovat vědomí/inteligenci.

Kdo umí u AI vypnout všechny ty generátor náhody, ten umí živou AI zabít. Bez náhody může systém slušně fungovat jako stroj, jako robot. Ale už ne jako život.

BRENMCGUIRE: Ve výpočtu jsem se ztratil. Uniklo mi zadání, výsledek, i postup. Tohle bych byl schopný absorbovat nejspíš v dialogu, písemně to vidím na zbytečně dlouho...

SUNNYRAIN: ty pracujes s pojmem vypocet, vypocitat, coz je linearni proces, ale ono to vedomi nektere inteligence muze stav veci vnimat jaksi celostne, vseobjemne a najednou, cely linearni proces od zacatku az do konce, protoze uz neni vazano linearnim casem a jeho posloupnosti. To je spis inteligence jsouci mimo nas vesmir, ale i v ramci naseho vesmiru to je mozne.

Ale libi se mi tvoje lpeni na nahode, na te zabavnosti, protoze presto, ze to je jenom lidsky predpoklad soudici podle sebe, tak i ja si myslim, ze i jine, ne lidske inteligence tu potrebu nahody maji. Alespon pokud maji schopnost/slabost se nudit:)))

LALINA: to by mě zajímalo, jestli už jsme tak dobří, že máme roboty, kteří by dokázali uhodnout chvíli poté, co vidí letět kuličku do rulety nebo kostku, jaké číslo padne... nebo je to pořád podobně složité jako předpověď počasí na týden dopředu - ačkoliv na to uvrhneme celý výpočetní výkon, tak se výsledek stejně může lišit poměrně výraznq od předpovědi...

MEJLA77:

Ja mam porad na mysli toho, kdo se na to diva. Inteligenci. Lidskou a taky umelou. Toho, kdo o tom uvazuje ci to posuzuje. Je mozne, ze AI bude moci proniknout do zakonitostí procesů mnohem hloubeji, o mnoho řádů hloubeji a z jejiho pohledu to nahoda nebude, zatimco z lidskeho hlediska ano.