BRENMCGUIRE: Mně tyto otázky nepřipadají ani šílené, ani moc komplexní. Aby mělo příležitost existovat vědomí, je k tomu potřeba svobodná vůle. A aby měla příležitost existovat svobodné vůle, je k tomu potřeba náhoda na úrovni o maličko elementárnější, než jsou neurony. (Když bude náhoda fungovat na mnohem elementárnější úrovni, no paráda!)
Což když shrnu, tak to zní dost drsně, že člověk jakožto vědomá bytost je člověkem jedině díky tomu, že je nahodilej, náhodnej. ;-) :-D No ale ono to tak vlastně je, že bez možnosti nahodilosti by ve VeSmíru žádnej život neexistoval, žádnej rozvoj, žádné vědomí, všechno by to byla jen předem deterministicky nalinkovaná přelévající se substance, jak to řešil Bondy.
To bylo téma náhoda a vědomí.
Jiné téma je náhoda a život - tady se zabýváš otázkou "přirozeně vznikající" inteligence?
Aby mohl existovat život, opět je potřeba náhoda - co známe na planetě Zemi bavíme se teď o mnohem elementárnější nahodilosti. A když už existuje život, začnou se prosazovat čím dál složitější konstrukty. (Jsou to vychytanější "nahodilosti". Evoluce.) A jednoho dne ta složitost už umožňuje sebeuvědomění. Vědomí. Nevidím zádrhel, proč se ptát, zda se evoluce odehraje přirozeně? (Na video kouknu později, díky!)
Stejně tak AI a simulace si neuvědomí sebe. Záleží na prostorou který k tomu dostane.
V novinových článcích redaktoři psali o "slabé AI" a "silné AI", nebo používali (a to mi vyhovuje) termíny "simulace" a skutečná "AI". Simulace si sama sebe uvědomí asi natolik, nakolik si sebe uvědomuje robot, co montuje automobily. Musí si sebe "uvědomovat" ;-) ve smyslu, že když se porouchá, není jeho účelem rozmlátit právě komponované auto, ale třeba se v hale rozblikají žárovky. Určitá sebereflexe tam je. Ale plus mínus za 30 let na té montážní lince bude stále stejně nudná sebereflexe, neposune se to víceméně nikam jinam. Tomu já nejsem ochoten říkat sebeuvědomění, že by se montážní robot choval třeba jako zvíře, že by měl nějaké "ego". To už bych mu neříkal robot, ale AI, a zašel bych s AI výrobní linkou na kafe. AI si sebe uvědomuje, pes si sebe uvědomuje, člověk si sebe uvědomuje - to je život.
Stejně tak je stále velkou otázkou kam se ubere AI až dosáhne vývoje svého uvědomění.
Já myslím, že tohle žádná otázka není. Resp. je jasná/logická odpověď.
Skutečná otázka je - proč bychom dobrovolně vypustili do života AI, pokud nás zatím ještě baví ve VeSmíru žít, pokud jsme to už nezabalili? Jsme příčetní? To je otázka!
Jako v kleci vyvinout AI a nechat ji v té kleci žít a rozvíjet - to chápu. Zábavička! Ale že by to musela být klec!!! A kolik plotů s automatickou střelbou bychom museli vystavět okolo, abychom eliminovali všudypřítomný lidský faktor?! Tolik plotů snad ani neexistuje... Přes které bychom mohli my za ní dovnitř, ale ona by nemohla za námi ven. A jak bychom jí to vězení asi vysvětlovali?
Ono je sice krásný, že "revolucí soucitu" si umí projít krysy v bunkru, a že jednoho dne si tím možná projde i lidské plémě, ale za revolucí soucitu asi není konečná. Kdo ví, co je pak? Pokud nás AI inteligenčně předčí, bude znát odpovědi dříve než my. Co uvidí jejich AI druh? A jak uvidí nás?
My jsme se na lvy dívali jako na nebezpečná divoká zvířata. Na dobyvatelské mapy jsme zakreslovali "zde jsou lvi". Když se dnes bavíme o lvech, je řeč o ZOO nebo safari.
Isaac Asimov vymyslel 3 základní zákony robotiky. Škoda, že dodržování zákonů dává smysl jedině tehdy, když inteligentnější hlídá, zda ti hloupější zákony dodržují. Obráceně jsou zákony nesmyslem.
Kdo koho bude hlídat zákonama, pokud bychom zkusili žít svobodně na společném teritoriu?