MEJLA77: A promiň asi si reagoval na jeden z mých příspěvků co obsahoval vážné a nebo errory co mě sraly.
Asi jsem se i tak ne úplně srozumitelně vyjádřil. Ono vydolovat a dekódovat to z té mé hlavy není pro mě zase tak jednoduché u tak komplexních věcí. Nejsem odborník, ani to nijak vážně nestuduji, jen jsem se o to hodně zajímal. A sem tam i zajímám v rámci vývoje počítačové hry.
O AI jsem se řekněme začal právě zajímat někdy v dobách W95 a tou hrou Creatures. Kdy ta potvůrka dělala něco co jsem nechtěl aby dělala, a nějak se mi tehdy nedařilo ji to odnaučit. A tak jsem se ji pokusil pohrabat v jejím mozečku a vyhledat příslušnou cestu daného chování a tu odříznout a ta potvůrka pak furt se chodila topit do vody. Nakonec jsem tu hru raději restartoval. Ale taky hodně padala tehdy tak mě to odradilo hrát.
Ale od těch dob jsem začal přemýšlet o tom jak vytvořit AI aby se co nejvíce podobalo lidskému chování v rámci možností daného prostředí. Tedy jen v počítači. A sám jsem si to pojmenoval jako scriptované AI. A beru to jako takový základ od čeho se odpíchnout a jak pak skládat modulárně do složitějších komplexů. (viz ten princip Conweyovy hry života)
Základní parametry tedy kameny AI vs možnosti které tomu umožním vs má nedokonalost že něco zapomenu a udělám chybu. A ta chyba může být i nezjistitelná či přijít z venčí. Třeba drobné zakolísání energie některý z obvodů se nesepne nebo degraduje-defekt-vada součástky a může tak nastat nepředvídatelný kaskádový efekt.
AI samozřejmě nezavrhuji, jen řekněme spíše varuji před jeho klasickým zneužitím a možnou zranitelností z venčí. Je to klasická matematická rovnice či nerovnice Technologie vs Brutální síla.
Určitě nikdy nebudu toužit po plně automatizované domácnosti, raději hezky většinu postaru. Nevidím na tom nic špatného ani zpátečnického.
Pokud AI v dopravě tak jedině jako uzavřené autonomní vozidlové jednotky. I když nenapadá mě jak to v masívním měřítku udělat tak abych tomu dokázal důvěřovat. Omezit možná rizika zneužití a napadení z venčí. Nebyly potřeba telemetrie z jiných zdrojů.
A s rostoucí rychlostí i roste požadavek na vzdálenost co musí AI kontrolovat.
Další a to podstatně významnější dopad, je co s lidmi, když budou nahrazeni stroji a AI? Čím se budou živit? Nebo ještě jinak, ti vyvolení a bohatí, proč by je měli živit a ne se jich jednoduše zbavit? A nastavení tak řízené reprodukce? Planeta není nafukovací a zdroje jsou omezené.
MEJLA77: Etická otázka z mého pohledu nastává ve chvíli kdy si je schopno AI sebe samo uvědomit. Pak se pokud k tomu bude mít parametry bude snažit bránit.
Tohle je skvělé intro video co mě kdysi dostalo:
"Kara" by Quantic Dreamhttps://youtu.be/j-pF56-ZYkYO tom Microsoftu vím, ale pokud se nepletu nebyl jediný. A tam byla za mě nebo si to myslím, že prostě chyba v definici učení. A odhaduji že na základě prioritizace četnosti výskytu. Něco v tom smyslu funguje třeba právě personalizace vyhledávání třeba na Google, což mě neskutečně vysírá.
Stejně jako lidská sebestředná arogance. A asi je jedno jestli tam je strach nebo je ignorován či potlačován. Jak už mnohokráte i historie ukázala, téměř vždy to vedlo k průseru.
Těžko odhadnout jaké možnosti AI může dosáhnout? Ve Star Treku se Data snažil stát člověkem přiblížit se člověku. V Andrew také snažil až se nakonec stal umělým člověkem přijatým do společenství jako jeden z nich. To samé třeba vývoj Cylonů. Terminátor.
Zatím ani pořádně nevíme co je naše vědomí, jak vzniká? A k tomu se pojí i fungování času. A k tomu zase gravitace. A problém hledání svatého grálu ve Fyzice.
Bůh stvořil člověka k obrazu svému. A nebudeme se i my snažit stvořit AI k obrazu našemu? ;)
A jakožto člověk zabývající se hrami a i vývojem v tomto okruhu. Si říkám jestli jen nejsme takovými Simíky nebo kreatůrkami a bůh je jen hráč, který si odskočil třeba na WC. A pro nás to bude tisíciletí a pro něj jen pár minut. ;)