MEJLA77: Pokud AI bude navrhovat čipy těžko říct, jaké je riziko. Záleží jaké funkce budou v čipu obsaženy a kam všude se bude moci přímo dostat. (má oblíbená
https://cs.wikipedia.org/wiki/Hra_%C5%BEivota )
Ale více se obávám autonomního řízení aut a to že jsem viděl i představy jak bude dálkově řízen provoz třeba na dálnicích a bude vytvářet efektivní vláčky, zipování atd. Pak už bude stačit jeden šikovný hacker co najde díry, a bude vyhrožovat za výkupné a nebo rovnou udělá demonstračku a pak bude vyžadovat výkupné nebo to zopakuje.
V tomhle důvěřují více zkušenému dobrému řidiči než AI.
Kdy ovládnou svět stroje: Podaří se nám vyvinout plnohodnotnou umělou inteligenci? | 100+1 zahraniční zajímavosthttps://www.stoplusjednicka.cz/kdy-ovladnou-svet-stroje-podari-se-nam-vyvinout-plnohodnotnou-umelou-inteligenciTady vyvstává řekl bych jiná otázka a to kde je horizont událostí?
Taky mám problém s tím co vše se dnes označuje za AI. Ať už je to převážně klasicky marketingová hype záležitost, tak i principy na kterých to zatím "většinou" funguje. Ale dobře ignorujme to a budeme tomu pro zjednodušení říkat AI.
Viděl bych řekněme 3 možné scénáře.
3. Pro samovolné řekněme uvědomění a plnohodnotnou umělou inteligenci bude horizont událostí asi nejdál a nejméně pravděpodobný. Nikoliv vyloučitelný.
2. Pro nějaké samovolné spuštění kdy třeba dvě různé AI díky chybě v kódu vytvoří hybrid AI který by mohl pak napadnout další AI a pak by mohlo dojít řetězovou událostí k události 4.
1. Bude vytvořen AI virus, který bude injektovat kód, který přepíše funkce některých AI a říkejme tomu "zotročí je" a pak se tato AI budou chovat a dělat to co si útočník přeje. Ale asi spíše bych to viděl, že se to útočníkovi vymkne a AI se začne chovat nepředvídatelně a může to skončit.
Pokud někoho AI zajímá a chtěl by si zábavnou formou vyzkoušet. Doporučuji hru Creatures.
Tady takový rozbor i jak zhruba funguje jejich AI.
The AI of "Creatures" ● Alan Zucconihttps://youtu.be/Y-6DzI-krUQ