em, tohle je přesně příklad toho, co mi vadí na matematických důkazech :-))
Calculations Show It'll Be Impossible To Control a Super-Intelligent AI - Slashdot
https://science.slashdot.org/...lculations-show-itll-be-impossible-to-control-a-super-intelligent-ai
jinak se obávám, že mají pravdu, ale důvodem bude jednoduše prostá rychlost a šíře záběr superinteligencí - ne nějaká fatální mystická nesrozumitelnost. s lidskou inteligencí spojenou s vědomím to nic společného mít nebude. bude to jakýkoliv jiný stroj schopný nás převálcovat tím, že se jednoduše vymkne kontrole: nehody způsobené superinteligencemi budou stejného charakteru, jako když se z jeřábu utrhne traverza a spadne někomu na hlavu.