TRANCEWARP: Techbros už to maj vymyšlený. Totální dohled a trestání řízený AI.
Larry Ellison predicts rise of the modern surveillance state where ‘citizens will be on their best behavior’ | Fortunehttps://fortune.com/2024/09/17/oracle-larry-ellison-surveillance-state-police-ai/Pokud dáš státní AGI jako hlavní hodnotu alignmentu, aby se všichni chovali podle "správných" sociálních norem (a můžou to bejt čínský, socialistický hodnoty, MAGA/ultrakonzervativní hodnoty nebo cokoliv jinýho), tak AGI nedokáže respektovat sekundární cíle jako je blahobyt, svoboda a rozvoj jednotlivce. Všechno podřídí prvotnímu cíli.
Nejde o to, že by se AGI vymkla a vyhubila lidstvo atomovkama, to v dohledný době nehrozí. Ale Xi, Musk, Orbán, Putin, a podobný budou mít nástroj na totální kontrolu populace. Stačí mít dostatek čipů a elektriky.
Už dneska existuje AI, která nerespektuje blaho jednotlivce. Je to AI sociálních sítí. Její algoritmus má jako hlavní hodnotu engagement (=peníze), kterýho dosahuje za cenu poškození mentálního zdraví dnešních generací.