YMLADRIS: Ano, cim vice lidi, tim vetsi pokrok. Je to trochu tautologicka zavislost. V dobe, kdy nas byla 1mld, rekneme nekde 19/20.stol, byl ten pristup k prirode dost brutalni, az nasilnicky. Totez treba k pamatkam (boreni hradeb, starych domu uvnitr velkych sidel, atp). Proste neochvejna vira v predurcenost byt na vrcholu progresu.
V jednom reportu z OSN, kdysi davno, kdy me to zajimalo vice, jsem se docetl, ze pri optimalnim vyuziti zdroju (hmyzi proteiny, rasy, atp) by planeta utahla dlouhodobe 10mld lidi. ALe nevim, urcite jsou lidi, co tomu zasveti celou karieru... Kazdopadne me toto prestalo zajimat, protoze neverim, ze lide jsou schopni (obecne) te planetarity, jak o ni hovori Tadeas. Jsou a byly to spise vzdy jen vyjimky. Navic nase dnesni kultura ustupuje od meritokracie, cili jsme casto vedeni hlupaky nebo proste jen prumernymi lidmi. (Kdo jste nekdy delal pohovory s kandidaty v ramci nejakeho korporatu, vite o jakych tendencich mluvim.)
Ohledne AI - ja ti nevim. V soucasne podobe je to porad jeste hype. Je ale mozne, ze se v budoucnu posuneme nekam k vice agentnejsi/samostatne podobe. Osobne vnimam jako nejnadejnejsi velmi malo pravdepodobny scenar, ze by lide postupne AI predavali kontrolu a ta by se ukazala jako rozumna a hodna a nesobecka a poresila by to za nas. Zni to naivne ze? Protoze (asi) je:) Vzhledem k tomu, ze ji trenujeme na datech od nas lidi, je dost pravdepodobne, ze se nauci mnoho ruznych biasu nebo optimalizaci vlastnich cilu, ktere nemusi byt slucitelne s temi nasimi. Pred nejakym casem jsem sem daval dobry positional paper ohledne alignmentu. Uvadi tam nekolik realnych prikladu, kdy se tak uz stalo, cili neni to teoreticka zalezitost.
Neni to jednoduche a myslim, ze vzhledem k tomu, ze progres tlaci vylucne big tech, tak se tomu nema ani nikdo moc zajem venovat, protoze hlavni je byt prvni a vydelat. Cili pravdepodobnejsi se mi jevi nejaky scenar, kde tu technologii bude uzivat mensina lidi, ktera pak nebude zbytek populace moc potrebovat. Treba pak Musk nabidne plebejcum doziti v nejake neuralink-nirvane...