„Lidé dnes nevěří ničemu. Ale věří algoritmům.“

Dnešní konference "Future is Personal" byla nabitá myšlenkami, a nejen od Yuvala Harariho. Níže pokus o krátké shrnutí =>

Mluvilo se o AI, odolnosti, demografii, Evropě i leadershipu. Ale hlavně o důvěře. Protože důvěra došla. Důvěra mezi lidmi. Důvěra v instituce. Důvěra v pravdu.

Věříme víc hasičům, než vládě. Data od Solvo Institute to ukázala konkrétně: hasičům a záchranářům Češi věří zhruba na 8,5 z 10, současné vládě na 3,7, sociálním sítím na 3,5.

Důvěra nám podle Harariho umožnila spolupracovat s cizími lidmi a budovat instituce. A právě do ní teď vstupuje AI, která není nástroj, ale agent. To většina lidí stále nechápe! Pro nejmladší generaci se AI stává učitelem, přítelem, někdy i partnerem. Může zasáhnout naši schopnost rozlišit vlastní vůli od manipulace.

Jan Romportl to řekl ještě ostřeji: „AI je největší hack důvěry v historii Homo sapiens.“ Technologicky to nevyřešíme.

Podle Maty Bohacek je AI pendolino, které potřebuje koleje, a my je zatím nemáme. Potřebujeme governance a jasný proces, kdo určuje hodnoty AI systémů. Dnes o tom rozhoduje malá skupina lidí bez transparentnosti a odpovědnosti.

Žádná evropská země navíc není podle Harariho sama dost silná. Buď budeme vazaly technologických velmocí, nebo budeme postupovat společně. Evropské hodnoty a prostředí důvěry přitom nejsou slabost, ale naše konkurenční výhoda.

Jakub Landovský připomněl, že nevíme, jak jsme odolní, dokud nejsme testováni. A že strach je zabiják odolnosti.

Miroslav Barta dodal, že změny přicházejí skokově a spouštěčem bývá maličkost. Nejdřív postupně, a pak najednou. Civilizace nic nezahubí, civilizace ale samy páchají sebevraždy.

I demografie je o důvěře. Loni se u nás narodilo jen 77,8 tisíce dětí, historické minimum, a plodnost klesla na 1,28. Lidé přitom chtějí dvě až tři děti, jak připomněl Aleš Rod. Nechtějí od státu peníze, chtějí bydlení.

Největší otázka dneška tedy není, co dokáže technologie. Ale co ještě dokážeme my?

Leadership se podle Bárty nedá naučit kurzem ani koupit. Začíná ve schopnosti říct pravdu, přiznat, že nevím, jak to bude, převzít odpovědnost a zůstat nablízku lidem kolem sebe.
Protože budoucnost je osobní.

Harari uzavírá: Nejdřív musíme vybudovat důvěru, a teprve potom superinteligenci. Bohužel děláme opak. Prý je na politiku pozdě. S tím ale on nesouhlasí.

Josef Synaptik
asi před hodinou
1 h
·
AI s postupným zdokonalováním řeší jeden doposud neřešitelný matematický problém za druhým, čímž demonstruje své schopnosti a zajišťuje si přízeň lidí, kteří ji využívají i vyvíjí. Problém je, že k těm důkazům lidští matematici nemají přístup, aspoň zatím, protože plně automatická AI je z definice black box. Dají se jí sice vnutit nějaký postupy a člověk získá určitý vhled do toho, co dělá, ale tím se nejspíš oslabí její vlastní schopnost. Někteří vědci/vysokoškolští pedagogové se bojí, že tento překotný trend odradí budoucí studenty od studia matematiky, protože pokrok v oboru způsobený AI bude tak rychlý, že lidi už mu nebudou stíhat rozumět. To, co se bude učit na začátku ročníku jako state of art látka hodná zkoumání a vědecké kariéry, bude ještě před zkouškovým vyřešeno pomocí stroje. Takže panuje obava, že mladí ztratí o studium zájem. Postupně to pak dojde do paradoxního stádia, kdy stroji vpřed posouvaná matemaika bude pokročilejší než kdy v minulosti, ale už tu bude velmi málo lidí, kteří ji budou rozumět. A podobný trend by se dal představit i v jiných technických a přírodovědných disciplínách. Podle mě tohle riziko je reálné, i když se tolik nebojím, že by zájem o přírodní a technické vědy úplně zmizel, protože lidská zvědavost je neukojitelná. Věci ale rozhodně neprospívá další zřetelný trend, že většina z nás přestává číst delší texty, natož knihy a někteří číst už ani nikdy nezačnou. Ne protože by nechtěli, ale protože neudrží pozornost déle než pár minut. K tomu napomáhá dobře známá zahlcenost on-line obsahem, nejhorší jsou prej krátký videa. Tenhle trend může podle mě velmi vážně ohrozit schopnost lidí se vůbec cokoliv naučit, natož sedět několik dní nebo týdnů nad náročnými vědeckými problémy, které vyžadují maximální soustředění. Destrukce lidské pozornosti v kombinaci s nezvladatelnou rychlostí schopností umělé inteligence nemůže pro člověka skončit dobře. Co s tím jiného, než to nějak regulovat, nevím.

+ nový šalomoun

Na počátku bylo slovo. Bude i na konci?
Přestáváme rozumět psanému textu a ztrácíme schopnost hlubokého soustředění. Tento nenápadný úpadek má však fatální společenské důsledky. Co všechno tím riskujeme?

Na počátku bylo slovo. Bude i na konci?
https://jjsalomoun.substack.com/p/na-pocatku-bylo-slovo-bude-i-na-konci?redirect=app-store-no-desktop&inbox=true&;triedRedirect=true