OMNIHASH: Těch 25 tisíc jsi vzal kde? Boeingy spadly dva...

Problém u 737 MAX nebyl přímo s autopilotem, ale s MCAS, což je něco jako ESP u auta ("sahá" do řízení v případě, že se letadlo dostane do situace, ve který by být nemělo, v tomto případě vysokej úhel náběhu). Problém byl v tom, že v případě selhání jednoho senzoru úhlu náběhu (AoA) neuměl MCAS porovnat údaje z obou dvou, neuměl ani pracovat podle toho druhýho a dokonce ani pilotům neřekl, že tam je nesouhlas.
Druhej problém byl, že piloti nevěděli, že tam ten MCAS je.

Nemohli tedy vyřešit problém tak, jak by vyřešit šel, tedy vypnout MCAS a letět sami.

Teoreticky by k vyřešení problému, který by sice nebylo 100%, ale eliminovalo by velkou část rizika, stačilo dodělat do všech Maxů ukazatel nesouladu AoA senzorů a upozornit piloty, co mají dělat.

DAN_F: Waymo je taky testovací provoz, moc nevěřím tomu, že by tohle prošlo trvale.

A pořád to neřeší to, že nejdřív musí to auto bezpečně zastavit na místě, kde nikoho neohrozí/neomezí.

OMNIHASH: Nejsou 100%, ale jejich cílem je být 100% a když se objeví něco, co se posralo, tak se to řeší.

Viz systémy v letadlech. Spadnou ti dvě letadla, protože blbě zafungoval "asistenční systém" a i když většina fleetu 737 MAX měla ten problém redukovanej tím, že měla příplatkový indikátory AoA senzorů, a ten problém by se s velkou měrou pravděpodobnosti dal vyřešit bulletinem s informací, co dělat, když to začne blbnout, tak se celej fleet uzemnil na víc než rok.

Tolik k zájmovým skupinám a finančním benefitům. Až pár roboaut někoho zabije, bude to vypadat stejně jako se 737 MAX, nebo možná ještě hůř, protože lidi se víc bojej věci, kterou viděj jezdit kolem sebe, než spadlýho letadla v Africe. A velká část veřejnosti bude k autonomním autům EXTRÉMNĚ nepřátelská.

Ad 4) Udělá a neudělá.

AI umí rychleji zpracovávat informace, ale neumí přemýšlet. Ne že přemýšlí hůř, prostě nepřemýšlí. Takže jakmile se setká s něčím, co nebude mít naučený, tak jí veškerej výpočetní výkon je úplně k hovnu, protože nebude vědět.

Proto je na vývoji autonomních aut naprosto nejtěžší krok z level 4 k level 5 – tedy od "po většinu času jezdí auto samo, ale občas potřebuje intervenci člověka" k "furt jezdí samo".

A protože nikdo nikdy neschválí možnost, že by auto ovládal na dálku týpek ze support centra, tak dokud si nebude AI schopná poradit se vším, nebudou žádný autonomní auta.

Level 4 je totiž pořád asistenční systém a žádná autonomie.

Musk mluví o FSD, ale zároveň naznačuje, že tím vlastně myslí něco, co bude Level 3 nebo 4, čili Musk lže.

DZODZO: Nepodstatný.

Člověk se umí chovat jako kretén, AI ne, to víme všichni. Ale člověku se nestane, že bude čumět na bílej náklaďák a nebude vědět, co to je, nebo že zastaví (v lepším případě) uprostřed křižovatky a zavolá někomu, aby ho šel zachránit (teda jo, jednou mi jedna kámoška říkala, že se jí tohle jednou stalo).

Co ale člověk umí a "AI" (protože to není skutečná, tedy general AI) neumí, je poradit si s nečekanou situací. Ty sice nenastávají denně, takže se ajťákovi srovnávajícímu to se statistikou spolehlivosti serverů může zdát, že to není problém, ale on to je problém. Když ti shoří disk v serveru tak (pokud nejsi dodavatel českýho státu co nezálohuje) prostě vyměníš disk, záloha to vyřeší, hotovo. Jeden disk ze sta, pohoda.

Jenomže když ti jeden taxík z tisíce jednou za rok ježdění přejede jen jedno malý dítě, tak to můžeš celý zabalit.

OMNIHASH:
1) Žádná IT věc nefunguje na 100%, proto budou muset být redundantní a mít failsafe systémy, nebo to nikdy nebude fungovat (nebude legální).

2) Bavíme se o fail rate u řízení. Lidskej řidič má rozhodně velmi vysoko nad 99%. Jak často se stane lidskýmu řidiči, že neví/neumí reagovat?

3) Nebudou. Nic takovýho legislativně neprojde, nikdo ti neschválí jako legální to, aby Ind na tisíce kilometrů (a mimo jiný s už patrným zpožděním v komunikaci) řídil dvoutunovou věc na základě údajů z kamer a radaru.

4) Zastavení ze 100 km/h na PRÁZDNÝ rovný silnici je jednoduchej úkol. Ale my se bavíme o situaci, kdy to auto z nějakýho důvodu "přestalo vědět".

Typicky třeba "uvidělo" něco, co neví, co je. Jede 90 km/h po státovce a před ním se objevila věc, která může bejt zajíc, malý dítě nebo kus krabice hnanej větrem. Vzadu auta, vlevo auta, vpravo neví, jestli je něco keř nebo barák. Co udělá? Má necelou vteřinu, než s tím někam praští.

5) Protože to nikdo nepovolí. Podívej se, jak fungujou autopiloty v letadlech, který pracujou s reálně mnohem jednodušším prostředím. Tohle bude mít přibližně stejný bezpečnostní požadavky, protože taky v případě selhání umřou lidi.

Takže je to přesně naopak. Ne "kluci z autobible si myslí", ale "ajťáci si myslí". Ajťáci si myslí, že když jim všechno může fungovat na 99% a stačí to, tak takhle můžou fungovat i auta. Jenomže nemůžou.

Jo a pak je tu ještě poslední věc – to auto musí být schopný všechno níže zmíněný (tedy za všech okolností bezpečně zastavit) udělat i v situaci kdy selže jeden nebo víc kritických systémů. Takže mu třeba odejde jedna nebo víc kamer, odejde mu radar, atd.

Pořád nesmí nikoho ohrozit.

COMODOR_FALKON: Ad ten dispečink – to jsem dal do novýho příspěvku, protože mám pocit, že si ze mě dělá legraci.

Ještě jednou zopakuju:

NENÍ LEGÁLNÍ POUŽÍT COUVACÍ KAMERU JAKO JEDINEJ ZDROJ INFORMACÍ O TOM, KAM JEDEŠ.

Každý auto, který má couvací kameru, ti musí tohle varování zobrazit, a ty by sis správně měl ověřit prostor za autem nějak jinak (jít se podívat).

A ty předpokládáš, že v situaci, kdy auto z nějakýho důvodu zastavilo, protože neví, ho uvede dispečink zpátky do pohybu na základě informací na dálku?

Jak, prohlédne log? V nejlepším případě tam bude mít záznam z kamer a radaru toho auta. Ale není na místě, nevidí, co vidí auto...

COMODOR_FALKON: Druhá věc je, že Tesla to, co popisuješ, neumí a má k tomu strašně daleko, aby to uměla.

Ono "zastavit a zavolat" není tak jednoduchý, protože:

1) Musí vůbec zjistit, že má problém. To v tuhle chvíli neumí. Je schopná přehlídnout náklaďák a nevědět. A ona musí poznat nejen náklaďák, musí poznat děcko vbíhající do silnice od tašky poletující vzduchem, musí umět zacházet s každou situací jako jsou odrazy něčeho ve skle, kaluže, vodní tříšť od aut vpředu, sníh, déšť, kouř, rozlitej olej na silnici... etc.

2) I když zjistí, že má problém, musí vědět jak a kde má zastavit a jak se tam má dostat. Pokud bychom se bavili o nějakým autonomním mikrotaxíku co se plíží centrem města 30 km/h, tak je to v pohodě, ten prostě zastaví (na což mu stačí pár metrů) a čeká.

My se ale bavíme o autě, který se může ocitnout na státovce v rychlosti 90 km/h nebo taky na dálnici ve 130 km/h. Bezpečně zastavit z vyšší rychlosti není sranda, a už vůbec ne pokud jsi ve složitější situaci.

Třeba vidím pohyb před autem, mohlo by to být dítě, ale taky igelitka odfouklá vzduchem nebo prázdná papírová krabice. Vlevo protijedoucí auta, vpravo to vypadá, že jsou stromy, ale radar to nevidí jistě. Co má to auto dělat, když si není 100% jistý?

Nebo jede po dálnici, najednou vjede do mlhy/vodní tříště za náklaďákem/kouře z hořícího listí. Nevidí kolem sebe. Zastavit přímo před sebe? Mířit na krajnici?

Etc., tohle jsou jen dva náhodný případy.

A to nemůžeš to odbýt tím, že to jsou případy, který se stanou zřídka. Ano, intenzivně jezdícímu autu (nebo řidiči) se stanou třeba jednou, dvakrát za rok. Takže to auto jednou, dvakrát za rok nejspíš někoho zabije.

COMODOR_FALKON: Čeho počítáš to 1%? Jestli 1% možných situací, tak to nepřejede ani Prahu, aniž by to někde zastavilo. Jestli 1% jízd, tak ti bude permanentně po Praze stát 1% taxíků a čekat.

Jedno procento je STRAŠLIVĚ MOC.