COMODOR_FALKON: Co bylo na Maxu špatně jsem popsal níže. A problém nebyl v selhání čidel, selhání čidel je normální věc, se kterou si systém musí umět poradit.

Stejně tak si auto, který má být schopno toho, co Musk slibuje (robotickej taxík – tedy schopnost operovat bez posádky na palubě) musí umět poradit se selháním jakéhokoliv senzoru, kterým je vybaveno, stejně jako s jakoukoliv situací způsobenou počasím, provozem, čímkoliv.

Je hezký, že Tesla je díky Autopilotu bezpečnější než normální auto, ale to není o tom, že je Autopilot bezpečnější než řidič.

To je o tom, že Autopilot + řidič je bezpečnější než jen řidič.

Pokud se bavíme o FSD, bavíme se o tom, že tam není řidič. A Autopilot sám o sobě rozhodně bezpečnější než řidič není, protože samostatný funkce ani není schopen.

OMNIHASH: Těch 25 tisíc jsi vzal kde? Boeingy spadly dva...

Problém u 737 MAX nebyl přímo s autopilotem, ale s MCAS, což je něco jako ESP u auta ("sahá" do řízení v případě, že se letadlo dostane do situace, ve který by být nemělo, v tomto případě vysokej úhel náběhu). Problém byl v tom, že v případě selhání jednoho senzoru úhlu náběhu (AoA) neuměl MCAS porovnat údaje z obou dvou, neuměl ani pracovat podle toho druhýho a dokonce ani pilotům neřekl, že tam je nesouhlas.
Druhej problém byl, že piloti nevěděli, že tam ten MCAS je.

Nemohli tedy vyřešit problém tak, jak by vyřešit šel, tedy vypnout MCAS a letět sami.

Teoreticky by k vyřešení problému, který by sice nebylo 100%, ale eliminovalo by velkou část rizika, stačilo dodělat do všech Maxů ukazatel nesouladu AoA senzorů a upozornit piloty, co mají dělat.

DAN_F: Waymo je taky testovací provoz, moc nevěřím tomu, že by tohle prošlo trvale.

A pořád to neřeší to, že nejdřív musí to auto bezpečně zastavit na místě, kde nikoho neohrozí/neomezí.

OMNIHASH: Nejsou 100%, ale jejich cílem je být 100% a když se objeví něco, co se posralo, tak se to řeší.

Viz systémy v letadlech. Spadnou ti dvě letadla, protože blbě zafungoval "asistenční systém" a i když většina fleetu 737 MAX měla ten problém redukovanej tím, že měla příplatkový indikátory AoA senzorů, a ten problém by se s velkou měrou pravděpodobnosti dal vyřešit bulletinem s informací, co dělat, když to začne blbnout, tak se celej fleet uzemnil na víc než rok.

Tolik k zájmovým skupinám a finančním benefitům. Až pár roboaut někoho zabije, bude to vypadat stejně jako se 737 MAX, nebo možná ještě hůř, protože lidi se víc bojej věci, kterou viděj jezdit kolem sebe, než spadlýho letadla v Africe. A velká část veřejnosti bude k autonomním autům EXTRÉMNĚ nepřátelská.

Ad 4) Udělá a neudělá.

AI umí rychleji zpracovávat informace, ale neumí přemýšlet. Ne že přemýšlí hůř, prostě nepřemýšlí. Takže jakmile se setká s něčím, co nebude mít naučený, tak jí veškerej výpočetní výkon je úplně k hovnu, protože nebude vědět.

Proto je na vývoji autonomních aut naprosto nejtěžší krok z level 4 k level 5 – tedy od "po většinu času jezdí auto samo, ale občas potřebuje intervenci člověka" k "furt jezdí samo".

A protože nikdo nikdy neschválí možnost, že by auto ovládal na dálku týpek ze support centra, tak dokud si nebude AI schopná poradit se vším, nebudou žádný autonomní auta.

Level 4 je totiž pořád asistenční systém a žádná autonomie.

Musk mluví o FSD, ale zároveň naznačuje, že tím vlastně myslí něco, co bude Level 3 nebo 4, čili Musk lže.

DZODZO: Nepodstatný.

Člověk se umí chovat jako kretén, AI ne, to víme všichni. Ale člověku se nestane, že bude čumět na bílej náklaďák a nebude vědět, co to je, nebo že zastaví (v lepším případě) uprostřed křižovatky a zavolá někomu, aby ho šel zachránit (teda jo, jednou mi jedna kámoška říkala, že se jí tohle jednou stalo).

Co ale člověk umí a "AI" (protože to není skutečná, tedy general AI) neumí, je poradit si s nečekanou situací. Ty sice nenastávají denně, takže se ajťákovi srovnávajícímu to se statistikou spolehlivosti serverů může zdát, že to není problém, ale on to je problém. Když ti shoří disk v serveru tak (pokud nejsi dodavatel českýho státu co nezálohuje) prostě vyměníš disk, záloha to vyřeší, hotovo. Jeden disk ze sta, pohoda.

Jenomže když ti jeden taxík z tisíce jednou za rok ježdění přejede jen jedno malý dítě, tak to můžeš celý zabalit.

OMNIHASH:
1) Žádná IT věc nefunguje na 100%, proto budou muset být redundantní a mít failsafe systémy, nebo to nikdy nebude fungovat (nebude legální).

2) Bavíme se o fail rate u řízení. Lidskej řidič má rozhodně velmi vysoko nad 99%. Jak často se stane lidskýmu řidiči, že neví/neumí reagovat?

3) Nebudou. Nic takovýho legislativně neprojde, nikdo ti neschválí jako legální to, aby Ind na tisíce kilometrů (a mimo jiný s už patrným zpožděním v komunikaci) řídil dvoutunovou věc na základě údajů z kamer a radaru.

4) Zastavení ze 100 km/h na PRÁZDNÝ rovný silnici je jednoduchej úkol. Ale my se bavíme o situaci, kdy to auto z nějakýho důvodu "přestalo vědět".

Typicky třeba "uvidělo" něco, co neví, co je. Jede 90 km/h po státovce a před ním se objevila věc, která může bejt zajíc, malý dítě nebo kus krabice hnanej větrem. Vzadu auta, vlevo auta, vpravo neví, jestli je něco keř nebo barák. Co udělá? Má necelou vteřinu, než s tím někam praští.

5) Protože to nikdo nepovolí. Podívej se, jak fungujou autopiloty v letadlech, který pracujou s reálně mnohem jednodušším prostředím. Tohle bude mít přibližně stejný bezpečnostní požadavky, protože taky v případě selhání umřou lidi.

Takže je to přesně naopak. Ne "kluci z autobible si myslí", ale "ajťáci si myslí". Ajťáci si myslí, že když jim všechno může fungovat na 99% a stačí to, tak takhle můžou fungovat i auta. Jenomže nemůžou.

Jo a pak je tu ještě poslední věc – to auto musí být schopný všechno níže zmíněný (tedy za všech okolností bezpečně zastavit) udělat i v situaci kdy selže jeden nebo víc kritických systémů. Takže mu třeba odejde jedna nebo víc kamer, odejde mu radar, atd.

Pořád nesmí nikoho ohrozit.

COMODOR_FALKON: Ad ten dispečink – to jsem dal do novýho příspěvku, protože mám pocit, že si ze mě dělá legraci.

Ještě jednou zopakuju:

NENÍ LEGÁLNÍ POUŽÍT COUVACÍ KAMERU JAKO JEDINEJ ZDROJ INFORMACÍ O TOM, KAM JEDEŠ.

Každý auto, který má couvací kameru, ti musí tohle varování zobrazit, a ty by sis správně měl ověřit prostor za autem nějak jinak (jít se podívat).

A ty předpokládáš, že v situaci, kdy auto z nějakýho důvodu zastavilo, protože neví, ho uvede dispečink zpátky do pohybu na základě informací na dálku?

Jak, prohlédne log? V nejlepším případě tam bude mít záznam z kamer a radaru toho auta. Ale není na místě, nevidí, co vidí auto...