COMODOR_FALKON: Kolik že kilometrů najezdila Tesla s autopilotem bez dohlížejícího řidiče?

Ty zaměňuješ dvě zdánlivě podobný, ale ve skutečnosti naprosto odlišný situace.

Autopilot jedoucí s dohlížejícím člověkem, kde když autopilot neví, tak člověk vyřeší situaci. V tomhle režimu je skutečně Tesla bezpečnější.

Druhá situace je, když tam žádnej takovej člověk není a když autopilot selže nebo neví, tak to stejně musí nějak vyřešit.

COMODOR_FALKON: Ne, Autopilot není bezpečný jako Autopilot plus řidič, Autopiot není schopen řídit sám.

"Pro případ, že by Autopilot nerozpoznal dočasné přeznačení pruhů" – takže když tam ten řidič nebude, tak udělá autopilot co?

Řízení podle kamery: Stejně jako není legální couvat podle kamery, není legální řídit auto podle kamery na dálku (ani podle kamery, radaru a sonaru). A pokud Autopilot neví, tak by operátor musel rozhodnout podle údajů ze senzorů.

Ad dítě: Ano, pokud to dítě pozná. Ale když ho nepozná, nebo špatně vyhodnotí, a nebude tam člověk, kterej by na něj dohlížel, tak ho patrně přejede (nebo naopak pošle auto ze silnice kvůli krabici, nebo udělá něco jinýho).

COMODOR_FALKON: Nevěděli, v přeškolení ze 737 NG na MAX tahle informace nebyla zahrnutá a MCAS tam byl kvůli těžišti vztlaku posunutýmu změnou velikosti a umístění motorů.

A MCAS pracoval jen s jedním AoA senzorem, což byla jedna ze zásadních chyb.

Piloti pak nevěděli, co se děje, a snažili se MCAS "přeprat" beranama, což ale jde těžko, když MCAS ovládá trim výškovky.

Letadlům očividně rozumíš stejně málo jako autům, zkus prosím přestat poučovat lidi, kteří vědí víc než ty, je to už trapný.

Tady si můžeš číst:

https://www.seattletimes.com/...of-mcas-how-boeings-737-max-system-gained-power-and-lost-safeguards/

COMODOR_FALKON: Co bylo na Maxu špatně jsem popsal níže. A problém nebyl v selhání čidel, selhání čidel je normální věc, se kterou si systém musí umět poradit.

Stejně tak si auto, který má být schopno toho, co Musk slibuje (robotickej taxík – tedy schopnost operovat bez posádky na palubě) musí umět poradit se selháním jakéhokoliv senzoru, kterým je vybaveno, stejně jako s jakoukoliv situací způsobenou počasím, provozem, čímkoliv.

Je hezký, že Tesla je díky Autopilotu bezpečnější než normální auto, ale to není o tom, že je Autopilot bezpečnější než řidič.

To je o tom, že Autopilot + řidič je bezpečnější než jen řidič.

Pokud se bavíme o FSD, bavíme se o tom, že tam není řidič. A Autopilot sám o sobě rozhodně bezpečnější než řidič není, protože samostatný funkce ani není schopen.

OMNIHASH: Těch 25 tisíc jsi vzal kde? Boeingy spadly dva...

Problém u 737 MAX nebyl přímo s autopilotem, ale s MCAS, což je něco jako ESP u auta ("sahá" do řízení v případě, že se letadlo dostane do situace, ve který by být nemělo, v tomto případě vysokej úhel náběhu). Problém byl v tom, že v případě selhání jednoho senzoru úhlu náběhu (AoA) neuměl MCAS porovnat údaje z obou dvou, neuměl ani pracovat podle toho druhýho a dokonce ani pilotům neřekl, že tam je nesouhlas.
Druhej problém byl, že piloti nevěděli, že tam ten MCAS je.

Nemohli tedy vyřešit problém tak, jak by vyřešit šel, tedy vypnout MCAS a letět sami.

Teoreticky by k vyřešení problému, který by sice nebylo 100%, ale eliminovalo by velkou část rizika, stačilo dodělat do všech Maxů ukazatel nesouladu AoA senzorů a upozornit piloty, co mají dělat.

DAN_F: Waymo je taky testovací provoz, moc nevěřím tomu, že by tohle prošlo trvale.

A pořád to neřeší to, že nejdřív musí to auto bezpečně zastavit na místě, kde nikoho neohrozí/neomezí.

OMNIHASH: Nejsou 100%, ale jejich cílem je být 100% a když se objeví něco, co se posralo, tak se to řeší.

Viz systémy v letadlech. Spadnou ti dvě letadla, protože blbě zafungoval "asistenční systém" a i když většina fleetu 737 MAX měla ten problém redukovanej tím, že měla příplatkový indikátory AoA senzorů, a ten problém by se s velkou měrou pravděpodobnosti dal vyřešit bulletinem s informací, co dělat, když to začne blbnout, tak se celej fleet uzemnil na víc než rok.

Tolik k zájmovým skupinám a finančním benefitům. Až pár roboaut někoho zabije, bude to vypadat stejně jako se 737 MAX, nebo možná ještě hůř, protože lidi se víc bojej věci, kterou viděj jezdit kolem sebe, než spadlýho letadla v Africe. A velká část veřejnosti bude k autonomním autům EXTRÉMNĚ nepřátelská.

Ad 4) Udělá a neudělá.

AI umí rychleji zpracovávat informace, ale neumí přemýšlet. Ne že přemýšlí hůř, prostě nepřemýšlí. Takže jakmile se setká s něčím, co nebude mít naučený, tak jí veškerej výpočetní výkon je úplně k hovnu, protože nebude vědět.

Proto je na vývoji autonomních aut naprosto nejtěžší krok z level 4 k level 5 – tedy od "po většinu času jezdí auto samo, ale občas potřebuje intervenci člověka" k "furt jezdí samo".

A protože nikdo nikdy neschválí možnost, že by auto ovládal na dálku týpek ze support centra, tak dokud si nebude AI schopná poradit se vším, nebudou žádný autonomní auta.

Level 4 je totiž pořád asistenční systém a žádná autonomie.

Musk mluví o FSD, ale zároveň naznačuje, že tím vlastně myslí něco, co bude Level 3 nebo 4, čili Musk lže.

DZODZO: Nepodstatný.

Člověk se umí chovat jako kretén, AI ne, to víme všichni. Ale člověku se nestane, že bude čumět na bílej náklaďák a nebude vědět, co to je, nebo že zastaví (v lepším případě) uprostřed křižovatky a zavolá někomu, aby ho šel zachránit (teda jo, jednou mi jedna kámoška říkala, že se jí tohle jednou stalo).

Co ale člověk umí a "AI" (protože to není skutečná, tedy general AI) neumí, je poradit si s nečekanou situací. Ty sice nenastávají denně, takže se ajťákovi srovnávajícímu to se statistikou spolehlivosti serverů může zdát, že to není problém, ale on to je problém. Když ti shoří disk v serveru tak (pokud nejsi dodavatel českýho státu co nezálohuje) prostě vyměníš disk, záloha to vyřeší, hotovo. Jeden disk ze sta, pohoda.

Jenomže když ti jeden taxík z tisíce jednou za rok ježdění přejede jen jedno malý dítě, tak to můžeš celý zabalit.