DZODZO: Protože úloha "identifikovat objekt, se kterým mám potenciálně kolizní kurz" je šíleně složitá.

Pokud máš být schopen se reálně pohybovat, musíš vyřadit objekty, který můžou vypadat, že mají kolizní kurz, ale nemají ho (třeba auto, co ti dává přednost, auto v odstavným pruhu, kterým nejedeš) a rozeznat je od objektů, se kterýma by k tý kolizi skutečně došlo.

Podívej se na nějaký video, jak FSD funguje. Běžně dělá věci jako že zkusí najet do protisměru kde jedou auta, nebo že se pokusí trefit obrubník atd.

Pro počítač může bejt "nečekaná situace" něco, co tobě vůbec nepřijde zvláštní, jen to počítač nikdy neviděl. Nějaká banalita tipu: "v protisměru jede tramvaj, za ní vychází po přechodu dva lidi a jeden vede psa, po chodníku se blíží cyklista a za přechodem se rozjíždí dodávka".

Počítač třeba zná situaci, kdy jde jeden člověk a vede dva psy, a není tam tramvaj, ale autobus, ale tohle už je situace, který nerozumí, protože jí neviděl.

(vím, je to velmi zjednodušující, ale snad pochopitelný, co tím chci říct – AI optimisti hrozně antropomorfizujou "uvažování" AI)

TOXICMAN: Jenomže ty se řídit naučíš proto, že umíš myslet.

Počítač neumí myslet, umí jen reagovat podle toho, co ho někdo naučil. A ještě dlouho myslet nebude umět.

Člověk umí instinktivně zareagovat i na situaci, ve který nikdy předtím nebyl, počítač často zareaguje úplně blbě i na situaci jen mírně odlišnou od toho, co zná. Třeba zastaví protože si splete měsíc s oranžovým semaforem.

Nebo nabourá do blikající sanitky.

DZODZO: Automatický přistávání raket z vesmíru je mnohem jednodušší task než odvýzt děti do školky.

TOXICMAN: Tohle není o tom, že by si FSD mohlo postupně všechno natrénovat a pak to bude dobrý.

Aby mohlo řídit samo, muselo by si umět poradit i s nečekanýma situacema, což se natrénovat nedá, na to potřebuješ AGI, a ta není.

Bez toho se dá řešit nějaká velmi jednoduchá úloha s méně proměnnýma – třeba jízda po dálnici, kde není potřeba řešit moc nepředvídaností.

TOXICMAN: Ale ten systém se ani vzdáleně neblíží tomu, aby byl použitelnej.

Spoustě lidí přijde, že je to vlastně jakoby hrozně blízko, protože umí třeba 99% času jet a nenabourat. Jenomže dokud to nebude třeba 99,99999999999999% času, tak je k ničemu, protože ho furt musíš 100% času hlídat.

A každá z těch devítek na desetinnejch místech může vyžadovat víc vývoje než těch prvních 99%.

K nehodám nedochází v situacích, který jsou jednoduchý, ale právě v situacích, který jsou složitý a často neobvyklý. A pokud je ten systém neumí, tak bude zabíjet lidi, což mu nikdo nedovolí, takže ho budeš muset 100% času hlídat, takže je k ničemu.

TOXICMAN: Právě že můžeš.

Když vyřešíš to, aby auto jelo po dálnici samo a řidič mohl přestat nejen držet volant, ale i sledovat silnici, tak jsi přinesl reálnou přidanou hodnotu – vytvoříš člověku čas na to, dělat něco jinýho.

A tohle je reálný dosáhnout v horizontu 1-2 let, některý auta už to víceméně uměj teď.

To, o co se snaží Tesla, je udělat skok k tomu, aby to auto mohlo řídit samo všude. Jenomže to se jí zoufale nedaří – FSD je hezká machrovinka, ale reálně je úplně k ničemu. Nepřináší žádnou výhodu.

ICS: Zdroj dat je Tesla :)

A srovnává to nehodovost při daným počtu kilometrů/mil najetých se zapnutým autopilotem s nehodovostí aut obecně v poměru k najetým kilometrům.

Takže třeba Tesla s autopilotem má 1 nehodu na milion kilometrů (přičemž autopilot funguje jen na dálnici a spíš za hezkýho počasí), kdežto normální auta mají na ten milion 10 nehod. Ale to zahrnuje všechno včetně jízdy v noci na zasněžený okresce (kdy Autopilot prostě nefunguje) nebo řešení složitých situací v křižovatce, kdy Autopilota musíš stejně vypnout.

DAN_F: Tohle je zrovna dost "marketingová statistika" (jinak se tomu říká lež).

Tesly se zapnutým autopilotem mají nižší nehodovost na ujetý kilometry, protože autopilot je obvykle zapnutý v režimech, kdy je nehodovost minimální – typicky na dálnici. Bourá se v komplikovaných situacích, který Autopilot neumí, takže u nich není zapnutej.

A když se podíváš na jakýkoliv video z reálnýho fungování "FSD" ve městě, tak uvidíš, že jakmile to není na dálnici, je naopak FSD mnohem HORŠÍ než průměrnej řidič. Většinou je frekvence případů, kdy musí řidič zasahovat (protože by auto jinak nabouralo) v řádu minut, maximálně velmi nízkých desítek minut (jakože 10-20) mezi zásahama.

Vývojem se to třeba dostane na hodiny... ale pořád to znamená, že to jednou za pár dní udělá botu, která může skončit bouračkou a v horším případě někoho zabít. Což je strašně často, protože pár jich vychytáš a třeba jednou za pár měsíců nějakou nevychytáš...