DZODZO: Ano, protože má gigantickej dataset, kterej jí říká tenhle tvar je tenhle text. je to reálně pár ifů. Ten dataset má 50mio obrázků, který jsou předem určený, takže porovnáváš jenom podobnost tvýho obrázku s ostatníma. A i přes to, že to podsebou má Tensorflow, tak to má úspěšnost 4/6. Což je celkem bída.

DZODZO: Vidíš, ale koncept "velká věc co bliká modrýma světlama bude asi překážka" prostě AI vyřešit nedokáže.

Samozřejmě tenhle konkrétní problém Tesla vyřeší, protože doplní FSD o instrukci "když vidíš velkou věc co bliká modrýma světlama, vyhni se jí nebo zastav", ale přijde nějaká další podobně debilní situace, kdy FSD něco nepochopí a někoho zabije.

TOXICMAN: Ne, ale potřebuješ general AI, která umí vnímat v souvislostech a ne reagovat na sled informací jednotlivě.

I když posadíš do auta úplnýho debila, kterej neumí pořádně řídit, tak pravděpodobně nenarazí do blikající sanitky, nejspíš ani kdyby viděl sanitku poprvé, protože mu dojde, že velká nehybná blikající věc by mohla bejt překážka – a pokud alespoň chápe koncept brzdy, tak prostě zastaví.

FSD vidí nějakou věc, který nerozumí, a pokud si jí zařadí do kategorie "věci, kterým nerozumím, a nemůžou mě zabít" místo kategorie "věci, kterým nerozumím a můžou mě zabít", tak to prostě napálí do tý sanitky.

A nejde to řešit tak, že bude preventivně zastavovat/uhýbat kvůli všem věcem, který můžou potenciálně znamenat kolizi, protože potom bude naopak brzdit nebo uhýbat i když nemá a ZASE ZPŮSOBÍ PRŮSER.

DZODZO: Protože úloha "identifikovat objekt, se kterým mám potenciálně kolizní kurz" je šíleně složitá.

Pokud máš být schopen se reálně pohybovat, musíš vyřadit objekty, který můžou vypadat, že mají kolizní kurz, ale nemají ho (třeba auto, co ti dává přednost, auto v odstavným pruhu, kterým nejedeš) a rozeznat je od objektů, se kterýma by k tý kolizi skutečně došlo.

Podívej se na nějaký video, jak FSD funguje. Běžně dělá věci jako že zkusí najet do protisměru kde jedou auta, nebo že se pokusí trefit obrubník atd.

Pro počítač může bejt "nečekaná situace" něco, co tobě vůbec nepřijde zvláštní, jen to počítač nikdy neviděl. Nějaká banalita tipu: "v protisměru jede tramvaj, za ní vychází po přechodu dva lidi a jeden vede psa, po chodníku se blíží cyklista a za přechodem se rozjíždí dodávka".

Počítač třeba zná situaci, kdy jde jeden člověk a vede dva psy, a není tam tramvaj, ale autobus, ale tohle už je situace, který nerozumí, protože jí neviděl.

(vím, je to velmi zjednodušující, ale snad pochopitelný, co tím chci říct – AI optimisti hrozně antropomorfizujou "uvažování" AI)

TOXICMAN: Jenomže ty se řídit naučíš proto, že umíš myslet.

Počítač neumí myslet, umí jen reagovat podle toho, co ho někdo naučil. A ještě dlouho myslet nebude umět.

Člověk umí instinktivně zareagovat i na situaci, ve který nikdy předtím nebyl, počítač často zareaguje úplně blbě i na situaci jen mírně odlišnou od toho, co zná. Třeba zastaví protože si splete měsíc s oranžovým semaforem.

Nebo nabourá do blikající sanitky.

DZODZO: Automatický přistávání raket z vesmíru je mnohem jednodušší task než odvýzt děti do školky.

TOXICMAN: Tohle není o tom, že by si FSD mohlo postupně všechno natrénovat a pak to bude dobrý.

Aby mohlo řídit samo, muselo by si umět poradit i s nečekanýma situacema, což se natrénovat nedá, na to potřebuješ AGI, a ta není.

Bez toho se dá řešit nějaká velmi jednoduchá úloha s méně proměnnýma – třeba jízda po dálnici, kde není potřeba řešit moc nepředvídaností.

TOXICMAN: Ale ten systém se ani vzdáleně neblíží tomu, aby byl použitelnej.

Spoustě lidí přijde, že je to vlastně jakoby hrozně blízko, protože umí třeba 99% času jet a nenabourat. Jenomže dokud to nebude třeba 99,99999999999999% času, tak je k ničemu, protože ho furt musíš 100% času hlídat.

A každá z těch devítek na desetinnejch místech může vyžadovat víc vývoje než těch prvních 99%.

K nehodám nedochází v situacích, který jsou jednoduchý, ale právě v situacích, který jsou složitý a často neobvyklý. A pokud je ten systém neumí, tak bude zabíjet lidi, což mu nikdo nedovolí, takže ho budeš muset 100% času hlídat, takže je k ničemu.