COMODOR_FALKON: On i u lidaru systém dneska ví, že neví, ale tu situaci potřebuješ pořád řešit, mají-li ta auta být skutečně autonomní. Waymo to v tuhle chvíli řeší napojením na operátora, který vstoupí do procesu nikoliv prostřednictvím manual override, jak tu někým bylo v minulosti navrhováno, ale "vysvětlením" vzniklé situace řídícímu systému, který si pak už se situací poradí sám. Což jde ale realizovat jen v dost omezené škále a řešení zákonitě předchází zastavení / odstavení vozidla do doby vyřešení. Aby mohla autonomní doprava fungovat v masovém měřítku, musí nejdřív AI dosáhnout takové úrovně, aby dokázala zastoupit toho lidského operátora. Na druhou stranu, Level 3 je beztak v tuhle chvíli a stavu společnosti víc než dost.

napriklad s takouto situaciou by si podla mna neporadila ani AI, ale zasa na druhu stranu AI by si to nestradovala 240km/h, lebo to vyhodnoti ako reckless :)

Car crash with 240 km/h caught on GoPro (German Autobahn)
https://www.youtube.com/watch?v=uBZOdEXY5ec

FORTRESS: Oh please. Tohle má s autonomním řízením a umělou inteligencí společného asi tolik, jako hlasová navigace v současných VW, kterou jsi sem nedávno postoval jako "důkaz", jak je na tom autonomie špatně :)

MINER: Přesně tak. Tesla bude po té aktualizaci možná těsně splňovat kritéria Levelu 3, což je velký posun a dle definice lze na taková vozidla nahlížet, za určitých podmínek, jako na autonomní, nicméně L4 nebo L5 to ještě nebude.

COMODOR_FALKON: zkus se zeptat, co je těžší lidí, co to řeší, a proč začali lidarama a kamery jedou až poslední roky.

Rozebrat video v reálném čase na všechny objekty, které ho tvoří a rekonstruovanat je do 3D a zaznamenat změny v čase s chybovostí blízkou nule, na palubním počítači, není úplně snadný.

DZODZO: exponenciální growth inovací nedokážeš předpovědět.
Může se to stát, ale nemusí. Nikdy nevíš, kdy ta inovace přijde.
Povídat by mohli výzkumníci jaderné fůze, která už je od 60. let konstantně 30 let od nasazení. Prostě nevíme.

FSD je technicky menší problém, ale stejně ještě nevíme...

MINER: nedokazem vycislit Pi do konce a presto mu rikame Pi... dulezitej neni pohled nerda (bez urazky) ale trhu, protoze ta firma existuje pro to, aby uspokojila poptavku, ne aby vyresila ML hlavolam.

jinak system nemusi vedet ze nevi, stavi mit v training mnozine nakej dummy "others", kam ti to vsechno spadne a ty to napodminkujes. a ano, uznavam, ze je to slozitejsi, ale nechi tu psat romany

MINER: jinak já souhlasím, že to je řešitelný, jen říkám, že si myslím, že ne v příštích letech, a doufám v dekádu.

SHEFIK: Zcela jistě to není if then else.
"Then" má několik možností mezi kterými někdo musí rozhodnout, což jde blbě, když nevíš.
A neuvažuješ variantu, že systém neví, že neví.

Fail-safe, může být i, že řízení převezme řidič. Ale pak to IMHO není FSD.

Teď čtu, že Musí říkal, že používá ten systém: "Almost at zero interventions between home & work."

Takže jde o to, čemu říkáš FSD.

Tohle asi releasnou, ale několikrát za cestu do práce budeš muset převzít řízení. A budeš to muset dozorovat.
Skvělej pokrok, ale tomuhle FSD neříkám.

SHEFIK: problém je, že tady neřešíš 1 % usability, ale fatálních nehod.
Poznat, že nevím, je pro ML překvapivě těžká úloha. Je na to celej jeden obor "debuggabilty", a jsou firmy, které řeší jen to (mimo AV např. trustworthy.ai, v AV nevím, jak se to řeší).
Hamtnout na brzdy, když nevíš, není řešení pro každou situaci. Potřebuješ nějaký fail-safe systém, který může být víc low-level, ale musí umět víc, než hamtnout na brzdy.
Kolik promile fatálních nehod budeme akceptovat, je ještě otevřená otázka.

Jako, je jim taky fandím, jenom bych byl střízlivější v tom, jaká je aktuální úroveň poznání, a kolik nám ještě zbývá..

JYRKA: tak valeo pouziva lidar, tak sa nedivim ze je skepticky :) lidar ma pomale vzorkovanie v malom rozliseni, lebo ani najrychlejsie galva ani memsy nevedia ten paprsek vychylovat dostatocne rychlo, imo casom dojdu k nejakej kombinacii lidaru a kamier

MINER: jinak podmnozina muze byt i "undefined" nebo "others" s nejakym triggerem aplikace na brzdy, apod.

takze v pice urcite nebude. problem vyresen, i kdyz mozna ne dokonale ke spokojenosti usera, ale 99% usability bude doruceno a rizika mitigovany

MINER: a to je presne to co se snazim rict ja. tady zazniva ze to jsou startreky a pritom je to firemni tajemstvi. jak teda muzeme my tady na nyxu vedet ceho uz se dosahlo ve firme, ktera leaduje trh, resp. svym zpusobem vytvari uplne novej?

asi tomuhle tematu rozumis vic nez ja, nicmene me prace naucila, ze neresitelny problemy neexistujou. je to vzdycky o metodickym postupu a zdrojich (casovy, financni, technologicky...)

SHEFIK: 2) je jinými slovy, co říkám: pokud vzor učení dobře nereprezentuje podmnožinu klasifikovaného objektu, je Tesla v píče.

A teď jde o to jak často si myslíme, že k tomu bude docházet.

Inženýři, se kterými jsem se bavil (z Tesly se ale bavit nechtěj), říkají, že hlavní challenges jsou: 1) long-tail of edge-cases 2) behavioral prediction of traffic actors reacting to each other in real-time.

Nikdo ale samozřejmě nechce říkat, jak na tom jsou přesně a maj dost limity NDAček, co si dovolí říct. Moc se jich bavit nechce a většina mě přímo odmítla. Kdybyste měl někdo konktakt, pošlete mi plz soukromou zprávu.