SHEFIK: problém je, že tady neřešíš 1 % usability, ale fatálních nehod.
Poznat, že nevím, je pro ML překvapivě těžká úloha. Je na to celej jeden obor "debuggabilty", a jsou firmy, které řeší jen to (mimo AV např. trustworthy.ai, v AV nevím, jak se to řeší).
Hamtnout na brzdy, když nevíš, není řešení pro každou situaci. Potřebuješ nějaký fail-safe systém, který může být víc low-level, ale musí umět víc, než hamtnout na brzdy.
Kolik promile fatálních nehod budeme akceptovat, je ještě otevřená otázka.

Jako, je jim taky fandím, jenom bych byl střízlivější v tom, jaká je aktuální úroveň poznání, a kolik nám ještě zbývá..

JYRKA: tak valeo pouziva lidar, tak sa nedivim ze je skepticky :) lidar ma pomale vzorkovanie v malom rozliseni, lebo ani najrychlejsie galva ani memsy nevedia ten paprsek vychylovat dostatocne rychlo, imo casom dojdu k nejakej kombinacii lidaru a kamier

MINER: jinak podmnozina muze byt i "undefined" nebo "others" s nejakym triggerem aplikace na brzdy, apod.

takze v pice urcite nebude. problem vyresen, i kdyz mozna ne dokonale ke spokojenosti usera, ale 99% usability bude doruceno a rizika mitigovany

MINER: a to je presne to co se snazim rict ja. tady zazniva ze to jsou startreky a pritom je to firemni tajemstvi. jak teda muzeme my tady na nyxu vedet ceho uz se dosahlo ve firme, ktera leaduje trh, resp. svym zpusobem vytvari uplne novej?

asi tomuhle tematu rozumis vic nez ja, nicmene me prace naucila, ze neresitelny problemy neexistujou. je to vzdycky o metodickym postupu a zdrojich (casovy, financni, technologicky...)

SHEFIK: 2) je jinými slovy, co říkám: pokud vzor učení dobře nereprezentuje podmnožinu klasifikovaného objektu, je Tesla v píče.

A teď jde o to jak často si myslíme, že k tomu bude docházet.

Inženýři, se kterými jsem se bavil (z Tesly se ale bavit nechtěj), říkají, že hlavní challenges jsou: 1) long-tail of edge-cases 2) behavioral prediction of traffic actors reacting to each other in real-time.

Nikdo ale samozřejmě nechce říkat, jak na tom jsou přesně a maj dost limity NDAček, co si dovolí říct. Moc se jich bavit nechce a většina mě přímo odmítla. Kdybyste měl někdo konktakt, pošlete mi plz soukromou zprávu.

MINER:
1) ty ses si jistej tim jaky technicky postupy a jejich kombinace zvolila?
2) pro deep- learning muzes uzivat vzory jako kategorie a pravdepodobnosti nalezitosti ke vzoru, neni to tak, ze kdyz se s tim nesetkala, ze objekt nerozezna, to je mylny tvrzeni
3) oni uz ale pravdepodobne 3d + cas rekonstruuji, staci si k tomu precist par spekulaci.

Tesla Autopilot’s 4D upgrade could lead to more FSD features | TESLARATI
https://www.teslarati.com/tesla-autopilot-4d-upgrade-improvements/amp/

jestli nekdo tahne vyvoj v tomhle ve svete, tak je to tesla a ne nejaka univerzita, nebo malej startup. takze dohadovat se v komunite na nyxu, co je mozny a co neni je imho stejne tak uzitecny jako placat slamu. jel bych nejdriv do silicon valley, mezi top placeny svetovy inzenyry, co prisly s ruznejma zkusebostma z ruznejch odvetvi a pak bych teprv spekuloval, ze neco je a neni mozny

SHEFIK: tohle může platit pro lidary, ale je to slabina právě Tesly – obecně deep-learning metody. Protože ta dokáže vyřešit jenom to, co rozezná. A rozezná jenom to, co je podobné něčemu, s čím se setkala.
Takže úplně v klidu může poznat babku na kriplkáře, ale klauna na chůdách přehlídnout.

MINER: tohle je ale jednoduchej matematickej problem. staci jen generalizovat. to auto nemusi umet vyresit vsechny realny situace. je potreba jen aby umelo vyresit vsechny modelovy zjednoduseni realnejch situaci. a pak je jedno, jestli ti jezdi kolem auta trikolka, suv, nebo babka na karce. ten povel pro auto muze byt vzdycky stejnej - pohybliva prekazka, pribrzdit, uhnout, pokud nejsem schopnej odhadnout drahu, zabrzdim uplne atd.

myslim ze si ten zivot moc komplikujete tim co nejde a nepujde. moc se tesim, az vas Tesla vyvede z omylu a zacnete zit ve startreku

JYRKA: Souhlas, jen simulace neřeší vše. Problém simulace je, že musíš umět popsat nebo vytvořit systém, co umí vytvořit to, co chceš nasimulovat. Je to dobrý na vytváření kombinací odhadnutelných situací pro trénování predikce chování, ale obávám se, že babku honící kachnu na kriplkáře nikoho nasimulovat nenapadlo. A jsou miliony méně bizarních situací. A kolik je takových „černých labutí“?

DZODZO: Nemusis jezdit fyzicky, muzes simulovat. Je to efektivnejsi.
Jinak muj soused samorizeni vyviji ve Valeu. Je skepticky k tomu, ze se v pristich 10 letech povede nasadit tak, aby bylo auto plne autonomni za vsech okolnostech

COMODOR_FALKON: takhle bohužel programování funguje jenom ve Startreku, reálně furt někdo musí přijít a vysvětlit tomu pseudoAI, co ty neidentifikovatelný objekty jsou.

MINER: tak tesla ma na ceste povedzme milion aut, z toho tak tych 500k bude s HW3, takze cisto teoreticky uz tych milion situaci moze mat nazbieranych, maju data z celej flotily, nie z par testovacich aut, ktore jazdia v jednom meste

MINER: Koketuje se ještě s dalšími technikami, jako kombinace deep-learning se symbolic-AI. Ale to je v FSD zatím v plenkách, a pokud vím, tak to Tesla nepoužívá ani v tom novém systému.

DZODZO: operuji s obecnými vlastnostmi, možnostmi, slabinami a limity technik deep-learning a image recognition, které Tesla využívá.

Myslím si, že udělali systém, který teoreticky dokáže být FSD, pokud do toho naliješ data o všech variacích situací, co se autu můžou stát. Ale že potrvá, než budou schopni získat dostatečný množství dat (anotovaných! dat), která ten systém naučí reagovat.

Anotování 1 milonu mil teď stojí asi 1 miliardu dolarů. Tesla dokáže hodně udělat automaticky. Zaměřuje se na situace, kdy řidič převezme řízení. Ale někdo to stejně musí anotovat a předhodit učícímu algoritmu. A i takových situací budou na celém světě miliony.