KEB: Ano, ale pointa je v tom, že i člověk, kterej nikdy neviděl klokana, a běží mu do cesty klokan, je schopen vyhodnotit, že klokan je asi zvíře a že je lepší brzdit/vyhnout se.

Neuronová síť může bejt naučená na bílý kočky a neumět řešit černou kočku...

BOBASH: že by protože, je to moc jiný pohyb než cokoliv jiného. Např lidé se pohybují všichni zhruba stejně, ale asi nic jiného než klokan se jako klokan nehýbe :-D

BOBASH: Tak to sice jo, ale ta povidka neni primarne o tom pristavani, ale spise o chybach pristupu k uceni AI. Srovnavat dopravni problem ze scifi povidky ze 1960's s dopravnim problemem Prazana letos je trosku mimo misu.

Pri tomto tematu se mi vybavila povidka "Ananke" od Stanislawa Lema.

Na Mars, na kterém už jsou vybudovaná dvě střediska, má poprvé přistávat 100 000 tunová loď Ariel řízená počítačem. Bohužel ale počítač těsně před přistáním nahlásí srážku s meteorem a začne znovu startovat do vesmíru, což ale způsobí ztrátu rovnováhy rakety a dojde ke katastrofě. Pirx, který je zrovna tou dobou na Marsu a byl svědkem pádu rakety, je povolán do vyšetřovací komise.

TEAPACK: Tak jasně, tomuhle účelu rozumím.

Ale řekněme, že pokud bych za to dal 200 000 Kč, tak bych očekával, že to něco přinese mě, ne že za ty dvě kila můžu fungovat jako testovací králík... :)

TEAPACK: Tak možná u neuronek už ne, možná ta ignorance byla jen u normálního Front Assistu.

Nicméně pořád si dokážu představit milion způsobů, jak tohle může vést k něčemu, kdy tu neuronku něco "nachytá na švestkách".

Jo a to jsme vůbec ještě nezačali řešit situace, kdy to nikoho nezabije, ale udělá to nějakou jinou pitomost, třeba že se to motá jako ožralý, jede to zbytečně pomalu nebo něco.

Teď, s člověkem 100% ready řešit problém za volantem, je to relativně sranda. Ale když ten člověk 100% ready nebude, tak to bude průser.

A dokud musí být za volantem 100% ready člověk, tak je otázka, k čemu celá ta věc je?

TEAPACK: Ale obecně si rozumíme. Dokud nebude nějaký gAI-based lev5 autonomy, tak se ta neuronovka bude muset učit metodou pokus-omyl. Což bude tím nebezpečnější, čím delší doba uplyne mezi dvěma omylama.

TEAPACK: Tak speciálně věci jako chodec jdoucí po krajnici budou zásadní problém, protože spousta z těch věcí (radar) je nepřesných a kvůli tomu musí nehybný věci do jistý míry ignorovat, jinak by to mohlo brzdit kvůli tomu, že je u silnice strom.

BOBASH: a nebo to musíš vybavit něčím, co pozná chodce i po tmě - například ultrazvuky, termokameru, lidar, nebo kamery s IR přísvitem, ale nic není 100%, protože vždy existuje nějaký scénář, na kterém to nefunguje, nebo má alespoň výrazně sníženou spolehlivost.