Pri tomto tematu se mi vybavila povidka "Ananke" od Stanislawa Lema.

Na Mars, na kterém už jsou vybudovaná dvě střediska, má poprvé přistávat 100 000 tunová loď Ariel řízená počítačem. Bohužel ale počítač těsně před přistáním nahlásí srážku s meteorem a začne znovu startovat do vesmíru, což ale způsobí ztrátu rovnováhy rakety a dojde ke katastrofě. Pirx, který je zrovna tou dobou na Marsu a byl svědkem pádu rakety, je povolán do vyšetřovací komise.

TEAPACK: Tak jasně, tomuhle účelu rozumím.

Ale řekněme, že pokud bych za to dal 200 000 Kč, tak bych očekával, že to něco přinese mě, ne že za ty dvě kila můžu fungovat jako testovací králík... :)

TEAPACK: Tak možná u neuronek už ne, možná ta ignorance byla jen u normálního Front Assistu.

Nicméně pořád si dokážu představit milion způsobů, jak tohle může vést k něčemu, kdy tu neuronku něco "nachytá na švestkách".

Jo a to jsme vůbec ještě nezačali řešit situace, kdy to nikoho nezabije, ale udělá to nějakou jinou pitomost, třeba že se to motá jako ožralý, jede to zbytečně pomalu nebo něco.

Teď, s člověkem 100% ready řešit problém za volantem, je to relativně sranda. Ale když ten člověk 100% ready nebude, tak to bude průser.

A dokud musí být za volantem 100% ready člověk, tak je otázka, k čemu celá ta věc je?

TEAPACK: Ale obecně si rozumíme. Dokud nebude nějaký gAI-based lev5 autonomy, tak se ta neuronovka bude muset učit metodou pokus-omyl. Což bude tím nebezpečnější, čím delší doba uplyne mezi dvěma omylama.

TEAPACK: Tak speciálně věci jako chodec jdoucí po krajnici budou zásadní problém, protože spousta z těch věcí (radar) je nepřesných a kvůli tomu musí nehybný věci do jistý míry ignorovat, jinak by to mohlo brzdit kvůli tomu, že je u silnice strom.

BOBASH: a nebo to musíš vybavit něčím, co pozná chodce i po tmě - například ultrazvuky, termokameru, lidar, nebo kamery s IR přísvitem, ale nic není 100%, protože vždy existuje nějaký scénář, na kterém to nefunguje, nebo má alespoň výrazně sníženou spolehlivost.

BOBASH: Tohle se nejlíp vyzkouší na vlastních neuronkách, když k tomu ještě dostáváš nalejvárnu od někoho, kdo je dělá. Já to měl dva roky na magisterskym a na konci už to byla taková magie, že jsem byl rád, že jsem z toho nemusel dělat zkoušku.

tady je celkem pěkný video o tom, jak přidělali neuronovku na BD psíka a ta neuronovka ho real-time učí chodit na různých površích...
AI teaches a robot how to learn to walk - Futurity
https://www.futurity.org/robots-walking-artificial-intelligence-learning-2595822/

Což nádherně ukazuje možnosti rychlé adaptace pomocí neuronovek, ale zároveň je to ukázka, že se nejdřív musí něco dít jinak (špatně) a neuronovka na to zareaguje (pokud to má dovoleno), což jsou přesně ty dvě věci, které v automotive nikdo nedovolí jinde, než na testovacím parkovišti, ale spíše to stejně budou jen syntetické testy v počítači ze záznamů, protože safety issues... =/

TEAPACK: Nemáš nějakej link, nebo nenapsal bys víc k tomu, proč neuronovka dělá tyhle faily? Já to tak nějak intuitivně chápu na základě toho, co jsem o tom jednak četl a druhak viděl v praxi (jak auta, tak třeba překládání), ale hodilo by se víc infa.