SATAI: ja bych ještě přidal další faktory - rizika samohybnych aut jsou prostě jiná než u lidí:
- málo pravděpodobné události, ale s drtivým dopadem (Číňani nebo teroristi hacknou Tesla backend a nastane carmagesdon) - tohle je teda částečně možné i u napojených aut, nejen u samořídících.
- jiný charakter rizik vůbec, a jejich nepředvídatelnost. takový to jak nikdy nevíte, kdy začne ChatGPT halucinovat.
- rizika útoku na machine learning viz např
http://blog.hysteria.sk/hackovanie-ai/ - starý článek, ale princip je stejný. najít něco, na čem ta věc nebyla trénovaná a zneužít to.
- rizika neprenositelnosti tréninkových dat (nejen v Americe naučený auta na našich okreskách, ale i naše vs cojavim polský okresky - nikdy nevíte, co tam ten Machine learning vidí, co je pro něj "zatáčka")
- u Elona máme obzvlášť nepěkné zkušenosti se zlou AI, viz grok, že.. myslí si Tesly, že život Elona (a jeho klid na praci) je důležitější než existence Slováků? :)