KERRAY: je to pro mě otevřená otázka. Co vím
- kdysi se AI dělala jako tzv expertní systémy, spousta IF ... Then ... . Tam bylo vidět proč algoritmus někam došel
- neuronové site se víc osvědčily. Předložis mnoho vzoru a ohodnocení (jestli na obrázku je např. les, nebo tam není). Algoritmus si sám zkouší ruzné váhy různých prvků a dojde k nějaké úspěšnosti rozpoznání lesa. Ty váhy a prvky dost dobře nejde nějak jednoduše lidsky uchopit (že by ti AI odůvodnila "je to les, protože...")
Zde je to krátké jednoduché kreslené výstižně video
https://youtu.be/R9OHn5ZF4UoNicméně. Když jsem se vyptávala zda se u těch LLM uvažuje do budoucna že by měly kvalitní reasoning, tj dokázaly reflektovat svůj výsledek, jak je "pravdivý", tak nikde jsem nenarazila na odborníka, co by to vyloučil. Čili možná tam nějaké vrstvy na tohle jsou. Nevím.