WITTGENSTEIN: přijde mi fascinující, jak reálně zastaralé jsou informace o AI v době, kdy jsou postupně někým zpracovány ve víceméně popularizované formě. Ten článek vyšel na konci ledna, sotva před dvěma týdny, ale informace v něm jsou už opravdu zastaralé.
Aktuální modely už onu Einsteinovu hádanku řešit umí (resp. úlohy na tomto principu postavené). Pochopitelně ne všechny a ne vždy se 100% úspěšností, ale už to není chybovost 95 %, ale spíše úspěšnost 95 % (tohle neber doslova, prosím, skutečnou chybovost neznám, chyby tam určitě budou nadále a stejně jako dříve určitě porostou s komplexitou úkolu, ale to platí nejen o AI).
Přitom princip, díky kterému to mohou řešit, je přitom v článku popsán jako jedna z možností dalšího vývoje (rozdělení na menší úkoly, reasoning, zpětné ověřování...). To, k čemu došli výzkumníci z tebou odkazovaného článku, k tomu došly i týmy, které se na vývoji podílejí a postupně došli také ke stejnému nebo velmi podobnému řešení.
My ve skutečnosti nevíme, jaké jsou reálné limity LLM modelů. My víme, jaká jsou omezení jednotlivých vrstev, dokážeme jakž-takž predikovat, jaká omezení padnou nebo se posunou při kombinaci více vrstev, ale ve chvíli, kdy vrstvy přibývají, tak těch možností je tolik, že prostě nikdo s jistotou neví, co přesně se bude dít.
V tomto ohledu se obávám, že spíše my sami výrazně přeceňujeme to, co označujeme jako lidskou inteligenci. A s tím související invenci a kreativitu. Není inteligence jen velmi vyspělá schopnost rychle řešit statistické modely mnoha možností? Není ta jedinečnost daná jen tím, že daný člověk měl "pouze" větší schopnost rekombinovat to, co viděl, poznal a pochopil? A hlavně dál pak trénoval sám na sobě a zdokonaloval a rekombinoval to, k čemu došel?
Rovnou říkám, že ty otázky v tuhle chvíli nemají odpověď, a když už, tak s velkou pravděpodobností chybnou a zavádějící. S jistotou můžu říct to, že vždy v historii byla tendence aktuální poznání přeceňovat a říkat si, že teď, právě teď, už je to přece jasný, už jsme rozlouskli to pravé poznání a už víme vše důležité. Už můžeme zrušit patentové úřady, zakázat ostatní knihy kromě té naší nejlepší Knihy a spousta dalších omylů a slepých uliček. LLM rozhodně nejsou tou konečnou odpovědí, jak inteligence funguje. Ale rozhodně to je model, který tohle poznání o setsakra velký kus posunul a rozšířil. A hlavně dává výsledky takové, že schopnost mnoha lidí už překonává. Ale to neznamená, že končíme, už nebude zájem o intelektuální práci, umění, cokoli... Parní stroj taky neukončil fyzickou práci, i když schopnosti mnoha lidí (a zvířat) překonal, že jo. A že těch katastrofických předpovědí tehdy bylo...