PRAASHEK: Tohle často dělá SD, pokud poměr stran není čtverec. Je to trénované na čtvercích a u jiných poměrů stran si neví rady s tím jak vyplnit prostor.

MAKROUSEK: Jo a ne. "Nejpravděpodobnější" jsou podle nějakého jeho interního modelu. Ale ten model se rozchází s realitou toho, jak se jazyk v praxi používá. V tom uvedeném příkladě by nejspíš pravděpodobnost toho slova "stár" měla reálně být zcela nulová a neměl ho napsat. Tak to myslím.

Zrovna tohle ale už zřejmě opravili :(((

Z uvedeného článku mě pobavilo hlavně toto:

MAKROUSEK: Já bych se mnohem víc spokojil s upřímnou odpovědí třeba "Na takovou otázku neumím odpovědět." nebo "Nerozumím zadané otázkce" nebo v lepším případě "Otázka nevypadá jako smysluplně zkonstruovaná". To by dokázal člověk. Na tomhle je vidět, že je ale optimalizovaný na to být hlavně úslužný a rádoby uctivý a nápomocný a to klidně i za cenu odtrženosti od reality. Může to souviset s použitím RLHF při učení, viz: https://astralcodexten.substack.com/p/perhaps-it-is-a-bad-thing-that-the

KAMAHL: Presne tak. Nedokazu si predstavit, jak by tohle dokazali spravit bez toho, ze by to vybudovali zase cely od zakladu znova.

Rádoby sofistikovaný blábol dovnitř, rádoby sofistikovaný blábol ven

MAKROUSEK: No tak samozřejmě. Ale odhaduje to celkem blbě. :D