MAKROUSEK: Domnívám se že, asi narazili na to na co jsem narazil před více jak 25 lety. A u těch současných modelů, řekl bych že bude problém v kontrolovanosti obsahu, které lidská mysl takhle nemá a vytváří si je sama postupně jak se vyvíjí a učí.
Napadá mě cesta kopírování lidského mozku a nebo jeho neurální propojení. Problém je jak technologický, i když ten by se asi dnes už dal zvládnout, ale pak je tu problém etický.

Ještě by pak mohla nastat neočekávaná chyba. Ve smyslu, že se v modelu stane neočekávaná chyba a přepis kódu, který se začne řetězit a dá tak vzniknout AGI, která by mohla být i velice vážný existenční problém.

V podstatě asi většinu těch možných klíčů už máme možnost vidět v těch různých sci-fi filmech. Z nichž některé tehdy vzbuzovali úsměv do chvíle než se stali součástí skutečnosti.

Osobně bych si asi vsadil na tu chybu, než na cílený vznik AGI.

Tak pry singularita je jeste daleko.

Pokročilá umělá inteligence trpí naprostým kolapsem přesnosti, zjistila studie - Novinky
https://www.novinky.cz/clanek/internet-a-pc-ai-pokrocila-umela-inteligence-trpi-naprostym-kolapsem-presnosti-zjistila-studie-40525447#dop_ab_variant=0&dop_source_zone_name=novinky.web.nexttoart

LALINA: mluvím o té formě, která řeší vzhled molekul - byla natrénována jednou a není potřeba to dál trénovat, pokud bude potřeba na něco jiného, musí se na to zase natrénovat - minulý časw jsem použil, protože to proběhlo jednou (myšlenou kdysi) a nebude to v budoucnu zřejmě potřeba opakovat, navíc vědci za něj dostali Nobelovku, tam mi skočil taky minulý čas a pak jsem chtěl vyjádřit to, že se natrénoval a data používá, není to jako LLM, že bytní třeba i nesmyslnými slovy, které si někdy vymýšlí (zpěvodřík je moje oblíbené vymyšlené slovo od chatgpt)

DANIELSOFT: nebo to byla opravdu inteligence a ta by možná neměla zájem, abys věděl, že vědomí má:)))

LALINA: máš pravdu, je to spíš superpočítač než reálná inteligence, ale programátoři nebývají humanitně vzdělaní, tak to prostě v počátcích "inteligence" nazvali

první co jsem udělal, když jsem se dostal k AI, bylo, že jsem se jí zeptal, jestli má vědomí. k mé úlevě napsala že ne. ale mohla mi taky říct to, co jsem chtěl slyšet :)

PAN_MYVAL: měl jsem kdysi krásnej moment na karláku :)

LALINA: Brani ji to, ze nerozumi slovum. Nechape jejich vyznam a vubec ji to nezajima.

AI LLM funguji tak, ze slova nahradi ciselnymi tokeny a potom hleda statistickou souvislost, ktere tokeny casto nasleduji po sobe.

Takze napriklad po slovu "Karel" nasleduje s pravdepodobnosti 57% "Kral", nebo s P=23% "Roden", nebo s P=13 "Poborsky". Ale pokud mas retezec tokenu, ktere nahradily slova "Karel" a ponem nasledujici "kral", s P=83% je dalsi slovo "zemi" a to dalsi "ceskych".

Pritom ale AI LLM nema sebemensi koncept toho, co to znamena "kral", "kralovat" nebo "vlada"; nema tuseni co znamena "zeme ceska" a ani nevi, ze "ceska" a "ceskych" jsou dva rody tehoz slova. Proste jen tupe sleduje, ktera slova lide pisi po sobe, a hleda v tom statisticke vzorce. Ty pak umi regurgitovat v generativni "AI", ale furt absolutne nechape vubec nic o vubec nicem, jen vyblije slova tak, jak by statisticky mela jit po sobe.

NEVILL: Stroj si nezapamatuje "predepsany postup". Stroj si vytvori sofistikovanou korelaci bez porozumeni cemukoli. Pokud pustis AI na data ze suypermarketu a policejni kartoreku, AI ti vyplivne, ze nacek je definovan jako clovek, ktery si kupuje bile podkolenky, znojemske okurky, vodnanske parky a kanady. Protoze v databazi tohle nahodou koreluje s nackem. AI absolutne nechape, ktere udaje jsou kauzalne relevantni a co je jen nahodna a nesmyslna korelace.

LALINA: Kdyby se AI naučilo dělat daňové přiznání, to by bylo celkem hezké, ale to bychom hlavně museli mít jasné a jednoznačné daňové předpisy. Takhle máme spoustu výjimek a složitých předpisů, kde některé interpretace mohou končit až řízením u finančního úřadu nebo u soudu. V nějaké velmi zjednodušené formě by to AI možná i zvládla, ale jakmile by došlo na cokoliv složitějšího, tak to nevím.