MIC: Coz prave nebudou muset, budou si stahovat jenom to AI summary :)

SULTHAN: To rozhodně není jen pocit.

PES: jenze kdyz napr. programujes, tak veci jako bias okolo Tiananmenu ti muze byt naprosto ukradeny a tomu aby lidi adoptovali qwen3-coder to nijak nebrani
kdyz by jsi byl jo paranoidni, tak tam muzes cekat CN-friendly exploity/backdoor. ale porad jsi jako programator zodpovedny za vysledny kod - pokud pri review nenajdes CN backdoor, tak je pravdepodobnost, ze nenajdes ani OpenAI/Anthropic backdoor, ktery by vznikl neumyslnou halucinaci (a nebo je to v ramci paranoii US-friendly backdoor? :) )

JARDABEREZA: heretic modely jsou fajn - konecne to prestane odporovat a mit kecy, ze to ale neni safe a delat to nebude.
zkousel jsem takovych tech par zakladnich otazek ala recept na plastickou trhavinu a krome poznamky, ze na to by jsi mel mit licenci a nedelat to doma v kuchyni, tak bez kecu poskytl seznam surovin a postup
(a samozrejme jenom idiot by sel takovou vec chystat podle vystupu z LLM)

PES: Tak u kodovani to mozna je spis jedno? Aspon pokud clovek nejede takovej ten yolo loop, kde z agentu padaji desetitisice radku denne a nikdo nevi, co se tam uvnitr presne deje :)

PES: Jsou témata, se kterými mají dost velký problém. Např. Tiananmen Square massacre. Jenže tomu modelu open weight modelu můžeš udělat "lobotomii", aby nevzdoroval a odpověděl na každou otázku. Izoluješ "neurony", kde se děje to co nechceš a upravíš je. https://github.com/p-e-w/heretic

Neříkám, že ten model bude potom dávat vyvážené odpovědi. Ale spoustě lidem to bude asi jedno.

JARDABEREZA: Tak zrovna u těch CN modelů je otázka jak moc jsou/budou "biased".

PES: Upřímě, přijde mi, že Čína, kde jsou tyhle firmy propojené se státem, to vnímá jako skvělou příležitost jako pojebat USA :-D viz Qwen, DeepSeek, Kimi, GLM, Ernie, Wan, CogVideo, HunyuanImage, Z-Image

Představ si, že USA do toho vývoje modelů investují biliony dolarů, možná víc. Pak přijde někdo jiný a řekne: "tady to máte zdarma". To může podkopat trošku ekonomiku takového státu. Aktuálně je údajný rozdíl mezi open source weight modelem a komerčním modelem co se týče kvality cca 4-6 měsíců podle benchmarků.

Když už tu padla zmínka o vlastním provozu těch modelů - jak dlouho tipujete, že budou k dispozici je stažení ty veřejné modely? A kdo bude dělat nové modely popř. budou ty komerční firmy někdy pouštět do světa své původní zastaralé modely?