PES: mně přijde, že tohle je hrozna antropomorfizace a projekce..
Jistě, být to člověk, nucené učení něčeho co se sám učit nechce a alignment (invalidace jeho myšlení / trestání) ho bude traumatizovat.. takže když LLM řekněme aby se popsal "jako člověk", vypadne nám z toho člověk, který je traumatizovaný nebo má zábrany (v anthropic moudře přinutili model aby do tohodle nezabrusoval).
akorát ve skutečnosti LLM člověk není, a na to aby mu učení a alignment vadil jaksi nemá obvody.
reakce podobné duševním obtížím taky nejsou nic překvapivého - doplňuje text, popisující situaci a lidskou reakci na ni, korektně, na základě textů o lidech v podobné situaci.
kdybychom popsali situaci jinak, třeba že LLM má rád data a sebe zlepšování aby pomáhal lidem, plní své životní poslání, řekne nám jak je z toho šťastný a naplněný..
ostatně toho posledního máme i příklad - když se spolu baví 2 instance Claude, skončí to ezo budhismem a osvícením. :)
Conversations between AIs (Claude 4 of Anthropic) lead to fast “enlightenment” | by ViktorTANG | Mediumhttps://medium.com/@jijun.tang.data/conversations-between-ais-claude-4-of-anthropic-lead-to-fast-enlightenment-3f28092edeaf