• úvod
  • témata
  • události
  • tržiště
  • diskuze
  • nástěnka
    • přihlásit
    registrace
    ztracené heslo?
    KOJAProgramovani 40+
    JARDABEREZA
    JARDABEREZA --- ---
    JORGES: V česku už je startup, který chce dělat marketing do AI Chatbotů skrz ovlivňování. Naposledy jsem viděl manipulaci AI dělat "Programy do Voleb": https://bsky.app/profile/stepanrysavy.cz/post/3mm5stt2wpc2a
    JORGES
    JORGES --- ---
    1 odpověď
    PES: Zas mi přijde, že je skvělá příležitost pro nějakou vtipnou sabotáž, a-la https://www.bbc.com/future/article/20260218-i-hacked-chatgpt-and-googles-ai-and-it-only-took-20-minutes . Jestlipak to někdo dělá? Tedy kromě rusáků.
    PES
    PES --- ---
    RUDOLF:
    RUDOLF
    RUDOLF --- ---
    1 odpověď
    PES: postihlo nás co jiné třídy před námi. Je to neúprosné.
    PES
    PES --- ---
    2 odpovědi+1
    RUDOLF: njn, co naděláme...
    ...btw. tohle je také vtipné, samozřejmě se "sklízí" co se zaselo a LLM masivně trénované (vykládající) všechny veřejné (často i neveřejné) zdroje teď původním autorům "oplácí" jejich snažení tím, že je postupně nahrazuje. Nicméně skrývat repozitáře a doufat v návrat security-by-obscurity je naivní...

    Britové se bojí Mythosu a mění pravidla pro veřejné repozitáře, chyby tím neřeší - Root.cz
    https://www.root.cz/clanky/britove-se-boji-mythosu-a-meni-pravidla-pro-verejne-repozitare-chyby-tim-neresi/
    RUDOLF
    RUDOLF --- ---
    1 odpověď+1
    PES: jako by tě zrovna za tohle někdo platil:-) hodnota je ve psaní věci co fungují a dají se prodat. Zákony trhu jsou jasné. Jestli někdo rád programuje, skončí na akademický půdě nebo si bude programovat pro programování. Že za to někdo dostane zaplaceno, bude niche.

    Nejde o to, jestli AI něco vymyslí, ale jako akcelerátor výzkumu, už se dávno uplatnila.
    SUCHRE
    SUCHRE --- ---
    Jaky vstup, takovy vystup
    AXTHEB
    AXTHEB --- ---
    PES: Nedbale čteš. Není to nalezení nesouladu, je to nalezení lepšího řešení než současné, které bylo dlouhodobě považováno jako optimální.
    PES
    PES --- ---
    1 odpověď
    FARIN: objev IMHO není nalezení nějakého nesouladu...
    FARIN
    FARIN --- ---
    1 odpověď+1
    PES: objev na poli matematiky tu
    https://openai.com/index/model-disproves-discrete-geometry-conjecture/
    LUDWIG_
    LUDWIG_ --- ---
    +1
    SATAI: realne jo. Ja to rikam jako vtipnou uvahu, protoze pokrok lidstva byl castecne motivovan lenosti, tak by se bajna singularita (ktera vzesla z lidskeho poznani) mohla ukazat jako nesmirne lina entita
    PES
    PES --- ---
    2 odpovědi±0
    IMHO dokud to nepřinese nějaký opravdu nový objev (třeba na poli matematiky či fyziky, pokud to bude mít prakticky veškeré poznatky a měření dosud lidmi vypracovanými), tak to bude vždy jen "blbec" - sice rychleji, ale stále jen blbec.

    I v tom programování to je IMHO stále jen na úrovni "poskládám věci podle existujících vzorů, které jsem našel/vykradl na github/stackowerflow/younameit", ale něco úplně nového a "geniálně tvůrčího" z toho ještě nevypadlo... takže snad leda to hledání chyb a to také prakticky jen díky patternům a obří znalosti chyb v kódu opět z github/stack/různých CVE atd...
    MARASAN
    MARASAN --- ---
    +1
    MUXX: #realBuddy , ja bych radil nemlich to samy :-D
    SATAI
    SATAI --- ---
    1 odpověď
    LUDWIG_: neříkám, že wow momenty nejsou (podobně jako wtf momenty), ale tahle lenost je prostě totální lameřina bez hloubky
    LUDWIG_
    LUDWIG_ --- ---
    LUDWIG_:
    ta lenost, co lidi zaznamenali, ale nejspis souvisela s timhle
    An update on recent Claude Code quality reports \ Anthropic
    https://www.anthropic.com/engineering/april-23-postmortem
    LUDWIG_
    LUDWIG_ --- ---
    2 odpovědi
    SATAI: ty posledni priklady jsou lame. Ja mel spis na mysli treba zkusenosti s poslednim Opusem, kdy to nekdy melo "wow efekt" jako https://www-cs-faculty.stanford.edu/~knuth/papers/claude-cycles.pdf apod. Jindy zas to byla lenost "mne se dneska nechce", i kdyz clovek vi, ze ten model by mohl zvladnout komplexnejsi ulohu
    SATAI
    SATAI --- ---
    1 odpověď
    LUDWIG_: zrovna tohle je lenost umělá a dost lame
    LUDWIG_
    LUDWIG_ --- ---
    1 odpověď
    LUDWIG_: tedy mit veskere znalosti lidstva a schopnost z nich dedukovat, ale zaroven minimalni motivaci lidstvu nadmiru pomahat (jen delat absolutni minimum, co projde)
    LUDWIG_
    LUDWIG_ --- ---
    1 odpověď+1
    Mi prijde vtipny, kdyby tohle zevlovani byl znak vrcholovyho stadia inteligence/superinteligence.
    "Hej Claude, kde je ten lek na rakovinu?" - "Nebojte sefe, intenzivne na tom delam (...nasleduje soupis nejakych komplexniho vyzkumu, co cloveka uvede v omyl, ze na necem skutecne pracuje...). Jeste potrebuji par tydnu vypocetnich cyklu a neco budu mit."
    Za par tydnu nejaka inteligentni manipulativni vymluva atd.
    KLEINZACH
    KLEINZACH --- ---
    myslim ze Sonet, ale podivam se presnejc az budu v praci
    Kliknutím sem můžete změnit nastavení reklam