{"code":"ZAUVTV","title":"Lokální agenti: rozpočet, optimalizace a na co si dát pozor","speakers":["NJDZ39"],"submission_type":31,"track":33,"tags":[],"state":"confirmed","abstract":"Zdá se to snadné, stáhnete model, nastartujete llama.cpp, do nastavení agenta zadáme novou adresu a můžeme pracovat. Na internetu je plno tutoriálů, a YouTube plný oslavných videí. Nicméně, oproti provozu lokálních chatbotů, práce s lokálními agenty zahrnuje celou řadu úskalí která nejsou vždy na první pohled patrná.\r\n\r\nProbereme:\r\n\r\n- Na co dávat pozor při volbě modelu\r\n- Které parametry jsou nejdůležitější při volbě HW\r\n- Kdy se nám provoz vyplatí a kdy je lepší platit za tokeny\r\n- Jak nastavit vlastní očekávání","duration":45,"slot_count":1,"attendee_signup_required":null,"attendee_signup_capacity":null,"signup_status":null,"content_locale":"cs","do_not_record":false,"image":null,"resources":[],"slots":[10884],"answers":[254]}