{"code":"NLRQDF","title":"Jak na lokální AI modely","speakers":["PVUNWU"],"submission_type":23,"track":24,"tags":[],"state":"confirmed","abstract":"Naučíte se spouštět a používat lokální, otevřené LLM na svém počítači. Od uživatelského ovládání (Ollama) až po jednoduché skriptování v Pythonu. Bez cloudu, s důrazem na soukromí a praktické využití v DIY projektech a homelabech. Nebude zde žádný prompt engineering ani zoo nástrojů. Místo toho nahlédnutí pod pokličku, principy, malé skripty a use case.\r\n\r\nCo si odnesete:\r\n1) Spustíte lokální LLM přes Ollama – text-to-text, image-to-text.\r\n2) Napíšete krátké python skripty proti Ollama API a i bez něj (PyTorch) – jednoduchý chat a generování obrázků pomocí diffusion modelů.\r\n3) Propojíte LLM s dalšími nástroji (např. OCR pipeline).\r\n4) Zkusíte si tool-calling (agent se schopností volat nástroje).\r\n5) Porozumíte základním konceptům LLM a limitům HW.\r\n\r\nWorkshop je určený pro začátečníky v problematice AI, kteří chtějí lokální řešení pro vlastní projekty. \r\nÚčast je možná aktivně – budete si vše zkoušet na vlastním laptopu, případně pasivně – vše také ukážu na projektoru.\r\n\r\n## Požadavky a instrukce\r\nChcete-li se workshopu účastnit aktivně:\r\n* Minimum 16 GB RAM, doporučeno 32 GB, případně diskrétní GPU. \r\n* Dostatek místa na disku: při práci s většími LLM lehce zmizí 50 GB.\r\n* OS: Linux/Mac/WSL2, znalost vlastního OS a možnost instalace nástrojů.\r\n* Základní znalosti skriptování v bashi a pythonu a funkční python prostředí.\r\n* Plná baterie v laptopu.\r\n\r\n### Předinstalujte si závislosti a stáhněte modely\r\nUšetříte čas na workshopu. Instrukce: https://github.com/dolmoch/local-ai-workshop","duration":105,"slot_count":1,"content_locale":"cs","do_not_record":false,"image":"https://talks.openalt.cz/media/openalt-2025/submissions/NLRQDF/aitalk_Cs1paXi.png","resources":[],"slots":[6004],"answers":[203]}