{"code":"K8X3AA","title":"Self-hosting LLM aneb AI doma, bezpečne a v súkromí","speakers":["Q7MAQ3"],"submission_type":23,"track":27,"tags":[],"state":"confirmed","abstract":"S nástupom malých LLM modelov a open source nástrojmi umožnujúcim ich jednoducho používať a self-hostovať nastala dobe demokratizácie AI. Ak nepotrebujeme absolutne state-of-the-art a obrovske kontexty a výkon platených AI služieb, často si vieme vystačiť so self-hostovaným riešením, ktoré nám navyše zaručuje súkromie, stabilitu a obchádzanie cenzúry.\r\n\r\nV prvej časti tohto workshopu si predstavíme self-hostovanie LLM modelov a ich sprístupnenie cez webové rozhranie, ukážeme aké su možnosti a obmedzenia súčasnych kompaktných modelov v porovnaní s ChatGPT. \r\n\r\nV druhej časti si ukážeme niekoľko utilít a služieb, ktoré využívajú LLM a VLM modely aj inak, ako len na chatbota.\r\n\r\nV tretej časti sa spoločne povenujeme Vašim vlastným návrhom a skúsime vytvoriť aspoň minimálny nástrel funkčnej utility.\r\n\r\nÚčastníci workshopu by si mali priniesť laptop s funkčným Python prostredím, Dockerom a ideálne aj nejaký vlastný originálny nápad na využitie AI .","duration":105,"slot_count":1,"content_locale":"sk","do_not_record":false,"image":null,"resources":[],"slots":[6014],"answers":[198]}