Zpět na program

Lokální agenti: rozpočet, optimalizace a na co si dát pozor

Neděle 8. 11. 2026, 12:30–13:15 Živě

Místnost D105

Sekce: Otevřená společnost, komunity a data

Jazyk: Česky 🇨🇿

Ohodnotit přednášku

Zdá se to snadné, stáhnete model, nastartujete llama.cpp, do nastavení agenta zadáme novou adresu a můžeme pracovat. Na internetu je plno tutoriálů, a YouTube plný oslavných videí. Nicméně, oproti provozu lokálních chatbotů, práce s lokálními agenty zahrnuje celou řadu úskalí která nejsou vždy na první pohled patrná.

Probereme:

  • Na co dávat pozor při volbě modelu
  • Které parametry jsou nejdůležitější při volbě HW
  • Kdy se nám provoz vyplatí a kdy je lepší platit za tokeny
  • Jak nastavit vlastní očekávání
Jiri Podivin

Jiri Podivin

I have been interested in AI for a long time, including language model applications.

I have been working as an engineer at Red Hat for the last 5 years, and most recently on the Log Detective project.

In my free time, I enjoy museums, obscure literature and strategy games.