Nasadzovanie jazykových modelov (LLMs) do produkcie

FBE Bratislava s.r.o.

Popis kurzu

Obsah kurzu

Trendy vo využití AI

• LLM, GenAI, prompting, evaluácia modelov, finetuning, tokeny.

Open-source modely vs verejné APIs

• Porovnanie výhod a rizík oboch prístupov.

• Licenčné a nákladové aspekty.

Architektúra a infraštruktúra pre nasadenie

• Možnosti nasadenia: on-prem, cloud, hybrid.

• Streaming, parsovanie, scaling a deployment AI modelov.

Cenové aspekty AI riešení

• Vysvetlenie nákladov na hardware, správu a ľudské zdroje.

• Cenníkové modely AI API služieb.

Príklady implementácie z praxe

• Ukážky vývoja a nasadenia AI features.

• Od nápadu po monitoring: analýza a sumarizácia dokumentov, ChatBoty.

• Prepojenie na Model Context Protocol (MCP) a iné firemné systémy.

Cieľová skupina

Firmy, ktoré chcú integrovať AI do svojich produktov, manažéri a technickí špecialisti hľadajúci praktické riešenia pre nasadenie LLMs, developeri a data inženieri pracujúci na AI riešeniach

Hodnotenie