Pořízení chatbota se často prodává jako jednorázová investice. Realita je jiná. Náklady na provoz tvoří hned několik položek a jejich podcenění dokáže firmu nepříjemně překvapit. Kdo plánuje nasazení chatbota, měl by si nejdřív spočítat, kolik ho bude stát každý měsíc, ne jen kolik zaplatí za vývoj.

Největší průběžnou položkou bývá volání API velkých jazykových modelů. Platí se za tokeny, tedy za objem vstupního a výstupního textu. Cena za tisíc tokenů se může zdát nízká, ale při tisících konverzací denně se částka vyšplhá do desítek tisíc korun měsíčně. Záleží na zvoleném modelu, délce odpovědí a tom, jak často bot sahá do firemních dat. Pokud chcete mít představu, jak takový bot vzniká a co obnáší jeho provoz, projděte si praktický návod na stavbu chatbota, který rozebírá jednotlivé kroky od návrhu po nasazení. K tomu se přidávají náklady na hosting, databázi a případné integrace na CRM nebo helpdesk.

Samostatnou kapitolou je jazyk. Čeština patří mezi jazyky, které modely zvládají hůř než angličtinu. Odpovědi bývají delší, spotřebují víc tokenů a častěji potřebují korekci. Chce to kvalitní česká data, dobře napsané instrukce a testování na reálných dotazech. Někdy se vyplatí najmout jazykového editora, který výstupy kontroluje a ladí tón komunikace. Bez toho začne bot odpovídat kostrbatě a zákazníci přestanou věřit, že mají co do činění s rozumnou firmou.

Údržba je položka, na kterou se zapomíná nejčastěji. Model se časem mění, ceny API kolísají, firemní produkty a ceníky se vyvíjejí. Někdo musí pravidelně aktualizovat znalostní bázi, sledovat logy a řešit, proč bot na určité dotazy odpovídá špatně. Reálně to znamená několik hodin práce měsíčně, u větších botů klidně desítky. Celkově se provoz chatbota ve firmě pohybuje od několika tisíc korun měsíčně u malého řešení až po statisíce u rozsáhlého nasazení s integracemi. Vyplatí se počítat s rezervou a sledovat spotřebu průběžně, ne až na konci roku.