AddAI.Life je česká firma, která vyvíjí virtuální asistenty s umělou inteligencí na míru pro přední české i zahraniční společnosti, potažmo pro jejich zákazníky. Ti se na asistenta mohou obrátit v rámci zákaznického servisu, pokud potřebují něco zjistit či vyřešit. V AddAI staví asistenty zpravidla na AI platformě IBM Watson a z jejich dílny pochází například asistentka Aneta v Air Bank nebo Alzee na zákaznické lince Alza.cz. V poslední době se v souvislosti s AI hodně hovoří také o ChatGPT. Zeptali jsme se, co mají IBM Watson s ChatGPT společného a jaké jsou jejich hlavní odlišnosti. Odpovídali za AddAI Vladimír Bobek, Matyáš Leiský a za IBM Petr Leština.
Co mají IBM Watson a ChatGPT společného?
Matyáš Leiský, AddAI: V obou případech jde o „neuronovou síť – umělou inteligenci – AI natrénovanou jako jazykový model, který má za úkol zpracovat požadavek uživatele pomocí tzv. Natural Language Understanding“ – NLU a „Natural Language Processing“ – NLP. To znamená, že požadavek uživatele porovnává s předem natrénovanými daty a zjišťuje jeho nejpravděpodobnější význam. S tím pak dále pracuje. Zde však již v každém případě trochu jinak. Zatímco ChatGPT generuje vlastní obsah – „Natural Language Generation“ – NLG nezávisle a v podstatě bez možnosti kontroly, IBM Watson provede vždy stejnou, předem definovanou akci podle záměru uživatele, který vyhodnotí jako nejvíce pravděpodobný. Nejčastěji jde o zobrazení určité odpovědi, avšak v kombinaci s dalšími nástroji získává ještě více schopností. Každý z těchto „mozků“ má jiný účel a k němu je uzpůsoben. Mohou se však doplňovat, například pokud IBM Watson naučíme s ChatGPT komunikovat.
Matyáš Leiský, AddAI
V čem jsou hlavní odlišnosti IBM Watson a ChatGPT?
Vladimír Bobek, AddAI: V AddAI dokážeme IBM Watsona propojit s back-endovýmy systémy klienta. Díky nim může mimo jiné komunikovat s uživatelem personalizovaně, například jej oslovovat jménem, nabídnout službu na míru nebo zjistit, jaké služby má aktivní a pracovat s těmito informacemi během dialogu. Odpovědi i výstupní data IBM Watson jsou konzistentní; to znamená, že jako firma vím naprosto přesně, jak asistent odpoví na konkrétní typ dotazu a mohu odpověď či prováděnou akci dle libosti měnit nebo upravovat. Zároveň mám přehled, co uživatelé řeší, s čím mají problémy, co je zajímá. Podle získaných dat mohu například zlepšovat procesy, produkty a zkvalitňovat vztah se zákazníky. Prakticky v přímém přenosu vidím, jak lidé reagují. Je to instantní zpětná vazba, pro firmu mají takové vhledy o jejich zákaznících velkou přidanou hodnotu. Pro nás je navíc zásadní ochrana uživatelů, proto jejich data střeží komplexní bezpečnostní systémy na pozadí. Vzhledem k tomu, že pracujeme i pro banky, je u nás jejich úroveň zabezpečení přirozená.
Watson se rozhoduje podle předem definovaných podmínek. To znamená, že se připravuje specificky pro daný úkol. Bez vývoje a tréningu by byl jen prázdným mozkem, který sice umí přemýšlet, ale neví nad čím.
Proti tomu ChatGPT je tzv. „velký jazykový model“ – „Large Language Model“ – LLM natrénovaný na ohromném množství nejrůznějších textových dat, která jsou veřejně dostupná na internetu. „Přečetl“ miliardy řádků textu a díky tomu dokáže predikovat, které slovo se nejspíše hodí za předchozí. To mu umožňuje samostatně, v reálném čase, generovat celé věty, odstavce i články k téměř jakémukoliv tématu. Výstupy jsou blízké našemu jazyku a znějí přirozeně, jelikož texty, které zná, jsou také napsány lidmi. Sám GPT však dopředu netuší, co odpoví. Řekne, co dává jeho virtuální neuronové síti pro daný dotaz největší smysl, ale nelze ho naučit „správné“ odpovědi podle potřeby.
V tuto chvíli neexistuje prakticky využitelná možnost, jak mít plnou kontrolu nad jeho odpověďmi, proto může být problematické využití ChatGPT jako samostatného řešení pro vývoj zakázkových, business-specific asistentů.
My v AddAI jej však využíváme coby součást našeho řešení, a jsme s ním ve spojení, pokud je potřeba. Řídíme však, na jaké typy dotazů smí odpovídat. Podobným způsobem pracujeme i s dalšími integracemi; díky tomu mají asistenti funkce jako aktuální zprávy, počasí, kurzy měn, tvorba QR kódů a podobně. Rozhodnutí, zda dotaz má směřovat na tyto integrace, však řídí vždy „centrální mozek,“ – zpravidla IBM Watson.
GPT se liší i ve způsobu interakce. Zatímco Watsona můžeme postavit tak, aby se sám aktivně ptal uživatele a řídil konverzaci, GPT je uzpůsoben, aby podal co nejkvalitnější odpověď na jakoukoliv otázku. Již z principu však sám otázky neklade. Jeho tréninková data mají nespočet témat a podle verze také konečné datum, ke kterému byla přidána. ChatGPT nemá přístup k provádění úkonů na internetu, proto například nemůže znát veškeré aktuality. Microsoft, který investoval do OpenAI, společnosti, která za ChatGPT stojí, jej nicméně nedávno integroval do svého vyhledávače Bing. Možnosti použití se tak rozšiřují a přibývají každý den a co dnes v článku tvrdíme, nemusí zítra odpovídat realitě.
Vladimír Bobek, AddAI
Může tedy IBM Watson spolupracovat s ChatGPT?
Vladimír Bobek, AddAI: Ano, technicky máme cestu prokopanou a u několika asistentů již integraci Watson-GPT používáme. Watson rozhodne, s jakým dotazem se obrátí na svého kolegu, kterému zavolá jako příteli na telefonu a poté přetlumočí odpověď.
Mají IBM Watson a ChatGPT něco dalšího společného, kromě toho, že jde v obou případech o nástroje AI?
Matyáš Leiský, AddAI: Ano, obecně můžeme například říci, že umělá inteligence potřebuje data, hodně dat. Učící data jsou pro ni zásadní pro porozumění dotazu i učícím datům jako takovým. Velké jazykové modely například znají nejpravděpodobnější vztahy mezi jednotlivými slovy a větami. To ale vyžaduje mnoho příkladů a lidskou supervizi. Watson i GPT jsou v podstatě simulací neuronů v mozku a dotaz, který jim zadáme proteče přes mnoho vrstev, které jej zkoumají. GPT se sice umí sám učit na základě zpětné vazby uživatelů u konkrétních dotazů, ale za oběma AI enginy ve skutečnosti stojí mnoho a mnoho lidského úsilí a spousta hodin tréninku. Trénink je zásadní součástí kontinuálního vývoje. Živý člověk rozumí lidskému jazyku nakonec nejlépe a zná souvislosti, může umělé inteligenci poradit, co jaké slovo znamená, jaký je význam neurčité věty a tak dále. Bez přispění člověka by se kvalita odpovědí v obou případech mohla zhoršovat a celý koncept by mohl bez učení padnout. Zároveň je dobré vědět, že nesprávným tréninkem je možné mozek přetrénovat a také rozbít.
Společný je pro oba případy i apetit na výpočetní výkon, obzvlášť když se rodí nová verze.
Petr Leština, IBM
Petr Leština, IBM: Watson není jediným produktem v portofilu technologií umělé inteligence. Vedle Watson Assistenta najdeme v katalogu technologie pro vývoj modelů strojového učení – Watson Studio, technologie převodu textu na hlas a naopak – Text-to-Speech a Speech-to-Text, Watson Discovery pro vyhledávní a zpřístupnění informací v nestrukturovaných dokumentech – textové soubory, webové stránky apod. a další.
Podívejme se na jednu ze součástí IBM Watson portfolia, a sice Watson Discovery ve větším detailu. Watson Discovery umí najít informace v nestrukturovaném textu a prostřednictvím Watson Asistenta tyto informace poskytnout koncovému uživateli. Za příklad můžeme vzít digitalizovaný soudní spis. Oproti ChatGPT je jeho výhodou, že tyto informace zůstávají in-house a nejsou vystaveny veřejnosti. Zůstávají tam, kde je informační zdroj a Watson Discovery je pouze interpretuje autentizovanému – oprávněnému žadateli. Data zůstávají u jejich majitele, například onen digitalizovaný soudní spis zůstává na úložišti, které klient určil. Data mohou být navíc maskována a anonymizována. Tento scénář se typicky uplatní například v bankovnicvtví. Když mi chatbot na platformě Watson sdělí zůstatek na účtu, nikde se tato informace neuloží, takže mi nemůže přijít například nabídka na investice, spoření nebo jiné bankovní produkty od Watsona samotného. Watson zde funguje jako „průtokový ohřívač vody“, laicky řečeno. Sděuje pouze to co požadujeme, aby bylo sděleno zpět klientovi.
Můžeme chápat AI od IBM v podobě Watsona jako „odklon“ od tradičních softwarových a hardwarových technologií?
Petr Leština, IBM: IBM zůstává i nadále globálním dodavatelem softwaru i hardwaru a poskytuje globální služby konzultačního rázu.
IBM Watson je příkladem, že „Velká modrá“ už není jen producentem počítačů a hardwaru obecně, kde dominovala, ale stává se také pod brandem IBM Watson lídrem v oblasti produktů pro AI. Mimochodem, IBM Watson přesto stále běží v IBM Cloudu na platformě serverů IBM Power.
Dají se vyjmenovat nějaké vertikální trhy pro nasazení IBM Watson jako AI?
Vladimír Bobek, AddAI: Jistě. Největší poptávku vnímáme v bankovnictví a retailu, prostor pro využití IBM Watson vidíme také například v telekomunikacích nebo energetice. Můžeme to ale vzít i zeširoka a říct, že řešení na bázi IBM Watson je vhodné pro většinu velkých nebo středních společností, které myslí dopředu, kladou si vysoké nároky na dostupnost a bezpečnost svých komunikačních kanálů, mají širokou zákaznickou základnu a uvědomují si důležitost vztahu se zákazníky.
Petr Leština, IBM: Watson a ostatně celá rodina produktů byla koncipována pro všechny segmenty trhu, bez ohledu na konkrétní zaměření nebo velikost. Klienti tak mohou volit produkty a cenové balíčky odpovídající jejich potřebám.