Portfolio zaměřené na umělou inteligenci staví na Red Hat OpenShift Data Science; modely a aplikace umělé inteligence jsou díky tomu připravené k nasazení do produkčního prostředí.
Red Hat představil nové možnosti pro Red Hat OpenShift AI. Tato vylepšení podle firmy využívají a rozšiřují funkce Red Hat OpenShift a Red Hat OpenShift Data Science, přičemž poskytují specialistům zodpovědným za provoz IT konzistentní a škálovatelný základ založený na open source technologiích, a zároveň přináší specializovaný partnerský ekosystém pro datové vědce a vývojáře, který jim umožňuje podchytit inovace v oblasti AI. Vývojářům nabízí jednotné řešení pro školení, obsluhu, monitorování a správu životního cyklu AI/ML modelů a aplikací, od experimentů až po zavedení do produkce. Red Hat OpenShift AI je základem generativních služeb umělé inteligence IBM watsonx.ai, platformy umělé inteligence IBM určené ke škálování inteligentních aplikací a služeb ve všech oblastech podniku, které podporují novou generaci základních modelů.
Vzhledem k tomu, že velké jazykové modely (Large Language Models, LLM) jako GPT-4 a LLaMA jsou stále běžnější, zkoumají výzkumníci a vývojáři aplikací způsoby, jak tyto a další základní modely využít. Zákazníci mohou doladit komerční nebo open source modely pomocí dat specifických pro danou oblast, aby byly přesnější pro jejich konkrétní způsob použití. Počáteční trénink modelů umělé inteligence je velmi náročný na infrastrukturu a vyžaduje specializované platformy a nástroje ještě předtím, než vstoupí do hry obsluha, ladění a správa modelu. Bez platformy, která dokáže tyto požadavky splnit, jsou organizace často omezeny v možnostech, jak mohou AI/ML skutečně využívat.
OpenShift AI tyto problémy řeší, když poskytuje konzistentní infrastrukturu pro trénink, nasazení a vyvozování závěrů.
AI pro otevřený hybridní cloud
Red Hat OpenShift AI pomáhá odstranit mnohé překážky tím, že poskytuje standardizovaný základ pro vytváření produkčních modelů AI/ML i pro provoz výsledných aplikací. OpenShift AI nabízí konzistenci, snadné použití a možnosti nasazení od cloudu po okraj sítě v rámci platformy Red Hat OpenShift. Platformní inženýři mohou vytvářet škálovatelné konfigurace podle potřeb svých datových vědců a vývojářů. OpenShift AI lze použít k vyladění stávajících modelů, což šetří počáteční náklady na trénování modelů, zrychluje dosažení výsledků a rozšiřuje využití AI i mimo specializované datové vědce.
Red Hat OpenShift AI poskytuje několik možností propojení s nabídkami technologických partnerů, jako jsou Anaconda, IBM Watson Studio, Intel OpenVINO a AI Analytics Toolkit, NVIDIA AI Enterprise a Starburst. V rámci ekosystému OpenShift navíc poskytuje přístup k dalším 30 certifikovaným partnerům pro AI/ML.
Zákazníci se specifickými regulačními požadavky, včetně izolovaných a odpojených prostředí, mohou s pomocí OpenShift AI připravovat data a vyvíjet, trénovat i nasazovat modely v lokálním prostředí. Navíc lze pomocí stejných konzistentních nástrojů a rozhraní vyvíjet modely ve veřejném cloudu a nasazovat je lokálně nebo na okraji sítě, což poskytuje hybridní prostředí MLOps umožňující spolupráci mezi provozem IT, datovými vědci a vývojáři aplikací.
Mezi klíčová vylepšení Red Hat OpenShift AI patří:
• Deployment pipelines pro sledování experimentů s AI/ML a automatizovaných pracovních postupů ML, které pomáhá datovým vědcům a vývojářům inteligentních aplikací rychleji iterovat projekty strojového učení a využít automatizaci při nasazování i aktualizacích aplikací.
• Model serving nyní zahrnuje podporu GPU pro odvozování závěrů a vlastní model serving runtimes, které zvyšují výkon inference a zlepšují nasazení základních modelů.
• Monitorování modelu, které umožňuje organizacím řídit výkonnostní a provozní metriky z centralizovaného řídicího panelu.
OpenShift AI podporuje IBM watsonx a Ansible Lightspeed
Red Hat OpenShift AI poskytuje základ pro nejnovější pokroky IBM v oblasti umělé inteligence, včetně IBM Watson Code Assistant, a poskytuje tak organizaci IT a týmům vývojářů umělou inteligenci pro konkrétní oblast využití.
Ansible Lightspeed přináší do Ansible výkon IBM Watson Code Assistant a umožňuje uživatelům všech úrovní dovedností psát Ansible Playbooks s doporučeními generovanými umělou inteligencí. Ansible Lightspeed zvyšuje produktivitu uživatelů Ansible a umožňuje jim vytvářet Ansible Playbook pomocí příkazů v anglickém jazyce bez ohledu na jejich úroveň znalostí automatizace.