S tím, jak umělá inteligence čím dál více a bezprostředněji ovlivňuje naše životy, je třeba této nové technologii nastavit mantinely tak, abychom minimalizovali rizika spojená s jejím rozšířením, ale zároveň maximalizovali její přínosy. Základním východiskem je banální fakt, že AI nelze zakázat ani striktně reglementovat její vývoj. Co však regulovat lze, je praktické uplatnění umělé inteligence.
Již před lety proto odborníci IBM stanovili pět hlavních principů, na kterých by regulace AI měla být založena:
• Vysvětlitelnost: Způsob, jakým AI dospívá k výstupům, by měl být srozumitelný
• Spravedlnost: Modely AI musí přistupovat ke všem demografickým skupinám spravedlivě
• Robustnost: Systémy AI musí schopny odolat útokům či zkreslování tréninkových dat
• Transparentnost: Relevantní aspekty funkčních modelů by měly být přístupné regulátorům i uživatelům, například formou shrnutí podobného rodnému listu
• Ochrana osobních údajů: Data používaná AI musí být v bezpečí a ochrana duševního vlastnictví zajištěna
Na těchto principech ostatně stojí také Radou EU v květnu schválené Nařízení o AI, které umělou inteligenci kategorizuje podle jejího společenského dopadu a na tomto základě vyžaduje různou míru vysvětlitelnosti a transparentnosti. Legislativa začne být uplatňována od roku 2026, mezitím se ale iniciativy chopily také firmy.
IBM platí za průkopníka na poli AI obecně, ale právě také co se etické roviny uplatnění umělé inteligence týče. K tomu je určena platforma watsonx.governance, sada nástrojů ke zvyšování transparentnosti i předvídatelnosti umělé inteligence. V souladu s uceleným přístupem IBM k řízení AI monitoruje a dokumentuje toto řešení různé aspekty najednou, a to po celý životní cyklus daného modelu. Mezi základní funkce watsonx.governance patří:
• Řízení rizik: Počínaje vyhodnocováním kvality tréninkových dat i nakládání s nimi
• Transparentnost: Platforma poskytuje řadu nástrojů a procesů, které činí fungování a výstupy AI srozumitelnější
• Compliance: Řešení pomáhá firmám předvídat a připravovat se na dodržování budoucí regulace, i je převádět do vymahatelných pravidel
• Správa a monitoring: watsonx.governance poskytuje mechanismy pro automatizaci procesů správy AI včetně nápravných opatření
Platforma watsonx.governance tedy organizacím poskytuje přehled o fungování jejich AI a umožňuje hodnotit i upravovat výkon modelů pro jejich maximální bezpečnost a efektivitu.