Generativní umělá inteligence (GenAI) v oblasti kybernetické bezpečnosti je dvousečná zbraň. Na jedné straně může sloužit jako mocný nástroj při ochraně IT prostředí, na straně druhé přináší také nové problémy, protože ji kyberzločinci využívají k vytváření a provádění nových typů útoku. GenAI se neustále vyvíjí a rozvíjí. S tím stoupá i její dopad – jak na kybernetickou bezpečnost, tak na počítačovou kriminalitu.
Manažeři IT si velmi dobře uvědomují, že GenAI má schopnost chránit i napadat jejich systémy – podle naší studie Global Data Protection Index (GDPI) se 52 % respondentů domnívá, že GenAI poskytne kybernetické bezpečnosti jejich podniku výhodu, zatímco 27 % věří, že GenAI zpočátku poskytne výhodu naopak kybernetickým zločincům.
Není pochyb o tom, že GenAI bude mít významný dopad na prostředí kybernetických hrozeb a na budoucí požadavky na ochranu dat, přičemž dodavatelé bezpečnostních řešení již zkoumají, jak ji mohou využít ve svých produktech do budoucna. Očekává se, že globální trh s umělou inteligencí v kybernetické bezpečnosti vzroste do roku 2028 na 60,6 miliardy dolarů. Pokroky v oblasti GenAI se promítají i do změn v oblasti bezpečnosti. Manažeři IT a bezpečnosti proto musí jednat rychle a začlenit GenAI do svého arzenálu kybernetické obrany, jinak riskují, že je zavalí vlna kybernetických útoků využívajících právě GenAI.
Je zřejmé, že v sázce je mnoho. Jak tedy mohou manažeři IT využít potenciál GenAI k posílení své strategie kybernetické bezpečnosti?
Pochopení útoků podporovaných GenAI a odstranění implicitní důvěry
Aby GenAI sloužila k posílení kybernetické bezpečnosti, a ne jako zbraň kyberzločinců, musí CIO v rámci své strategie pochopit, jak je GenAI využívána ke zdokonalování a provádění útoků na všech úrovních, od zařízení po data a uživatele.
Tradiční metody preventivní kybernetické bezpečnosti se z velké části zaměřovaly na ochranu perimetru, kde bezpečnostní rámec pracoval s konceptem trusted known (důvěryhodný známý) uvnitř perimetru (zaměstnanci, partneři) a untrusted unknown (nedůvěryhodný neznámý) mimo něj (hackeři a jiné nepřátelské entity). Stále dokonalejší metody sociálního inženýrství vylepšené GenAI, jako jsou podvodné e-maily nebo falešný hlas a video (tzv. deepfake), však umožňují útočníkům vstoupit do sítě pod rouškou trusted known a získat přístup k celému systému podniku.
Odstranění implicitní důvěryhodnosti zavedením modelu Zero Trust (tzv. nulové důvěry) může úspěšným hackerům zabránit v dalším pohybu v podnikové síti a implementace modelů strojového učení (ML) do bezpečnostních architektur zlepší schopnost detekovat anomálie a potenciální hrozby v reálném čase. Například zaměstnanec, který přistupuje k e-mailům, může být po určité době vyzván k provedení dvoufaktorového ověření, aby mu byl přístup obnoven. To znamená, že kterémukoli uživateli může být individuálně odepřen přístup k určitému systému v reálném čase.
Neustálým sledováním chování uživatelů a síťové aktivity posilují modely Zero Trust řízené GenAI celkovou úroveň zabezpečení podniku a zajišťují, že přístupová oprávnění jsou dynamicky upravována na základě posouzení rizik v reálném čase.
Využití GenAI k potlačení potenciálních útoků, zlepšení reakce na incidenty a usnadnění obnovy
GenAI a automatizace v oblasti kybernetické bezpečnosti nabízí schopnost adaptace a predikce a tím překonává systémy založené na pravidlech. Díky tomu, že se GenAI neustále učí analýzou obrovského množství bezpečnostních dat a algoritmy strojového učení identifikují anomální chování a předpovídají potenciální hrozby v reálném čase, mohou týmy kybernetické bezpečnosti reagovat na hrozby aktivně. Detekuje-li GenAI anomálie v síťovém provozu nebo podezřelý obsah e-mailů, může se poučit o typu hrozby a na základě toho lépe předpovídat budoucí útoky a odhalovat zranitelnosti.
Manažeři IT však musí pochopit, že se nejedná o neprůstřelné řešení a že ke kybernetickým útokům může stále docházet. Avšak v případě, že některý uspěje, automatizace řízená umělou inteligencí může zmírnit jeho dopady. Automatizace s využitím umělé inteligence zefektivňuje detekci hrozeb a reakci na ně a umožňuje tak rychlejší a komplexnější zotavení po bezpečnostním incidentu, což snižuje negativní dopady na celou organizaci. Nástroje umělé inteligence a strojového učení mohou podnikům poskytnout jistotu, že po kybernetickém útoku budou schopné rychle a s jistotou obnovit svá nejdůležitější data, systémy a normální provoz. Toho je dosaženo detekcí, diagnostikou a urychlením obnovy dat s pomocí Dell Cyber Vault, tedy trezoru pro kybernetickou obnovu, izolovaného úložiště všech důležitých podnikových dat a systémů.
Podle průzkumu Dell GDPI se 75 % dotázaných subjektů domnívá, že jejich stávající opatření na ochranu dat se nedokážou vyrovnat s hrozbami ransomwaru, a 69 % si není jisto, že by se dokázaly spolehlivě zotavit z ničivého kybernetického útoku. Manažeři IT by měli k posílení schopnosti reagovat na incidenty využívat AI analýzu, která umožňuje rychlejší identifikaci zdroje a rozsahu narušení a urychluje proces obnovy.
Vzdělávání pracovníků zvyšuje ostražitost
Pokud jde o sociální inženýrství a útoky založené na podvodech, zaměstnanci jsou jednou z nejvýznamnějších obranných linií. Nejčastější příčinou kybernetických bezpečnostních incidentů bývá lidská chyba. Manažeři IT proto musí investovat do komplexních vzdělávacích programů v oblasti kybernetické bezpečnosti a vybavit tak zaměstnance znalostmi a dovednostmi nezbytnými k rozpoznání potenciálních hrozeb a reakci na ně. To zahrnuje tipy, jak odhalit pokusy o podvod s využitím GenAI. A naopak lze GenAI využít v rámci podniku ke zvýšení efektivity školení zaměstnanců personalizací na základě pracovních rolí, dřívějšího chování a běžných hrozeb, se kterými se mohou setkat.
S rozvojem éry GenAI se bude symbiotický vztah mezi umělou inteligencí a kybernetickou bezpečností nadále vyvíjet. Tváří v tvář dynamickému vývoji bezpečnostních hrozeb musí manažeři IT využít potenciál GenAI a zároveň se chránit proti nebezpečí, které představuje na druhé straně barikády. V tomto složitém prostředí budou muset podniky využívat technologie, lidské zdroje a procesy, které posílí kybernetickou odolnost celé organizace.
Autor: David Průša, Data Protection Solution System Engineer ve společnosti Dell Technologies
