Nový výzkum týmu Sophos X-Ops ukazuje, jak lze zneužít generativní umělou inteligenci k masovému vytváření vysoce cílených politických dezinformačních kampaní. Sophos X-Ops je tým bezpečnostních expertů a výzkumníků hrozeb společnosti Sophos, celosvětového lídra v oblasti inovativních bezpečnostních řešení, která zabraňují kybernetickým útokům.
V uplynulém roce tým Sophos X-Ops zaznamenal, že útočníci pouze s malými finančními investicemi a omezenými dovednostmi využívají umělou inteligenci ke zvýšení rozsahu svých operací. To stejné mohou dělat i ti, kteří chtějí šířit dezinformace. Také s ohledem na to, že rok 2024 je rokem voleb – konají se ve více než 60 zemích světa a očekává se, že k volebním urnám letos zamíří přibližně 2 miliardy voličů, tedy přibližně čtvrtina světové populace.
Vytvářet falešné webové stránky kampaně a poté s využitím digitálních informací o potenciálních obětech šířit vysoce cílené dezinformace prostřednictvím sociálních médií a e-mailů mohou nyní i lidé s omezenými znalostmi kódování. Jak se nepřátelské státy a útočníci stále častěji snaží zasahovat do voleb, jsou tyto schopnosti umělé inteligence velmi znepokojivé.
Studie se zabývá:
Potenciálními způsoby, jakými mohou protivníci využít generativní AI a LLM (velké jazykové modely) k vytvoření tisíců falešných webových stránek s politickým obsahem.
Možnostmi zneužití LLM útočníky k rozsáhlému „mikrotargetingu“, tedy generování dezinformací, které jedinečným způsobem osloví konkrétní osoby.
Nezbytnými ochrannými prvky v nástrojích generativní AI, které by tento typ chování znemožnily.
