Spojené státy v úterý oznámily, že ve spolupráci s kanadskými a nizozemskými úřady narušily síť falešných účtů, která za pomoci umělé inteligence (AI) šířila ruskou propagandu na sociální síti X. Operaci tvořilo téměř 1000 účtů napojených na agenta ruské tajné služby FSB a také na státní televizi RT, uvedlo americké ministerstvo spravedlnosti. Síť podle něj cílila na USA i střední Evropu.
Americký Federální úřad pro vyšetřování (FBI) v rámci zásahu proti „farmě botů“ zabavil dvě domény, které správci falešných účtů použili k registraci e-mailových adres při jejich vytvoření. „Dnešní kroky představují premiéru, pokud jde o narušení Ruskem podporované farmy botů na sociálních sítích využívající generativní AI,“ komentoval vývoj šéf FBI Christopher Wray.
Deník The Washington Post (WP) poznamenal, že vlády v poslední době čím dál více využívají umělou inteligenci ve snaze šířit svá sdělení ve větším rozsahu a s větší důvěryhodností. Zásah proti ruské síti je ale podle něj neobvyklý tím, že Američané a jejich partneři ji spojují s FSB a televizí RT, dříve známou jako Russia Today.
Fungování vlivové operace podrobně popisuje tisková zpráva ministerstva spravedlnosti i samostatný materiál FBI a zahraničních parterů, podle kterého Rusové skrze falešné účty šířili dezinformace do několika zemí včetně Polska, Německa a Izraele. Jako příklady jsou uvedeny příspěvky o ruské válce na Ukrajině na účtech, které se vydávaly za profily Američanů.
Dohromady západní složky na X zachytily 968 podvodných profilů. Na jejich správu Rusové používali i program s názvem Meliorator, který dokáže ve velkém vytvářet autenticky vyhlížející účty či generovat obsah imitující běžného uživatele sociální sítě, uvádí vyšetřovatelé. Systém přitom obcházel jeden z nástrojů proti falešným účtům na síti X. Ta se k věci ihned nevyjádřila, píše WP.
Automatizované či falešné účty označované slovem „bot“ již roky k šíření propagandy využívá vícero zemí, zdokumentován je také případ takovéto operace s vazbami na americkou armádu. Experti v poslední době upozorňují, že rozvoj generativní AI může těmto taktikám výrazně pomoci, neboť programy jako ChatGPT a další mimo jiné umožňují ve velkém vytvářet obsah v různých světových jazycích.