A digitalizáció terjedésével az államok, a vállalatok és az egyes személyek is egyre jobban ki vannak téve a kiber-támadásoknak. A közösségi hálózatokban a nagy országos médiumok elvesztették információs monopólium szerepüket és már egy anonim troll is képes politikai vitát kezdeményezni.

A mesterséges intelligencia (AI) pedig hamarosan a trollokat is feleslegessé teszi. Az úgynevezett deep fake technológiákkal ellenséges szándékú érdekkörök pillanatok alatt eredetinek látszó videókat tudnak létrehozni, amelyekben adott esetben valódi politikusok szájába adhatnak felháborodást és zavart keltő állításokat.

Mély hamisítvány, dezinformáció és megtévesztés

Idén májusban a Pentagon közelében egy robbanást ábrázoló hamis képet széles körben megosztottak a közösségi oldalakon, köztük néhány ellenőrzötten is. Később kiderült, hogy a képet valószínűleg az AI hozta létre, amely valósághű tartalmat, például szöveget, képeket, hangot és szintetikus adatokat képes előállítani.

Nem ez az első alkalom, hogy az AI nagy feltűnést kelt. A használatával kapcsolatban különösen aggasztó a „deep fake” bevetése, amely az emberi arcvonások és kifejezések reprodukálásával valósághű videókat hozhat létre.

2019-ben egy deep fake videó készült Gabon (múlt héten megpuccsolt) elnökéről, Ali Bongóról. Ez aggodalmat váltott ki az uralkodásra való alkalmasságával kapcsolatban, és meggyőzte az afrikai ország hadseregét, hogy indítsanak puccsot.

Ez akkor kudarcot vallott, de a videó bemutatta az AI dezinformációs potenciálját, valamint annak súlyos nemzetbiztonsági következményeit.

Az orosz-ukrán konfliktus a deep fake kísérletezés aktív terepévé vált. Tavaly tavasszal elterjedt egy deep fake videó, amelyen Zelenszkij elnök arra kéri csapatait, hogy adják meg magukat. A videó kifinomultsági szintje azonban nem volt túl fejlett, így többen könnyen rájöttek, hogy hamisítvány.

Hasonlóképpen terjedt el a Twitteren egy videó Putyin elnökről, amelyben arra buzdítja csapatait, hogy tegyék le a fegyvert és menjenek haza. Hiteles helyszíni jelentések hiányában az ilyen hamis videók zavart és bizonytalanságot terjesztenek a katonai műveletek körül.

Technológiai hátszél a dezinformációhoz

A dezinformáció - vagy a hamis információk és pletykák - szándékos terjesztése, amelynek célja a közvélemény befolyásolása vagy az igazság elfedése, jelentős kihívássá vált, különösen a demokratikus társadalmakban. Amellett, hogy a politikai szereplők belföldi felhasználása révén mozdítják elő politikai programjukat, az ellenséges államok „hibrid hadviselésük” vagy „szürke zóna taktikájuk” fő összetevőjeként is felhasználják.

Az EU ezt a jelenséget „idegen információ-manipulációs beavatkozásnak” (FINI) nevezte el.

A deep fake tartalmak megjelenése megváltoztatta az információs tér dinamikáját azáltal, hogy túlzsúfolja és ezzel visszafogja a hiteles információk áramlását. Ez oda vezet, amit a szakértők „A hazug osztalékának” neveznek.

A 2021. január 6-i Capitol Hill-i zavargások elkövetői megpróbálták kihasználni ezt a jogi eljárások során és AI által generált videós bizonyítékra hivatkoztak, de sikertelenül. A közösségi médián keresztüli szélesebb körben terjesztve a deep fake tartalmak befolyásolják a helyzetfelismerést és veszélyeztetik a döntéshozatalt, különösen a válságos időszakokban. Nem meglepő módon az AI-kutatók már a fejlett AI-rendszerek fejlesztésének leállítását kérték.

Kína és a dezinformáció

A tekintélyelvű rezsimek különösen a dezinformációt használják fel a demokráciák megcélzására. Ahogy az várható volt, a Kínai Népköztársaság átvette a vezetést az AI-alapú eszközök használatában propagandakampányainak kiterjesztésére.

Az ellenség erőszak alkalmazása nélküli leigázására irányuló törekvésében Kína kidolgozta az „intelligens hadviselés” koncepcióját, amely az ellenfél kognitív képességeit célozza meg.

A deep fake technológia ezt a célt erősíti a katonai doktrínákba való integrálásával.

Cai Ming-jen, a tajvani nemzetbiztonsági hivatal főigazgatója már aggodalmának adott hangot azzal kapcsolatban, hogy a Kínai Kommunista Párt (KKP) deep fake hamisítványokat használ fel arra, hogy a „kognitív hadviselés” részeként káosz szítson Tajvanon.

Egy kiemelkedő példaként Kína AI által generált híradókat használ a KKP érdekeinek és az USA-ellenes propagandának az előmozdítására. Két videóban, amelyek tavaly jelentek meg a „Wolf News” zászlaja alatt, ezek a műsorvezetők olyan témákat vitattak meg, mint az Egyesült Államok kormányának állítólagos gyenge reakciója a családon belüli fegyveres erőszakra, valamint az amerikai-kínai államfői csúcstalálkozó pozitív eredményeinek fontossága.

Ezeket a műsorvezetőket a brit Synthesia cég által biztosított mesterséges intelligencia-videó megoldással hozták létre. Bár a videók nem keltettek nagy vonzerőt az interneten, rámutattak arra, hogy a KKP visszaél a kereskedelmi forgalomban kapható mesterséges intelligencia-videó-generáló eszközökkel dezinformációs célokra.

Az elme militarizálása

A közelmúltig a NATO a hadviselést öt különböző műveleti területre osztotta: légi, szárazföldi, tengeri, űrbeli és kibernetikai területre. A kognitív hadviselési stratégiák kidolgozásával azonban a katonai szövetség egy új, hatodik szintről tárgyal: az "emberi területről".

A NATO által támogatott 2020-as tanulmány a hadviselés ezen új formájáról világosan kifejti: "Míg az öt területen végrehajtott akciókat azért hajtják végre, hogy hatást gyakoroljanak az emberi területre, a kognitív hadviselés célja, hogy mindenkit fegyverré tegyen".

"Az agy lesz a 21. század harctere" - hangsúlyozza a jelentés. "Az ember a vitatott terület", és "a jövőbeni konfliktusok valószínűleg először digitálisan, majd fizikailag, a politikai és gazdasági hatalom központjainak közelében zajlanak majd az emberek között".

Mivel a NATO célkeresztjében az egész civil lakosság van, a jelentés hangsúlyozza, hogy a nyugati hadseregeknek szorosabban kell együttműködniük az akadémiai körökkel a társadalomtudományok és a humán tudományok felfegyverzése érdekében, és segíteniük kell a szövetséget a kognitív hadviselési kapacitások fejlesztésében.

A tanulmány ezt a jelenséget "az agytudomány militarizálása" néven írja le.

De úgy tűnik, egyértelmű, hogy a kognitív hadviselés NATO általi fejlesztése az emberi társadalom és pszichológia minden aspektusának militarizálódásához vezet, a legintimebb társadalmi kapcsolatoktól kezdve magáig az elméig.

A kognitív hadviselés egyaránt kiterjed az egyénre, az államokra és a többnemzetiségű szervezetekre.  A dezinformálás és propaganda technikáit felhasználva az információ-befogadási képességnek a kifárasztására, kimerítésére törekszik.

(Káncz Csaba szerzői oldala itt érhető el.)