Meglehetősen ingoványos területté vált a politikai lobbi Indiában. A mesterséges intelligencia (AI) bevetésével mára új irányt vett a szavazók befolyásolása, ezzel pedig a demokratikus választás eredményeinek manipulálása. Amint arról témával foglalkozó cikkében a Wired részletesen írt: mindez előrevetíti, hogyan alakíthatja az AI kampánycélokra történő felhasználása a demokratikus rendszereket a jövőben.
Hatalmas piac, kiaknázatlan lehetőségek
Indiában az idei választásokon a politikusok egy része saját magáról készült, tudatosan módosított, hamis audio- vagy videoüzenetekkel – úgynevezett deepfake-ekkel – kampányol. Bár az e megoldást választók egy része leszögezi, hogy nem félretájékoztatás vagy dezinformáció megosztása a cél (mint például az Egyesült Államokban a politikai ellenfelek lejáratására terjesztett deepfake-eké), csak könnyebben és gyorsabban akarják megnyerni a szavazók bizalmát, mégiscsak egy aggályos módszerről van szó. A deepfake-ekkel bombázott tömegeknek ugyanis fogalmuk sincs róla, hogy trükkös manipuláció áldozatai.
A 2024-es indiai választás – figyelembe véve az ország kiterjedését és az 1,5 milliárdos lakosságot – a világ egyik legnagyobb volumenű politikai eseménye. Az április végétől június elsejéig tartó, szakaszosan, összesen hét fázisban megtartott választáson összesen 968 millió indiai állampolgár adhatja le a voksát, vagyis a lakosság nagyjából kétharmada járulhat az urnákhoz - számolt be róla a Mérce.hu. A jelenlegi választáson a 2014 óta kormányzó miniszterelnök, Narendra Damodardas Modi és pártja, a Bháratíja Dzsanatá Párt (BJP) csap össze legfőbb politikai ellenfelével, az Indiai Nemzeti Kongresszussal és annak jelöltjeivel.
A deepfake-gyártás jól jövedelmező biznisz
Arra, hogy a hitelesnek tűnő deepfake-ekre mekkora a kereslet, jó példa a Wired legfrissebb számában bemutatott Divyendra Singh Jadoun története. A 31 éves indiai férfi egyike azoknak a politikai kampányokban oroszlánrészt vállaló háttérembereknek, akik meglátták a virágzó üzleti lehetőséget a “személyre szabott”, mesterséges intelligencia által generált választási üzenetek gyártásában és terjesztésében.
Fotó: Depositphotos
Jadoun cége, a Polymath Synthetic Media Solutions deepfake-termelésre szakosodott, és már több indiai politikus számára is készített mesterséges intelligencia segítségével propagandaoldalt. A cég a jelenlegi választási hajrában öt AI-generált kampányért eddig összesen 55 ezer dollárt számlázott.
Egyik ügyfele egy radzsasztáni politikus, Shakti Singh Rathorea, aki a BJP többmillió önkéntesének egyikeként igyekszik biztosítani Narendra Modi kormányának hatalmon maradását. Rathorea feladata egy korábbi választási kampány során az lett volna, hogy a BJP nevében hónapokig járja Rádzsasztánt (egy Olaszország-méretű államot) a választók megnyerése érdekében. Ám egy mindössze 15 perces, kamera előtti választási beszédnek köszönhetően – amit Jadoun rögzített – nem kellett országjárásra indulnia. A nyersanyag alapján gyártott direkt hangüzenetekkel és videókkal ugyanis név szerint szólíthatja meg a választókat, közvetlenül azok telefonjára juttatva el a tartalmakat. Sőt, az AI a spontán kérdésekre is válaszol, mégpedig Rathorea “tiszta és nyugodt” hangján.
Így lehet gyorsan és hatékonyan megszólítani 1,5 milliárd embert
A technológiának persze lenne létjogosultsága, Indiában ugyanis 22 hivatalos nyelvet és több ezer regionális dialektust használnak, ami igencsak megnehezíti a széleskörű kommunikációt. Ez is hozzájárulhat ahhoz, hogy egyre több politikus használja ki az AI generálta deepfake-ek nyújtotta lehetőségeket.
De amíg az Egyesült Államokban törvényileg szabályozzák a mesterséges intelligencia által létrehozott, hamis audiovizuális üzenetek terjesztését, addig Indiában gyakorlatilag szabad a vásár. Amint arról az egyik legnagyobb indiai üzleti üzenetküldő szolgáltató a Wired-nek beszámolt: a választásokat megelőző két hónapban több mint 50 millió AI-generálta hanghívást indítottak az országban.
Jadoun ma már leginkább a háttérben tevékenykedik, de karrierje kezdetén alaposan benne volt az események sűrűjében. Az NSUI Rajasthan vezetőjeként öt évig politikusokkal parolázott, tömegek előtt szónokolt és igyekezett erősíteni saját és pártja pozícióját. Miután megcsömörlött az aktív politikától, The Indian Deepfaker néven létrehozott egy Instagram-fiókot, és ide töltötte fel nyílt forráskódú szoftver segítségével összevágott filmes vírusvideóit. Így szúrta ki őt 2022-ben egy indiai politikai tanácsadó, Sagar Vishnoi, aki két évvel korábban az első igazán nagy horderejű politikai deepfake-videóval került címlapokra. Azóta együtt dolgoznak.
2023 novemberében azonban Jadoun megütötte a bokáját: botrányba keveredett, amikor az egyik népszerű indiai színésznő arcát digitálisan egy mélyen dekoltált ruhájú nő testéhez illesztették. Az eset után nem sokkal aláírta az "Etikus AI Koalíció" kiáltványát, elkötelezve magát amellett, hogy az AI nyújtotta technológiai lehetőségeket a jövőben etikusan használja fel.
A deepfake-ekkel való visszaélésre egyébként az indiai miniszterelnök is figyelmeztetett. Nem véletlenül. A legutóbbi választásokat megelőzően ugyanis többmillió indiai kapott 30 másodperces, személyre szabott telefonhívást. Ezek egy része arra buzdította a címzetteket, hogy szavazzanak egy bizonyos jelöltre, míg másoknak egy-egy politikus hangját felhasználva “csak” boldog születésnapot kívántak. Indiában az utolsó pillanatban befutó hívások nagyban befolyásolhatják az eredményt: a National Election Studies szerint ugyanis minden negyedik választópolgár csak az utolsó napokban dönt arról, hogy kire szavaz.
Még vannak gyerekbetegségek, de a technológia egyre profibb
Amint arról korábban, a szintén a Klasszis Média lapcsaládhoz tartozó Mfor oldalán írtunk, a közelgő amerikai és uniós választások előtt különösen aggályos lehet, hogy mesterséges intelligencia segítségével gyártott tartalmakkal – egyebek mellett hamis fotókkal – egyesek tömegek véleményét igyekeznek befolyásolni.
Korábbi cikkünkből az is kiderül, hogy a képgenerálás technológiája jelenleg nem tökéletes. Ha tisztában vagyunk a jellemző, árulkodó jelekkel, akár laikusként is leleplezhetjük a mesterségesen készített fotókat. Gyanús lehet például a képek festményszerűsége, az ujjak “legyártása” során elkövetett bakik (ha például egy kézen hat ujjat számolunk), a képen látható emberek egymáshoz viszonyított aránytalanságai, vagy éppen a kép hátterében megjelenő értelmetlen feliratok, szövegek. Ezek a technológia gyermekbetegségei, de az AI által készített képek idővel egyre élethűbbek lesznek. Ezért aztán a jövőben, ha értékelni akarjuk ezeket, józan eszünkre és előzetes tudásunkra sokkal jobban kell majd támaszkodnunk.
Bezuhant az árfolyam is. 
