Amerikai hajók ellen használják az AI-t az irániak – és lehet, hogy ez csak a jéghegy csúcsa

Sokat hallhattunk arról, milyen veszélyeket rejt magában az, hogy az amerikai haderő AI-modelleket használ célpontok kijelölésére. Minden bizonnyal ez vezetett például az Irán ellen indított háború elején az iráni leányiskola ellen végrehajtott légicsapáshoz, amelyben 156 civil, köztük 120 gyermek halt meg. (Erről itt írtunk részletesen.) És akkor még nem is beszéltünk arról, hogy mi történne (vagy történhetne) akkor, ha teljesen autonóm módon vetnék be a harctéren a mesterséges intelligenciát.

Mégis, ezek a veszélyek a másik oldalon (is) jelentkeznek. Remélhetőleg egyetlen katonai tervező sem szeretne ártatlan civileket gyilkolni az ellenséges oldalon, de – talán sajnos – azt sem várhatjuk tőlük, hogy a hatékonyság és a félrement csapások kockázatának minimalizálása közül minden áron az utóbbit válasszák.

De mi van akkor, ha fordul a kocka, és az ellenség használja ugyanazt vagy majdnem ugyanazt a mesterséges intelligenciát a saját céljai eléréséhez? Márpedig Irán pontosan ezt tette – derül ki az Anthropic egy friss, az AI veszélyeit elemző jelentéséből.

Rossz az, aki rosszra használ?

A cég szerint az általuk fejlesztett Claude mesterséges intelligencia egy fejlett modelljét használta egy Iránhoz kötődő csoport arra, hogy amerikai hadihajók mozgását kövesse, illetve sérülékeny pontokat keressen azok kommunikációs protokolljaiban. A közelebbről meg nem határozott „ellenséges szereplő” az AI segítségével gyűjtött össze és elemzett különböző adatokat, például műholdfelvételeket, nyilvánosan elérhető nyomkövetési adatokat, és tett közzé katonai felvételeket, személyzeti nyilvántartásokat.

Az Anthropic szerint biztonsági rendszereik segítségével azonosították és „megzavarták” e csoport tevékenységét. A cég azt is hangsúlyozza, hogy AI-modelljeit tilos bármilyen katonai célokra használni, és az ilyesmire irányuló kéréseket a rendszer automatikusan szűri és megtagadja.

Ám az is nyilvánvaló, hogy a rendszer bizony kijátszható, és meg is próbálják kijátszani. A jelentésben az iráni próbálkozás mellett számos más – talán még aggasztóbb – esetet is felemlegetnek.

• Egy jemeni húszikhoz köthető csoport fejlett fegyverek, többek között egy többfázisú, irányítható ballisztikus rakéta tervezéséhez, vezérlőszoftverének megalkotásához használta a Claude-ot.
• Egy kínai szereplő a tajvani légvédelmi rendszerek és elektronikus hadviselési eszközök ellen bevethető szoftvercsomagot tervezett.
• Egy másik kínai szereplő egy a kínai haditengerészetnek szánt torpedóvédelmi rendszer tervezéséhez használta a modellt.
• Egy harmadik, a kínai hírszerzéshez köthető szereplő külföldi nagyenergiás mikrohullámú fegyverekről gyűjtött részletes, azok működésének visszafejtését célzó információt.
• A cég öt(!) olyan esetről számolt be, amikor emberek „olyan módokon használták modelljeinket, amelyek biológiai fegyverek fejlesztését segíthették elő”.
• Orosz szereplők hírszerzési információk, többek között az ukrán kormányzat elleni támadások előkészítésére, illetve a nyugati szankciók megkerülésére használták a Claude-ot.
• Ezen kívül számos esetben használták a cég modelljeit megfigyelésre, ellenzéki csoportok, vélemények azonosítására (például Kínában és Iránban is), online csalások elkövetésére vagy éppen adatok kicsalására.

És akkor tegyük hozzá, hogy ezek csak azok a kísérletek, amelyeket sikerült a modell és a cég protokolljainak kiszűrni. Az sem teljesen világos, hogy a műveleteknek milyen szakaszában történt a „megzavarás”.

Reménykedni lehet, de mit lehet tenni?

Múlt héten például az iráni erők amerikai hadihajók ellen kíséreltek meg csapásokat végrehajtani a Hormuzi-szoros környékén. Az Iráni Forradalmi Gárda (IRGC) közlése szerint ballisztikus rakétákkal rongáltak még két amerikai hajót is, az amerikai haditengerészet azonban azt állítja, hogy a támadásokat sikeresen elhárították, illetve elkerülték egységei.

Az mindenesetre biztos, hogy az irániak célba tudták venni az amerikai hajókat, ami a nyílt tengeren egyáltalán nem magától értetődő feladat, amennyiben egy ország nem rendelkezik mondjuk valós idejű műholdas megfigyelési képességekkel vagy a közelben tartózkodó, adatok továbbítására alkalmas vízi vagy légi eszközökkel. Lehetséges, hogy valamilyen AI-modellt vetettek be az irániak az amerikai hajók pozícióinak meghatározására? Kizárni mindenesetre nem lehet.

És mit lehet tenni a hasonló esetek megakadályozása érdekében? Persze nem látunk bele sem az Anthropic, sem a többi AI-fejlesztőcég boszorkánykonyhájába, de tudva, hogy jelenleg éppen ezek a cégek próbálják visszafogni a tempót a kockázatokra hivatkozva (és tudva, hogy „házon belül” sem mindig tudják teljesen kontrollálni saját modelljeiket, amelyek olyasmit művelnek, amire senki sem számított és senki nem adott utasítást), nem túl szívderítők a kilátások.

„Reméljük, hogy az ebben a jelentésben szereplő megállapítások segítenek más fejlesztőknek felismerni a hasonló mintázatokat saját platformjaikon, a kormányzatok és a civil társadalom számára világosabb képet adnak a lehetséges veszélyek kialakulásáról, illetve megerősítik a kollektív védelmi mechanizmusokat”

– olvasható az Anthropic jelentésében.

Tehát egyértelmű cselekvési  vagy szabályozási tervek helyett a cég is inkább csak valami olyasmit mond: „Éberség elvtársak!”, saját termékük kordában tartásának felelősségét pedig viselje mindenki közösen, a kormányoktól a civil társadalmakig.