Az Egyesült Államok illetékes szövetségi szabályozó hatósága komoly figyelmeztetésben hívja fel a pénzügyi rendszer szervezeteinek figyelmét a mesterséges intelligencia használatának kockázataira a CNN Business cikke szerint.
Van jó és rossz oldala
Ez az első eset, hogy nem független vagy banki szakértők, hanem egy állami szervezet, nevezetesen a Financial Stability Oversight Council (FSOC) foglal állást ebben a kérdésben. Ezt a szervezetet a 2007–2009-es pénzügyi válság után hozták létre éppen abból a célból, hogy megelőzendő a hasonló összeomlásokat figyelje a pénzügyi rendszer gyengeségeit. A FSOC élén az Egyesült Államok mindenkori pénzügyminisztere, jelenleg Janet Yellen áll.
Az MI ugyan segíthet az innovációban és javíthatja a pénzügyi szervezetek működésének hatékonyságát, de körültekintő bevezetést és állandó szoros felügyeletet igényel a tevékenysége – vélik a FSOC szakértői. Ezen belül külön figyelni kell a lehetséges kiberbiztonsági, szabályozási megfelelőségi és adatkezelési kockázatokra.
A mesterséges tanulásra képes, generatív MI használata esetén nagy a veszélye annak, hogy ha lyukak keletkeznek a számítástechnikai rendszeren, akkor érzéken adatok juthatnak ki a pénzügyi szervezetek falai mögül, és mire ezt észreveszik, már régen késő lesz. További veszély a mesterséges intelligencia ismert hajlana a „hallucinációra”, azaz a hamis válaszok adására a feltett kérdésekre.
Maszk mögött
A FSOC-t aggasztja, hogy sok MI modell gyakorlatilag egyfajta fekete doboz a felhasználóinak. Fogalmuk sincs hogyan működnek és ezen a dolog bonyolultsága miatt nem is lehet segíteni. Ennekű eredményeként előállhat az a helyzet, hogy a felhasználók nem tudnak magyarázatot adni a mesterséges intelligencia válaszaira.
Ez mindaddig nem gond, amíg az ilyen esetekben a biztonság kedvéért elkerülik azt az utat, amit az MI jelölne ki nekik. Ugyanakkor fennáll a lehetősége annak is, hogy a mesterséges intelligencia a kívülállók számára átláthatatlanul elmaszkolja a tevékenységét és eltitkolja válaszai esetleges pontatlanságát.
Ennek eredménye például a hitelezési tevékenység eltorzulása lehet. A hibák és torzulások felfedezése és javítása egyre nehezebbé válhat, ahogy az MI bonyolultabbá válik, ami felhívja a figyelmet arra, mennyire fontos, hogy a szakértők – a pénzintézetek és a szabályozó hatóságok szakemberei – rajta tartsák a szemüket ezen a technológián.
Nyeresége és bevétele is felülmúlta az elemzői várakozásokat. 
