Európai Parlament: nem fog minket kukkolni a mesterséges intelligencia

Az EP által megszavazott szabályok a kockázatok szintje szerint állapítanak meg kötelezettségeket a szolgáltatók és a felhasználók számára. Az olyan MI-rendszerekre, amelyek az emberek biztonságára nézve elfogadhatatlan mértékű kockázatot jelentenek - mint például a társadalmi kreditrendszer - tilalom vonatkozna, ahogy az MI magánéletet sértő és diszkriminatív alkalmazásaira is.

Ezek magukba foglalják a köztereken végzett "valós idejű" és "utólagos" távoli biometrikus azonosítást; az érzékeny személyes adatokon biometrikus kategorizálást; a profilalkotásra, illetve a tartózkodási helyre vagy bűnözői előéletre alapozott prediktív rendvédelmet; a gépi érzelemfelismerés alkalmazását a bűnüldözésben, a határellenőrzésben, a munkahelyeken és az oktatási intézményekben; arcfelismerő adatbázisok létrehozását az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan leválogatott arcképek felhasználásával.

A képviselők nagy kockázatúnak minősítenék azokat az MI-rendszereket, amelyek jelentős mértékben veszélyeztetik az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet. A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszerek, illetve a több mint 45 millió felhasználóval rendelkező közösségimédia-platformok által használt ajánlórendszerek a képviselők javaslatában szintén felkerültek erre a listára.

Az EP álláspontja szerint az általános célú MI-rendszerek fejlesztői csak azután hozhatnák forgalomba termékeiket az uniós piacon, hogy felmérték és mérsékelték a lehetséges kockázatokat (az egészségre, biztonságra, az alapvető jogokra, a természeti környezetre, a demokráciára és a jogállamiságra), és bejegyeztették modelljeiket az uniós adatbázisba.

Az ilyen modelleken alapuló generatív MI-rendszerekkel szemben, mint például a ChatGPT, elvárás lenne az átláthatóság: minden esetben fel kellene tüntetni, hogy a tartalmat mesterséges intelligencia állította elő, segítséget kellene nyújtani az úgynevezett "deepfake" képeknek az igaziaktól való megkülönböztetéséhez, valamint megfelelő biztosítékokkal kellene elejét venni a jogellenes tartalomgenerálásnak.

Az innováció és a kis- és közeépvállalkozások támogatása érdekében a képviselők azt javasolták, hogy a kutatási tevékenységekre és a nyílt forráskódú licencek alapján rendelkezésre bocsátott MI-komponensekre ne terjedjen ki minden kötelezettség.

Az EP emellett azt szorgalmazza, hogy a polgároknak legyen lehetősége panasszal élni az MI-rendszerek alkalmazásával szemben, az alapvető jogaikra jelentősen kiható döntésekről pedig részletes tájékoztatást kellene kapniuk, amennyiben azok nagy kockázatú MI-rendszerek bevonásával születtek.

A tárgyalások az uniós tagállamok kormányait tömörítő Tanáccsal a jogszabály végleges szövegéről még szerdán megkezdődnek. (MTI)