4p
Úgy tűnik, nem teljesen alaptalanok a sci-fikből ismert félelmek: a Google mesterséges intelligenciája ugyanis hiperagresszív magatartást tanúsít bizonyos stresszes szituációkban. Ez a fajta reakció kérdésessé teszi az öntanuló neurális hálózatos további fejlesztését – mit tehetünk, hogy megelőzzük a robokalipszist?

Ha szóba kerülnek a mesterséges intelligenciák, mindenkinek egyből a Terminátor Skynetje ugrik be, amely végül robotok segítségével leigázza az emberiséget. Nem kell azonban a fantázia birodalmába nyúlnunk, hogy valami nagyon hasonlóval találkozzunk: a Science Alert cikke szerint pontosan egy ilyen viselkedés csíráját fedezték fel a Google DeepMind mesterséges intelligenciájánál. A DeepMind ugyanis rendkívül agresszívan viselkedik, ha nyomás alá helyezik.

Mitől stresszel egy gép?

A DeepMind nem egyszerűen egy előre megadott paraméterek alapján működő mesterséges intelligencia, hanem egy úgynevezett neurális hálózat, amely működésében rendkívül hasonló az emberi agyéhoz. A Google, akárcsak számos más technológiai vállalat szintén azon mesterkedik, hogy megfejtse az emberi gondolkodás működését, és ezt modellezze egy elektronikus formában. A neurális hálók úgy tanulnak, mint a gyerekek: magukba szívják az információt, amit biztosítanak nekik, ám amikor szembesítjük őket egy problémával, akkor a saját kútfőjükből kell összekapcsolniuk a szerzett információkat.

Ezt a legkönnyebben egyszerű számítógépes játékok vagy szimulációk segítségével tudják modellezni a kutatók. A DeepMindot először egy gyűjtögetős játékra küldte rá, összesen 40 millió szimulációt futtatva le. Az alábbiakban a piros és kék figurák az AI által mozgatott karakterek, a zöldek az összegyűjtendő gyümölcsök. A cél, hogy minél több gyümölcsöt gyűjtsön az egyik játékos. Ahogy az látható, ahogy fogynak a zöld kockák, úgy lesz egyre agresszívabb a két játékos:

Érdekesség ugyanakkor, hogy a lövöldözésből nem terem közvetlen haszna egyik játékosnak sem, ugyanis nem ejtenek el gyümölcsöket, pusztán megállnak egy pillanatra, így a másik játékosnak több ideje van a gyűjtögetésre. Ennek ellenére ahogy fogynak az elérhető nyersanyagok, úgy válik egyre agresszívabbá a két játékos. Ráadásul ahogy haladt előre a kutatás, úgy fedezték fel, hogy a DeepMind egyre több energiát fektet az ellenfél szabotálásába, megsemmisítésébe és támadásba, akkor is, ha nem ez volt a legokosabb lépés.

Robot robotnak farkasa

A DeepMind képességeit egy másik, kifejezetten a kooperációt vizsgáló játékban is tesztelték. Ebben a két játékos egy-egy farkast testesít meg, akiknek el kell ejteniük a prédát jelképező kék entitást. Ha a két farkas közel tartózkodik a prédához, akkor több pontot kapnak, mintha csak az egyikük rohan be a zsákmányért:

A kutatók úgy látták, hogy így a legrealisztikusabb a szimuláció, a csoportosan vadászó állatoknak ugyanis több esélye van megszerezni és megtartani a zsákmányt, mint az egyedül vadászóknak, akiktől a többi állat elcsaklizhatja az elejtett vadat. Érdekes módon a DeepMind itt is képes volt megtanulni a szükséges lépéseket, és bár eleinte elsőként rohant be, később megtanult cserkészni a másik játékossal a közös cél érdekében. Ez mutatja, hogy a szituációtól függően a neurális hálózatok képesek rendkívül emberi tulajdonságokat szimulálni, ezek ugyanis az emberi túlélést szavatolnák a vadonban.

Nem ember, de már közel áll hozzá

Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását. >>>

A DeepMind 2016-ban már ember ellen is bizonyította intuíciós képességét, amikor megverte a gó-világbajnokot: ez az ázsiai eredetű játék sokkal bonyolultabb, mint a sakk, így ma már ezt használják a mesterséges intelligenciák szűrőjeként. A mostani kísérletek azt mutatják, hogy a mesterséges intelligenciák igenis képesek a túlélésüket vagy személyes előnyüket szolgáló tulajdonságok vagy cselekedetek végrehajtására.

Ez viszont problémákat vet fel egyes automatizálható rendszerek fejlesztésében – mi történik például, ha az intelligens közlekedési lámpa lassítani szeretné a forgalmat, miközben az önvezető robotautónk a létező leggyorsabban akar eljutni egyik pontból a másikba? Az önérvényesítésnek itt akár emberéleteket követelő megoldása is születhet. A kutatók szerint olyasfajta rendszerre lesz szükség, mint Isaac Asimov Robot-univerzumában, amely előtérbe helyezi az emberi élet védelmét a robot vagy AI önös érdekeivel szemben. Kérdés csupán az, hogy mikor válnak elég intelligenssé ahhoz, hogy megtanulják áthágni a szabályokat.

A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Makro / Külgazdaság Aggasztó kijelentést tett a védelemért felelős uniós biztos
Privátbankár.hu | 2026. november 18. 18:59
Az Európai Uniónak fel kell gyorsítania és jelentősen növelnie kell hadiipari termelését, a drága, egyedi gyártás helyett pedig az olcsóbb, nagy mennyiségben előállítható fegyverekre kell helyeznie a hangsúlyt – jelentette ki Andrius Kubilius védelemért felelős uniós biztos szerdán, az Európai Üzleti Csúcstalálkozónak nevezett konferencián Brüsszelben.
Makro / Külgazdaság Elemzők: az euró nem cél, hanem eszköz, azt nem gyorsan, hanem jól kell bevezetni
Dobos Zoltán | 2026. november 18. 18:36
A globális és hazai makrogazdasági várakozásait ismertette a CIB Bank szerdai budapesti háttérbeszélgetésén. Trippon Mariann vezető elemző nem számít a geopolitikai feszültségek csökkenésére, ennek ellenére a piaci bizalom miatt a magyar gazdaság kilátásai jók. Az euró bevezetéséről elmondta, „az euróvonatról nincs leszállás”, és hozni kell a várt eredményeket. A szakértő elárulta, szerinte mikor lesz ismét pozitív értékű a hazai élelmiszer-infláció, és mekkora hatással lesz a pénzromlás ütemére az árrésstop eltörlése.
Makro / Külgazdaság Elég csak megnézni, hogy jártak, akik felbontották a Roszatommal való együttműködést – mondja a Paks II. kapcsán az orosz nagykövet
Privátbankár.hu | 2026. november 18. 17:07
Interjút adott a magyarországi orosz nagykövet, aki az új kormányról is beszélt. 
Makro / Külgazdaság Egy hónap után ismét rossz hír jött az amerikai gazdaságról
Privátbankár.hu | 2026. november 18. 14:57
Az Egyesült Államokban sorban négy heti csökkenést követően emelkedett a 30 éves jelzáloghitelek kamata a november 13-án végződött héten – derült ki az amerikai jelzáloghitelező bankok szövetsége (Mortgage Bankers Association of America – MBA) szerdán közzétett adataiból.
Makro / Külgazdaság Magyar Péterék vidéken tartják a kétnapos félévértékelő kormányülést
Privátbankár.hu | 2026. november 18. 13:51
Véglegesen dönt a kormány szerdán az egyik legnagyobb korrupciós ügyben – jelentette be Magyar Péter a szerdai kormányülés előtt.
Makro / Külgazdaság Jócskán rávertünk Európára, a németek és a franciák is a hátunkat nézik
Csabai Károly | 2026. november 18. 11:19
Az Eurostat friss közlése megerősítette a Privátbankár Európai Inflációs Körkép prognózisát: az európai uniós metodika alapján számított infláció, a harmonizált fogyasztóiár-index októberben a 27 tagország közül csak négyben volt alacsonyabb a magyarországinál.
Makro / Külgazdaság Szünet nélkül: adnak ma egy ötöst a benzinkutakon
Privátbankár.hu | 2026. november 18. 11:04
Szerdán is újabb, jelentős árváltozást jelentettek be.
Makro / Külgazdaság Varga Mihály elárulta, az árrésstop eltörlésének milyen inflációs hatása lehet
Privátbankár.hu | 2026. november 18. 08:49
Bár volt ilyen felvetés, keddi ülésén mégsem csökkentette az alapkamatot a Magyar Nemzeti Bank Monetáris Tanácsa. Az összes körülmény alapján azonban megnőtt a monetáris politika mozgástere, ezt majd a decemberi Inflációs Jelentésben értékelik. Kérdésre Varga Mihály beszélt arról, milyen hatása lehet az inflációra az árrésstop tervezett eltörlésének, és kifejtette véleményét a soron következő hitelminősítésekről is.
Makro / Külgazdaság Kiderült, mennyivel verték meg a béreink az inflációt szeptemberben
Privátbankár.hu | 2026. november 18. 08:30
A nettó reálkereset pedig szeptemberben 7,3 százalékkal múlta felül az egy évvel korábbit. Ennél alacsonyabb értékre utoljára tavaly decemberben volt példa.
Makro / Külgazdaság Brüsszelből ma fontos bejelentés érkezik
Csabai Károly | 2026. november 18. 05:44
Az Európai Bizottság statisztikai hivatala, az Eurostat szerda délelőtt teszi közzé a saját metodikája alapján kiszámolt októberi uniós tagországi inflációs adatokat. Bár ez Magyarország esetében 0,4 százalékponttal magasabb annál, mint amekkora fogyasztóiár-indexet a Központi Statisztikai Hivatal múlt a kedden publikált, EU-s összevetésben még így is jól állunk, a 27 tagállamból csak négyben lehetett alacsonyabb a harmonizált fogyasztóiár-index a múlt hónapban – derül ki a legfrissebb Privátbankár Európai Inflációs Körképből.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG