4p
Úgy tűnik, nem teljesen alaptalanok a sci-fikből ismert félelmek: a Google mesterséges intelligenciája ugyanis hiperagresszív magatartást tanúsít bizonyos stresszes szituációkban. Ez a fajta reakció kérdésessé teszi az öntanuló neurális hálózatos további fejlesztését – mit tehetünk, hogy megelőzzük a robokalipszist?

Ha szóba kerülnek a mesterséges intelligenciák, mindenkinek egyből a Terminátor Skynetje ugrik be, amely végül robotok segítségével leigázza az emberiséget. Nem kell azonban a fantázia birodalmába nyúlnunk, hogy valami nagyon hasonlóval találkozzunk: a Science Alert cikke szerint pontosan egy ilyen viselkedés csíráját fedezték fel a Google DeepMind mesterséges intelligenciájánál. A DeepMind ugyanis rendkívül agresszívan viselkedik, ha nyomás alá helyezik.

Mitől stresszel egy gép?

A DeepMind nem egyszerűen egy előre megadott paraméterek alapján működő mesterséges intelligencia, hanem egy úgynevezett neurális hálózat, amely működésében rendkívül hasonló az emberi agyéhoz. A Google, akárcsak számos más technológiai vállalat szintén azon mesterkedik, hogy megfejtse az emberi gondolkodás működését, és ezt modellezze egy elektronikus formában. A neurális hálók úgy tanulnak, mint a gyerekek: magukba szívják az információt, amit biztosítanak nekik, ám amikor szembesítjük őket egy problémával, akkor a saját kútfőjükből kell összekapcsolniuk a szerzett információkat.

Ezt a legkönnyebben egyszerű számítógépes játékok vagy szimulációk segítségével tudják modellezni a kutatók. A DeepMindot először egy gyűjtögetős játékra küldte rá, összesen 40 millió szimulációt futtatva le. Az alábbiakban a piros és kék figurák az AI által mozgatott karakterek, a zöldek az összegyűjtendő gyümölcsök. A cél, hogy minél több gyümölcsöt gyűjtsön az egyik játékos. Ahogy az látható, ahogy fogynak a zöld kockák, úgy lesz egyre agresszívabb a két játékos:

Érdekesség ugyanakkor, hogy a lövöldözésből nem terem közvetlen haszna egyik játékosnak sem, ugyanis nem ejtenek el gyümölcsöket, pusztán megállnak egy pillanatra, így a másik játékosnak több ideje van a gyűjtögetésre. Ennek ellenére ahogy fogynak az elérhető nyersanyagok, úgy válik egyre agresszívabbá a két játékos. Ráadásul ahogy haladt előre a kutatás, úgy fedezték fel, hogy a DeepMind egyre több energiát fektet az ellenfél szabotálásába, megsemmisítésébe és támadásba, akkor is, ha nem ez volt a legokosabb lépés.

Robot robotnak farkasa

A DeepMind képességeit egy másik, kifejezetten a kooperációt vizsgáló játékban is tesztelték. Ebben a két játékos egy-egy farkast testesít meg, akiknek el kell ejteniük a prédát jelképező kék entitást. Ha a két farkas közel tartózkodik a prédához, akkor több pontot kapnak, mintha csak az egyikük rohan be a zsákmányért:

A kutatók úgy látták, hogy így a legrealisztikusabb a szimuláció, a csoportosan vadászó állatoknak ugyanis több esélye van megszerezni és megtartani a zsákmányt, mint az egyedül vadászóknak, akiktől a többi állat elcsaklizhatja az elejtett vadat. Érdekes módon a DeepMind itt is képes volt megtanulni a szükséges lépéseket, és bár eleinte elsőként rohant be, később megtanult cserkészni a másik játékossal a közös cél érdekében. Ez mutatja, hogy a szituációtól függően a neurális hálózatok képesek rendkívül emberi tulajdonságokat szimulálni, ezek ugyanis az emberi túlélést szavatolnák a vadonban.

Nem ember, de már közel áll hozzá

Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását. >>>

A DeepMind 2016-ban már ember ellen is bizonyította intuíciós képességét, amikor megverte a gó-világbajnokot: ez az ázsiai eredetű játék sokkal bonyolultabb, mint a sakk, így ma már ezt használják a mesterséges intelligenciák szűrőjeként. A mostani kísérletek azt mutatják, hogy a mesterséges intelligenciák igenis képesek a túlélésüket vagy személyes előnyüket szolgáló tulajdonságok vagy cselekedetek végrehajtására.

Ez viszont problémákat vet fel egyes automatizálható rendszerek fejlesztésében – mi történik például, ha az intelligens közlekedési lámpa lassítani szeretné a forgalmat, miközben az önvezető robotautónk a létező leggyorsabban akar eljutni egyik pontból a másikba? Az önérvényesítésnek itt akár emberéleteket követelő megoldása is születhet. A kutatók szerint olyasfajta rendszerre lesz szükség, mint Isaac Asimov Robot-univerzumában, amely előtérbe helyezi az emberi élet védelmét a robot vagy AI önös érdekeivel szemben. Kérdés csupán az, hogy mikor válnak elég intelligenssé ahhoz, hogy megtanulják áthágni a szabályokat.

A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Makro / Külgazdaság Erdőben talált milliárdok: Seszták Miklós ügyvédjének van egy kérdése
Privátbankár.hu | 2026. november 16. 18:57
A jogi képviselőnek vannak kétségei.
Makro / Külgazdaság Komoly változás vár ránk a boltokban – így módosulhatnak az árak
Privátbankár.hu | 2026. november 16. 17:20
Az árrésstop kivezetéséről szóló törvénytervezet elkészült, így várhatóan még az idén megszűnik ez a korlátozás. Mit jelenthet mindez a vásárlók számára? Erről is beszélt kollégánk, Király Béla az ATV Start című műsorában. Szó volt arról is, hogy milyen újdonságok várhatók a kereskedelemben, és mennyire reális a dinamikus árazás bevezetése az élelmiszerboltokban.
Makro / Külgazdaság Elindult a költségvetés vitája, ezt mondta Kármán András
Privátbankár.hu | 2026. november 16. 16:57
Fontos nap a hétfő a magyar gazdaság szempontjából.
Makro / Külgazdaság „A közpénzekkel való felelős gazdálkodás alapkövetelmény” – megszűnt a KDNP ebben a városban
Privátbankár.hu | 2026. november 16. 14:03
Mátészalka polgármestere kilépett a szervezetből, ami meg is szűnt.
Makro / Külgazdaság Kiderült, min múlik Varga Mihályék fontos döntése
Privátbankár.hu | 2026. november 16. 10:59
Marad az 5,5 százalékos alapkamat a Magyar Nemzeti Bank Monetáris Tanácsának keddi ülése után is, ugyanis a külső tényezők nem adnak teret a lazításra. Sok múlik viszont azon, mit fog tartalmazni a decemberi Inflációs Jelentés.
Makro / Külgazdaság Nagyott nézett mindenki Japánban
Privátbankár.hu | 2026. november 16. 06:39
Váratlanul zsugorodott a japán gazdaság a harmadik negyedévben. Elsősorban a lakossági fogyasztás visszaesése és a külkereskedelem kedvezőtlen alakulása miatt csökkent a távol-keleti szigetország GDP-je.
Makro / Külgazdaság A Trump-fiaskó piaci hatásai: kezdetét veszi az újabb zöldhullám?
Imre Lőrinc | 2026. november 15. 11:01
Az Egyesült Államokban a Demokrata Párt félidős választásokon aratott elsöprő győzelme, illetve az Európai Unióban készülődő szabályozói reform is átalakíthatja a fenntartható befektetési alapok piacát. Ami a politikai fordulatok nélkül is folyamatos mozgásban van: az elmúlt években a nukleáris energiával foglalkozó cégek és a védelmi ipari kibocsátók megítélése változott a legnagyobb mértékben, méghozzá a saját szempontjukból pozitív irányban. Miközben a 2022 óta tartó masszív lejtmenet után az ESG-alapok teljesítménye épp a mögöttünk hagyott negyedévben mutatta a fordulat jeleit – hangzott el a Klasszis Fenntarthatóság 2026 konferencia alapkezelői kerekasztal-beszélgetésén.
Makro / Külgazdaság Rétvári Bence üzent Seszták Miklósnak
Privátbankár.hu | 2026. november 14. 13:57
Rétvári Bence a közösségi médiában jelentette be, arra kéri Seszták Miklóst, hogy adja vissza a mandátumát, illetve, hogy tisztázza magát a hatóságok előtt. A KDNP frakcióvezetője úgy véli, hogy ez az ügy egy egyedi büntetőügy, ugyanakkor azt határozottan visszautasították, hogy Magyar Péter bűnszervezetként állítsa be az egész jobboldalt.
Makro / Külgazdaság Szerb tisztítótűz: felbontották a Donald Trump vejének cégével kötött szerződést
Privátbankár.hu | 2026. november 14. 13:29
Hivatalosan is felbontotta Szerbia a Donald Trump amerikai elnök vejének, Jared Kushnernek a cégével kötött szerződést, amelynek értelmében szállodát, kaszinót és lakóépületeket építettek volna a belgrádi egykori jugoszláv vezérkari épület helyén – jelentette szombaton a Vreme című szerb hetilap kormányzati forrásokra hivatkozva.
Makro / Külgazdaság Folytatódhat az örömködés a benzinkutakon
Privátbankár.hu | 2026. november 14. 09:15
Az Mfor Üzemanyagár-figyelő szerint mind a kétfajta nafta ára még lejjebb mehet a jövő héten, igaz, a dízelé kevésbé.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG