4p

Az illúziók vége – a racionalitás kezdete –
úgy tűnik el az ESG, hogy velünk marad?

Klasszis Fenntarthatóság 2025 konferencia

2025. november 4., Budapest

Jelentkezzen most!

Úgy tűnik, nem teljesen alaptalanok a sci-fikből ismert félelmek: a Google mesterséges intelligenciája ugyanis hiperagresszív magatartást tanúsít bizonyos stresszes szituációkban. Ez a fajta reakció kérdésessé teszi az öntanuló neurális hálózatos további fejlesztését – mit tehetünk, hogy megelőzzük a robokalipszist?

Ha szóba kerülnek a mesterséges intelligenciák, mindenkinek egyből a Terminátor Skynetje ugrik be, amely végül robotok segítségével leigázza az emberiséget. Nem kell azonban a fantázia birodalmába nyúlnunk, hogy valami nagyon hasonlóval találkozzunk: a Science Alert cikke szerint pontosan egy ilyen viselkedés csíráját fedezték fel a Google DeepMind mesterséges intelligenciájánál. A DeepMind ugyanis rendkívül agresszívan viselkedik, ha nyomás alá helyezik.

Mitől stresszel egy gép?

A DeepMind nem egyszerűen egy előre megadott paraméterek alapján működő mesterséges intelligencia, hanem egy úgynevezett neurális hálózat, amely működésében rendkívül hasonló az emberi agyéhoz. A Google, akárcsak számos más technológiai vállalat szintén azon mesterkedik, hogy megfejtse az emberi gondolkodás működését, és ezt modellezze egy elektronikus formában. A neurális hálók úgy tanulnak, mint a gyerekek: magukba szívják az információt, amit biztosítanak nekik, ám amikor szembesítjük őket egy problémával, akkor a saját kútfőjükből kell összekapcsolniuk a szerzett információkat.

Ezt a legkönnyebben egyszerű számítógépes játékok vagy szimulációk segítségével tudják modellezni a kutatók. A DeepMindot először egy gyűjtögetős játékra küldte rá, összesen 40 millió szimulációt futtatva le. Az alábbiakban a piros és kék figurák az AI által mozgatott karakterek, a zöldek az összegyűjtendő gyümölcsök. A cél, hogy minél több gyümölcsöt gyűjtsön az egyik játékos. Ahogy az látható, ahogy fogynak a zöld kockák, úgy lesz egyre agresszívabb a két játékos:

Érdekesség ugyanakkor, hogy a lövöldözésből nem terem közvetlen haszna egyik játékosnak sem, ugyanis nem ejtenek el gyümölcsöket, pusztán megállnak egy pillanatra, így a másik játékosnak több ideje van a gyűjtögetésre. Ennek ellenére ahogy fogynak az elérhető nyersanyagok, úgy válik egyre agresszívabbá a két játékos. Ráadásul ahogy haladt előre a kutatás, úgy fedezték fel, hogy a DeepMind egyre több energiát fektet az ellenfél szabotálásába, megsemmisítésébe és támadásba, akkor is, ha nem ez volt a legokosabb lépés.

Robot robotnak farkasa

A DeepMind képességeit egy másik, kifejezetten a kooperációt vizsgáló játékban is tesztelték. Ebben a két játékos egy-egy farkast testesít meg, akiknek el kell ejteniük a prédát jelképező kék entitást. Ha a két farkas közel tartózkodik a prédához, akkor több pontot kapnak, mintha csak az egyikük rohan be a zsákmányért:

A kutatók úgy látták, hogy így a legrealisztikusabb a szimuláció, a csoportosan vadászó állatoknak ugyanis több esélye van megszerezni és megtartani a zsákmányt, mint az egyedül vadászóknak, akiktől a többi állat elcsaklizhatja az elejtett vadat. Érdekes módon a DeepMind itt is képes volt megtanulni a szükséges lépéseket, és bár eleinte elsőként rohant be, később megtanult cserkészni a másik játékossal a közös cél érdekében. Ez mutatja, hogy a szituációtól függően a neurális hálózatok képesek rendkívül emberi tulajdonságokat szimulálni, ezek ugyanis az emberi túlélést szavatolnák a vadonban.

Nem ember, de már közel áll hozzá

Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását. >>>

A DeepMind 2016-ban már ember ellen is bizonyította intuíciós képességét, amikor megverte a gó-világbajnokot: ez az ázsiai eredetű játék sokkal bonyolultabb, mint a sakk, így ma már ezt használják a mesterséges intelligenciák szűrőjeként. A mostani kísérletek azt mutatják, hogy a mesterséges intelligenciák igenis képesek a túlélésüket vagy személyes előnyüket szolgáló tulajdonságok vagy cselekedetek végrehajtására.

Ez viszont problémákat vet fel egyes automatizálható rendszerek fejlesztésében – mi történik például, ha az intelligens közlekedési lámpa lassítani szeretné a forgalmat, miközben az önvezető robotautónk a létező leggyorsabban akar eljutni egyik pontból a másikba? Az önérvényesítésnek itt akár emberéleteket követelő megoldása is születhet. A kutatók szerint olyasfajta rendszerre lesz szükség, mint Isaac Asimov Robot-univerzumában, amely előtérbe helyezi az emberi élet védelmét a robot vagy AI önös érdekeivel szemben. Kérdés csupán az, hogy mikor válnak elég intelligenssé ahhoz, hogy megtanulják áthágni a szabályokat.

A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Makro / Külgazdaság Elmondta Varga Mihály, mikor lehet eurónk – és hogy miként állnak az MNB-alapítványok ügyei
Privátbankár.hu | 2025. október 20. 13:56
Az euró bevezetése előtt még lenne egy kis dolga a kormánynak. Az alapítványoknál leginkább kármentés zajlik, hangzott el többek között a jegybankelnök meghallgatásán.
Makro / Külgazdaság Szívhez szóló beszédet mondott Szijjártó Péter az uniós tanácsülésen – de ez elég lesz az orosz energiaimport megtartásához?
Privátbankár.hu | 2025. október 20. 13:28
Vétójog híján az érzelmekre hatni és érvelni is próbált a magyar miniszter az orosz energia importja mellett.
Makro / Külgazdaság Könnyek szöknek a szemünkbe, ha meglátjuk, mennyivel nőtt a lengyel ipar
Privátbankár.hu | 2025. október 20. 11:10
Jelentős növekedésről számolt be a lengyel hivatal – majdnem pont akkoráról, mint amekkorát a magyar ipari termelés zuhant.
Makro / Külgazdaság Sikeres ukrán támadás a világ legnagyobb gázfeldolgozó üzeme ellen
Privátbankár.hu | 2025. október 20. 08:32
A világ legnagyobb gázfeldolgozó üzeme ellen is sikeres támadást indított Ukrajna. Oroszország egy szénbányát vett célba.
Makro / Külgazdaság Így jár, aki kilép az Európai Unióból
Privátbankár.hu | 2025. október 20. 06:42
A Bank of England kormányzója szerint a brit EU-tagság megszűnésének (Brexit) a belátható jövőben negatív hatása lesz a brit gazdaság növekedésére.
Makro / Külgazdaság Roham a kedvezményes hitelekért: 1100 kkv már lépett – Klasszis Podcast az NGM államtitkárával
Izsó Márton - Csabai Károly | 2025. október 20. 05:44
A Klasszis Podcastban Szabados Richárddal, a Nemzetgazdasági Minisztérium (NGM) kis- és középvállalkozások fejlesztéséért és technológiáért felelős államtitkárával beszélgettünk, annak apropóján, hogy a kormány október 6-ától a kis- és középvállalkozások számára is 3 százalékos kamattal teszi elérhetővé az addig 4,5 százalékos likviditási hitelt.
Makro / Külgazdaság Daruval érkeztek, robogóval távoztak a párizsi ékszerrablók
Privátbankár.hu | 2025. október 19. 16:46
Újabb részletek derültek ki a párizsi Louvre múzeum vasárnapi rablásáról. Az elkövetők profinak tűntek, négy perc alatt végeztek, de menekülés közben elhagyták Eugénia császárné koronáját.
Makro / Külgazdaság Tüntetők töltötték meg az amerikai nagyvárosok utcáit Trump politikája miatt
Privátbankár.hu | 2025. október 19. 16:09
New York és Los Angeles belvárosa mellett számos kisebb városban is tömegek vonultak az utcákra a No Kings tüntetéssorozat alkalmával. A tiltakozók Donald Trump politikáját bírálták, a kormányzási stílusát pedig diktatorikusnak tartják. 
Makro / Külgazdaság A szerencsejátékosok asztalára csapott Terézváros önkormányzata
Privátbankár.hu | 2025. október 19. 15:35
A VI. kerület vezetésének elege lett a sportfogadást és a kaszinókat népszerűsítő reklámokból, ezért rendelet módosítottak, és ellenkampányt indítottak.
Makro / Külgazdaság Ha így folytatja az orosz hadsereg, 100 év alatt sem foglalja el Ukrajnát
Privátbankár.hu | 2025. október 19. 14:03
Az Economist elemzése szerint idén látványosan lelassult az orosz hadsereg előrenyomulása Ukrajnában. Öt hónap alatt mindössze az ország 0,4 százalékának megfelelő területet foglaltak el, eközben pedig legalább 100 ezer katonát veszítettek.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG