Lapunk Minőségi Újságírás díjat kapott 2020. júliusában
Úgy tűnik, nem teljesen alaptalanok a sci-fikből ismert félelmek: a Google mesterséges intelligenciája ugyanis hiperagresszív magatartást tanúsít bizonyos stresszes szituációkban. Ez a fajta reakció kérdésessé teszi az öntanuló neurális hálózatos további fejlesztését – mit tehetünk, hogy megelőzzük a robokalipszist?

Ha szóba kerülnek a mesterséges intelligenciák, mindenkinek egyből a Terminátor Skynetje ugrik be, amely végül robotok segítségével leigázza az emberiséget. Nem kell azonban a fantázia birodalmába nyúlnunk, hogy valami nagyon hasonlóval találkozzunk: a Science Alert cikke szerint pontosan egy ilyen viselkedés csíráját fedezték fel a Google DeepMind mesterséges intelligenciájánál. A DeepMind ugyanis rendkívül agresszívan viselkedik, ha nyomás alá helyezik.

Mitől stresszel egy gép?

A DeepMind nem egyszerűen egy előre megadott paraméterek alapján működő mesterséges intelligencia, hanem egy úgynevezett neurális hálózat, amely működésében rendkívül hasonló az emberi agyéhoz. A Google, akárcsak számos más technológiai vállalat szintén azon mesterkedik, hogy megfejtse az emberi gondolkodás működését, és ezt modellezze egy elektronikus formában. A neurális hálók úgy tanulnak, mint a gyerekek: magukba szívják az információt, amit biztosítanak nekik, ám amikor szembesítjük őket egy problémával, akkor a saját kútfőjükből kell összekapcsolniuk a szerzett információkat.

Ezt a legkönnyebben egyszerű számítógépes játékok vagy szimulációk segítségével tudják modellezni a kutatók. A DeepMindot először egy gyűjtögetős játékra küldte rá, összesen 40 millió szimulációt futtatva le. Az alábbiakban a piros és kék figurák az AI által mozgatott karakterek, a zöldek az összegyűjtendő gyümölcsök. A cél, hogy minél több gyümölcsöt gyűjtsön az egyik játékos. Ahogy az látható, ahogy fogynak a zöld kockák, úgy lesz egyre agresszívabb a két játékos:

Érdekesség ugyanakkor, hogy a lövöldözésből nem terem közvetlen haszna egyik játékosnak sem, ugyanis nem ejtenek el gyümölcsöket, pusztán megállnak egy pillanatra, így a másik játékosnak több ideje van a gyűjtögetésre. Ennek ellenére ahogy fogynak az elérhető nyersanyagok, úgy válik egyre agresszívabbá a két játékos. Ráadásul ahogy haladt előre a kutatás, úgy fedezték fel, hogy a DeepMind egyre több energiát fektet az ellenfél szabotálásába, megsemmisítésébe és támadásba, akkor is, ha nem ez volt a legokosabb lépés.

Robot robotnak farkasa

A DeepMind képességeit egy másik, kifejezetten a kooperációt vizsgáló játékban is tesztelték. Ebben a két játékos egy-egy farkast testesít meg, akiknek el kell ejteniük a prédát jelképező kék entitást. Ha a két farkas közel tartózkodik a prédához, akkor több pontot kapnak, mintha csak az egyikük rohan be a zsákmányért:

A kutatók úgy látták, hogy így a legrealisztikusabb a szimuláció, a csoportosan vadászó állatoknak ugyanis több esélye van megszerezni és megtartani a zsákmányt, mint az egyedül vadászóknak, akiktől a többi állat elcsaklizhatja az elejtett vadat. Érdekes módon a DeepMind itt is képes volt megtanulni a szükséges lépéseket, és bár eleinte elsőként rohant be, később megtanult cserkészni a másik játékossal a közös cél érdekében. Ez mutatja, hogy a szituációtól függően a neurális hálózatok képesek rendkívül emberi tulajdonságokat szimulálni, ezek ugyanis az emberi túlélést szavatolnák a vadonban.

Nem ember, de már közel áll hozzá

Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását. >>>

A DeepMind 2016-ban már ember ellen is bizonyította intuíciós képességét, amikor megverte a gó-világbajnokot: ez az ázsiai eredetű játék sokkal bonyolultabb, mint a sakk, így ma már ezt használják a mesterséges intelligenciák szűrőjeként. A mostani kísérletek azt mutatják, hogy a mesterséges intelligenciák igenis képesek a túlélésüket vagy személyes előnyüket szolgáló tulajdonságok vagy cselekedetek végrehajtására.

Ez viszont problémákat vet fel egyes automatizálható rendszerek fejlesztésében – mi történik például, ha az intelligens közlekedési lámpa lassítani szeretné a forgalmat, miközben az önvezető robotautónk a létező leggyorsabban akar eljutni egyik pontból a másikba? Az önérvényesítésnek itt akár emberéleteket követelő megoldása is születhet. A kutatók szerint olyasfajta rendszerre lesz szükség, mint Isaac Asimov Robot-univerzumában, amely előtérbe helyezi az emberi élet védelmét a robot vagy AI önös érdekeivel szemben. Kérdés csupán az, hogy mikor válnak elég intelligenssé ahhoz, hogy megtanulják áthágni a szabályokat.

LEGYEN ÖN IS ELŐFIZETŐNK!

Szerkesztőségünkben mindig azon dolgozunk, hogy higgadt hangvételű, tárgyilagos és magas szakmai színvonalú írásokat nyújtsunk Olvasóink számára. Sok éves tapasztalattal a hátunk mögött elérkezettnek láttuk az időt arra, hogy szintet lépjünk és egy olyan lehetőséget kínáljunk Önöknek, amelynek segítségével egyes témakörök elismert szakértőinek - így többek között Bod Péter Ákos, Pogátsa Zoltán, Darvas Zsolt, László Csaba, Prinz Dániel vagy Szakonyi Péter - véleményeihez, mélyelemzéseihez, neves újságírók által készített egyedi tartalmakhoz jutnak hozzá. Ennek formája egy ELŐFIZETÉS, mely egyszerre nyújt korlátlan hozzáférést az Mfor.hu és a Privátbankár.hu tartalmaihoz, a Klub csomag pedig egyebek között klubtagságot, webinárumokon való részvételt, a Piac és Profit magazin teljes tartalmához hozzáférést és hirdetés nélküli olvasási lehetőséget is tartalmaz.

Előfizetőink naponta 4-6 unikális, máshol nem olvasott, minőségi tartalomhoz jutnak hozzá, cikkenként nagyjából 10 forintért, havonta és laponként 745 forintért.

Cikkeink túlnyomó többsége azonban továbbra is szabadon olvasható marad.


Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Jól jönne 1,5 millió forint?

A Bank360.hu és a Privátbankár kalkulátora alapján az alábbi induló törlesztőkre számíthatsz januárban, ha 1,5 millió forintra van szükséged 60 hónapra: a Raiffeisen Bank személyi kölcsöne 30 379 forintos törlesztőrészlettel lehet a tiéd. Az Ersténél 32 831 forint, a Cetelemnél pedig 33 102 forint a törlesztőrészlet. Más kölcsönt keresel? Ezzel a kalkulátorral összehasonlíthatod a bankok ajánlatait!

Makro / Külgazdaság Befektetett a maffia, most várják a pénzesőt
Király Béla | 2021. március 6. 06:16
Az olasz bűnszervezetek számára is kihívást jelentett a koronavírus-járvány, amely miatt némileg módosultak a tagok által elkövetett bűncselekmények. A maffia ugyanakkor keresi a lehetőséget, és a majdani újjáépítési alapból érkező pénzeső számukra is komoly bevétellel kecsegtet.
Makro / Külgazdaság Pont a harmadik hullám közepén tűntek el ezrek az egészségügyből - A hét videója
Kormos Olga-Izsó Márton | 2021. március 5. 19:33
A hét egyik legnagyobb eseményét kétségtelenül az új egészségügyi jogviszonyról szóló munkaszerződések aláírása vagy alá nem írása jelentette. Szokásos videós anyagunkban arról esik szó, hogyan teltek az aláírás döntését megelőző napok. 
Makro / Külgazdaság A Mol és az OTP húzta a BUX-ot
MTI | 2021. március 5. 18:52
A Budapesti Értéktőzsde részvényindexe, a BUX 336,39 pontos, 0,78 százalékos emelkedéssel, 43 269 ponton zárt pénteken.
Makro / Külgazdaság Kásler Miklós elrendelte az egynapos sebészeti ellátások felfüggesztését
MTI | 2021. március 5. 18:33
Kásler Miklós, az emberi erőforrások minisztere elrendelte az egynapos sebészeti ellátások azonnali felfüggesztését.
Makro / Külgazdaság Bütykölik az államkincstár nyilvántartását, de áprilisra elérhetők lesznek a nyugdíjhoz szükséges adatok
Baka F. Zoltán | 2021. március 5. 17:59
Nem látni a friss járulékadatokat, fejleszteni kell az egyéni számlákat vezető rendszert.
Makro / Külgazdaság Itt a rendelet a szigorításról: mutatjuk a sok kivételt, ami nyitva lehet hétfőtől is
Privátbankár.hu | 2021. március 5. 17:34
Hétfőtől mindenhol kötelező a maszk, nyitva lehetnek az alapvető árukat forgalmazó boltok, a gyógyszertárak, a szervizek és egyes szolgáltatók. Be kell zárni két hétre a kaszinókat és egymilliós bírság és akár egy éves bezárás fenyegeti a tiltás alá eső más üzleteket is, ha mégis működnek az átmeneti időszakban.
Makro / Külgazdaság 100 éves a Kínai Kommunista Párt – vérfürdők és csúcstechnológia
Káncz Csaba | 2021. március 5. 14:58
A centenárium évében a pártvezetés szilárdan hiszi, hogy Hszi elvtárssal a középpontban egy olyan átfogó rendszert fejlesztett ki, amellyel hatékonyan tudja kormányozni az óriási országot. A szovjet tömb összeomlása után három évtizeddel az új kínai techno-leninizmus hiteles vetélytársa lett a liberális demokráciáknak. Káncz Csaba jegyzete.
Makro / Külgazdaság A katolikus templomok nem zárnak be, mehetnek tovább a misék
Privátbankár.hu | 2021. március 5. 12:32
Kormányrendelet továbbra sincs, de a Magyar Katolikus Püspöki Konferencia már közölte a döntését.
Makro / Külgazdaság Annyira beindult a brit vakcinaprogram, hogy most már július vége a cél a teljes felnőtt lakosság beoltására
MTI | 2021. március 5. 09:19
Korábban még szeptemberig oltottak volna be minden nagykorút a szigetországban, de a mostani lendület alapján előbbre hozták a kitűzött céldátumot.
Makro / Külgazdaság Koronavírus: minden ötödik teszt pozitív!
Privátbankár.hu | 2021. március 5. 09:06
Tovább erősödik a harmadik hullám: a kórházban ápoltak száma gyorsan emelkedik, egyre többen vannak lélegeztetőgépen.
hírlevél