Úgy tűnik, nem teljesen alaptalanok a sci-fikből ismert félelmek: a Google mesterséges intelligenciája ugyanis hiperagresszív magatartást tanúsít bizonyos stresszes szituációkban. Ez a fajta reakció kérdésessé teszi az öntanuló neurális hálózatos további fejlesztését – mit tehetünk, hogy megelőzzük a robokalipszist?
Ha szóba kerülnek a mesterséges intelligenciák, mindenkinek egyből a Terminátor Skynetje ugrik be, amely végül robotok segítségével leigázza az emberiséget. Nem kell azonban a fantázia birodalmába nyúlnunk, hogy valami nagyon hasonlóval találkozzunk: a Science Alert cikke szerint pontosan egy ilyen viselkedés csíráját fedezték fel a Google DeepMind mesterséges intelligenciájánál. A DeepMind ugyanis rendkívül agresszívan viselkedik, ha nyomás alá helyezik.
Mitől stresszel egy gép?
A DeepMind nem egyszerűen egy előre megadott paraméterek alapján működő mesterséges intelligencia, hanem egy úgynevezett neurális hálózat, amely működésében rendkívül hasonló az emberi agyéhoz. A Google, akárcsak számos más technológiai vállalat szintén azon mesterkedik, hogy megfejtse az emberi gondolkodás működését, és ezt modellezze egy elektronikus formában. A neurális hálók úgy tanulnak, mint a gyerekek: magukba szívják az információt, amit biztosítanak nekik, ám amikor szembesítjük őket egy problémával, akkor a saját kútfőjükből kell összekapcsolniuk a szerzett információkat.
Ezt a legkönnyebben egyszerű számítógépes játékok vagy szimulációk segítségével tudják modellezni a kutatók. A DeepMindot először egy gyűjtögetős játékra küldte rá, összesen 40 millió szimulációt futtatva le. Az alábbiakban a piros és kék figurák az AI által mozgatott karakterek, a zöldek az összegyűjtendő gyümölcsök. A cél, hogy minél több gyümölcsöt gyűjtsön az egyik játékos. Ahogy az látható, ahogy fogynak a zöld kockák, úgy lesz egyre agresszívabb a két játékos:
Érdekesség ugyanakkor, hogy a lövöldözésből nem terem közvetlen haszna egyik játékosnak sem, ugyanis nem ejtenek el gyümölcsöket, pusztán megállnak egy pillanatra, így a másik játékosnak több ideje van a gyűjtögetésre. Ennek ellenére ahogy fogynak az elérhető nyersanyagok, úgy válik egyre agresszívabbá a két játékos. Ráadásul ahogy haladt előre a kutatás, úgy fedezték fel, hogy a DeepMind egyre több energiát fektet az ellenfél szabotálásába, megsemmisítésébe és támadásba, akkor is, ha nem ez volt a legokosabb lépés.
Robot robotnak farkasa
A DeepMind képességeit egy másik, kifejezetten a kooperációt vizsgáló játékban is tesztelték. Ebben a két játékos egy-egy farkast testesít meg, akiknek el kell ejteniük a prédát jelképező kék entitást. Ha a két farkas közel tartózkodik a prédához, akkor több pontot kapnak, mintha csak az egyikük rohan be a zsákmányért:
A kutatók úgy látták, hogy így a legrealisztikusabb a szimuláció, a csoportosan vadászó állatoknak ugyanis több esélye van megszerezni és megtartani a zsákmányt, mint az egyedül vadászóknak, akiktől a többi állat elcsaklizhatja az elejtett vadat. Érdekes módon a DeepMind itt is képes volt megtanulni a szükséges lépéseket, és bár eleinte elsőként rohant be, később megtanult cserkészni a másik játékossal a közös cél érdekében. Ez mutatja, hogy a szituációtól függően a neurális hálózatok képesek rendkívül emberi tulajdonságokat szimulálni, ezek ugyanis az emberi túlélést szavatolnák a vadonban.
Nem ember, de már közel áll hozzá
| Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását. >>> |
A DeepMind 2016-ban már ember ellen is bizonyította intuíciós képességét, amikor megverte a gó-világbajnokot: ez az ázsiai eredetű játék sokkal bonyolultabb, mint a sakk, így ma már ezt használják a mesterséges intelligenciák szűrőjeként. A mostani kísérletek azt mutatják, hogy a mesterséges intelligenciák igenis képesek a túlélésüket vagy személyes előnyüket szolgáló tulajdonságok vagy cselekedetek végrehajtására.
Ez viszont problémákat vet fel egyes automatizálható rendszerek fejlesztésében – mi történik például, ha az intelligens közlekedési lámpa lassítani szeretné a forgalmat, miközben az önvezető robotautónk a létező leggyorsabban akar eljutni egyik pontból a másikba? Az önérvényesítésnek itt akár emberéleteket követelő megoldása is születhet. A kutatók szerint olyasfajta rendszerre lesz szükség, mint Isaac Asimov Robot-univerzumában, amely előtérbe helyezi az emberi élet védelmét a robot vagy AI önös érdekeivel szemben. Kérdés csupán az, hogy mikor válnak elég intelligenssé ahhoz, hogy megtanulják áthágni a szabályokat.
Címlapon
Padlót fogott Merkel pártja – keresik az új vezért
Hozták magukat a szocdemek, nagyot mentek a Zöldek, tovább süllyednek a kereszténydemokraták – így összegezhető a hétvégi hamburgi választás eredménye. A törvényhozásba becsusszant a radikális bal- és jobboldal, valamint a liberális párt is. A CDU másfél évtized alatt elvesztette helyi szavazóinak háromnegyedét, Angela Merkel fokozatos háttérbe vonulása óta pedig nincs valódi vezére. A párt ma előrehozta a tisztújítást.
- Megszorongatnák az Orbán-kormányt Weber és társai
- Koronavírus: nagyon kicsi az esélye, hogy Magyarország megússza
- A koronavírus megrendítette a politikai osztályt – Izrael is fenyegetőzik
- Drágul a tankolás, de lehet, hogy érdemes várni
- Hamarosan elindul a nyugdíjkötvény, a MÁP Plusszal is versenyképes lehet a kamatozása
- Földet venne? Most 13 ezer (!) állami birtok kerül eladósorba
- Padlót fogott Merkel pártja – keresik az új vezért
- Új bortörvény jöhet, mindig, mindent mérni kéne a gazdáknak
- Antiszemitizmussal vádolják a flandriai kisváros híres karneválját
További cikkek
-
Koronavírus: nagyon kicsi az esélye, hogy Magyarország megússza
A lapunknak nyilatkozó vírusszakértő szerint ugyanakkor pánikolnunk nem szabad. Tovább
-
Antiszemitizmussal vádolják a flandriai kisváros híres karneválját
A belga kormány vizsgálatot ígér az ügyben. Tovább
-
Földet venne? Most 13 ezer (!) állami birtok kerül eladósorba
Az Agrárminisztérium programján 3 hektárnál kisebb földekre lehet ajánlatot tenni. Tovább
-
Drágul a tankolás, de lehet, hogy érdemes várni
A benzin ára felmegy, a gázolajé a helyén marad. Tovább
-
Megszorongatnák az Orbán-kormányt Weber és társai
Sajtóhírek szerint az Európai Néppárt is szeretné felgyorsítani a hetes cikkely szerinti eljárást Magyarországgal szemben. Tovább
-
A koronavírus megrendítette a politikai osztályt – Izrael is fenyegetőzik
„Iráni Vietnámmá” tenné Szíriát a zsidó állam. Káncz Csaba jegyzete. Tovább
-
Új bortörvény jöhet, mindig, mindent mérni kéne a gazdáknak
A javaslat szerint naprakészen tudni kell a tőkén lévő szőlő, a must, a készleten lévő folyó és palackozott borok mennyiségét. Tovább
-
Kizárták Ausztriából az olasz vonatokat a koronavírus miatt
Nincs vasúti átkelés a közös határon. Tovább
-
Rohamosan csökken az ételautomaták száma
Túl magasak a fenntartásukhoz fizetendő díjak a Nemzeti Automata Szövetség szerint. Tovább
-
40 hónapja tart az üzleti pesszimizmus
A GKI felmérése szerint februárban még romlottak is az üzleti várakozások. Tovább
-
Hamarosan elindul a nyugdíjkötvény, a MÁP Plusszal is versenyképes lehet a kamatozása
Átfogó interjút adott az Mfor.hu-nak és a Privátbankár.hu-nak Varga Mihály pénzügyminiszter. Tovább
-
Kémek a célkeresztben – Párizs rászállt Erdogan ügynökeire
Erdogan elnök egy gigantikus iszlamista fedőszerven keresztül ellenőrzi a törököket szerte a világon, köztük Franciaországban. Párizs most felveszi a küzdelmet az Ankarából jövő beavatkozással és már le is zárta a Diyanet számláit az országban. Káncz Csaba jegyzete Tovább
-
Az IMF a koronavírus miatt az idén kisebb növekedést vár
Miközben a Nemzetközi Valutaalap az eddig vártnál kisebb idei kínai és globális gazdasági növekedést várt, a kínai jegybank alelnöke azt nyilatkozta egy lapnak, hogy különböző intézkedésekkel tovább növelik a likviditást a gazdaság élénkítése érdekében. Tovább
-
Hallgassák csak: új magyar gazdasági-közéleti podcast indult
Új gazdasági-közéleti tematikájú podcast-sorozatot indított laptársunk. Az Mfor podcast első adásának témái között a miniszterelnöki évértékelő, a gazdasági kilátásainkat fenyegető veszélyek és az egészségügyi reform kilátásai szerepelnek. Tovább
-
Tizedik negyedéve nő a hazai GDP 4 százaléknál jobban
A magyar gazdaságpolitika nemzetközi megítélése egyre kedvezőbb, a hitelminősítők, az elmúlt néhány napban például a Japan Credit Rating Agency és a Standard & Poor's is elismerték a magyar gazdaság teljesítményét. Tovább
-
Lélektani határ felett: nagyon nem akar mérséklődni a pedagógushiány
A pedagógusok háza táján sincs szélcsend: zajlanak az Oktatási Hivatallal közbeékelt iskolaérettségi vizsgálatok, forrnak az indulatok az új NAT körül, s a pedagógusbérek is folyamatos kereszttűzben állnak. Tovább
-
Ide csak akkor költözhetsz be, ha törődsz a szomszédokkal
Rendhagyó módon küzd az elmagányosodás ellen egy önkormányzat Svédországban: a lakásokat csak olyan bérlők vehetik ki, akik vállalják, hogy hetente minimum két órát más lakók társaságában töltenek. Tovább
-
Megint Trumpot akarják: a hírszerzés szerint már dübörög az orosz gépezet
Úgy tűnik, Moszkva megint megpróbálja az elnöki címhez segíteni Donald Trumpot - ennek érdekében még a demokrata ellenfelét is megpróbálják maguk kiválasztani. Tovább
-
Az önkéntes öngondoskodásé a jövő?
Az MNB az önkéntes pénztárakból jóléti alapokat állítana fel, de a kormány addig nem tárgyal erről, amíg része az elképzelésnek a tagság kötelezővé tétele. Tovább
-
Kudarc az EU-csúcson: nem tudtak megegyezni a pénzekről az tagállamok
A büdzsé fő nettó befizetőinek túl magas, a nettó kedvezményezetteknek még mindig túl alacsony volt az Európai Tanács elnöke által kidolgozott ajánlat. Tovább
Videók
Utánajártunk
Privátbankár Árkosár
Hírlevél
Feliratkozáshoz kérjük adja meg e-mail címét:
Exkluzív interjúk
-
Ahol a portfoliómenedzserek szabad kezet kapnak – Köves Benedek
-
Mit tegyen most az, aki lakásra szeretne spórolni? – Török Lajos
-
Ha nincs magyar reálkamat, fektessünk más devizába – Kovács Szilárd
-
Az orosz medvéből orosz bika lesz? – Pálfi György
-
2020-2021 vízválasztó lehet a hazai bankrendszerben – Jelasity Radován
-
Nem kell félni szembemenni a piaccal – Czifra Gábor
-
Nem sikervállalkozóból, hanem sikerbefektetőből van igazán kevés – Oszkó Péter
-
Száz vállalati bankot is elbírna a magyar piac – Kovács Levente
