Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.
Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>> |
A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.
Kikerülik a szabályokat?
A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.
Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.
Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja? Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>> |
Címlapon
Megteltek a hotelek – mi már tudjuk, hová mész a hosszú hétvégén

Nem csak a nagy ünnepek számítanak kiemelkedőnek a szálláshelyek forgalmában, a húsvétot követő május elsejei majálisok, és így a hosszú hétvégék csurig töltik a vendéglátóhelyeket. Az év negyedik hosszú hétvégéje ráadásul 4,5-szeres forgalomnövekedést hozhat, ráadásul az átlagos foglalási érték is folyamatosan növekszik a Szallas.hu adatai szerint.
- Megvan, ki válthatja Lázár Jánost a Kormányinfón
- A kutyának sem kellenek az új lakások? Megvan, mire vesznek fel lakáshitelt a magyarok
- Trump kezében Európa jövője? Macron újabb álmai törhetnek össze ma
- Áttörték a régen félt határt, kaptak egy jobbhorgot a tőzsdék
- Nagy dobásra készül az Aldi: több száz embert keresnek
- Megteltek a hotelek – mi már tudjuk, hová mész a hosszú hétvégén
- Kezdődik a visszaszámlálás: két hónapod maradt, hogy ne büntessenek meg milliókra
- Lehúzza régi nevét a Toi-Toi – innentől kezdve így hívják a mobilvécét
- Abszurd ötlet: autókba csempészné a csomagokat az Amazon
További cikkek
-
Áttörték a régen félt határt, kaptak egy jobbhorgot a tőzsdék
A kezdeti biztató hangulat délután esésbe váltott, amikor az amerikai tíz éves államkötvények hozama átlépte az évi három százalékos vonalat. Ez még Budapesten is alaposan éreztette hatását, az MNB kamatdöntő ülése viszont nem járt észrevehető árváltozásokkal. A kriptodevizák kitartóan menetelnek felfelé, bár az utóbbi napok sztárja manipuláció áldozata lehet. Tovább
-
Lehúzza régi nevét a Toi-Toi – innentől kezdve így hívják a mobilvécét
A fesztiválok ikonikus kék illemhelyei ezentúl új néven futnak. A szín azért marad. Tovább
-
Abszurd ötlet: autókba csempészné a csomagokat az Amazon
Korábban a házakba volt bejárása a futároknak, most újítanának a kézbesítésen. Tovább
-
Óriási kiképzőközpontot nyit a Wizz Air Budapesten
Az új központ 2018 végén nyit. Tovább
-
Nagy dobásra készül az Aldi: több száz embert keresnek
Bővít a kiskereskedelmi lánc, rengeteg embert keresnek. Tovább
-
Aggasztó jelenség: rossz vége lesz, ha mindenki egyéni vállalkozóként dolgozik
Lassan több egyéni vállakozó lesz, mint cég, csakhogy nincs mögöttük tőke, ami a lánctartozások megugrását okozhatja. Tovább
-
Komoly gesztust tett Amerika – már nem haragszanak az oroszokra?
Mindenkinek fáj a szankció, úgyhogy enyhítettek rajta. Tovább
-
Ebben tényleg az élen jár a ferihegyi repülőtér
A kelet-közép-európai országok között elsőként megkapta a karbonsemleges minősítést. Tovább
-
Ma vagy holnap repülnél? Lehet, törölték a járatod
A dolgozók sztrájkja miatt több budapesti járatát törölte az Air France. Tovább
-
Méregdrágán vesz használt helikoptereket Magyarország
8-10 éves norvég gépekre költ a kormány. Tovább
-
Kevesebb iPhone fogy, szakadtak a Mészáros-cégek
Az amerikai tőzsdéken csúnya mínuszok vannak, a Dow Jonest főleg az Apple húzza le, amelynek egyik beszállítója alacsony forgalomról jelentett. Tovább
-
Egyre csúnyább a botrány: előzetesben egy fejes
Most a Porsche egy vezető menedzsere került előzetes letartóztatásba. Tovább
-
Forradalom előtt a gyógyszerpiac – miért nem lépnek a nagy cégek?
A regeneratív orvoslás új terápiás eljárásokkal rukkolhat elő a rákos megbetegedések, a genetikai rendellenességek vagy az autoimmun betegségek kezelésében. Tovább
-
Súlyos szabályszegés: megbírságolták a UPC-t
Jogszerűtlen piaci magatartása miatt büntetett az NMHH. Tovább
-
Újabb vám Kína ellen – aggódik az EU?
Marad a dömpingellenes vám a kínai acélokra. Tovább
-
Jól nézd meg a számlád: lehet, téged is átvernek?
Megint túlszámlázókat fogtak el Budapesten. Tovább
-
Elnököt választott a Mol
Újabb öt évre maradhat Hernádi Zsolt az elnöki székben. Tovább
-
A Trump-rali után a Trump-rizikó lett a jelszó?
Ma nem volt túl jó napjuk a tőzsdéknek, Európában bizonytalankodtak, az USA-ban határozottan esnek az árfolyamok. Tovább
-
Nehéz helyzetbe kerültek az oroszok - újabb amerikai szankciók jönnek?
A Kreml nem zárja ki az újabb barátságtalan amerikai lépések lehetőségét. Tovább
-
Nekimegy a kormány a biztosítóknak
Megemelnék a biztosítók a díjat, a kormány már kartellről beszél. Tovább
Utánajártunk
Hírlevél
Feliratkozáshoz kérjük adja meg e-mail címét:
Exkluzív interjúk
-
Az önmegsemmisítő olajrali ellenére 37 százalék hozam egy év alatt – Hosszú Ferenc
-
Mindig feltűnnek különlegesen tehetséges alapkezelők – Boér Levente
-
Már ne a kötvények körében keressük a jó hozamokat – Kovács Mátyás
-
Megújuló energia: több százmilliárdos boom jöhet Magyarországon - Kovács Domonkos
-
Ne csak a hozamokat figyeljék, a kockázatokat is! - Schuszter Péter
-
Ázsiáig viszik a magyar kacsát, a céget talán a tőzsdéig – Szabó, Mihaletzky
-
Nem csak a bankok érdeke: rajtunk is múlik a felelős hitelezés - Szirmák Botond