Hirdetés
Hirdetés

Bedobtak egy ötletet: ezzel állítanák meg a gépek lázadását

2017. december 12., 15:06

Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Hirdetés

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

Értékeld a cikket
Jelenlegi értékelés

Címlapon

Megteltek a hotelek – mi már tudjuk, hová mész a hosszú hétvégén

Megteltek a hotelek – mi már tudjuk, hová mész a hosszú hétvégén

Nem csak a nagy ünnepek számítanak kiemelkedőnek a szálláshelyek forgalmában, a húsvétot követő május elsejei majálisok, és így a hosszú hétvégék csurig töltik a vendéglátóhelyeket. Az év negyedik hosszú hétvégéje ráadásul 4,5-szeres forgalomnövekedést hozhat, ráadásul az átlagos foglalási érték is folyamatosan növekszik a Szallas.hu adatai szerint.

Hirdetés
Hirdetés

További cikkek

Hirdetés
Hirdetés

Videók

Utánajártunk

Hírlevél

Feliratkozáshoz kérjük adja meg e-mail címét:

  • BUX37892.90-0.6%
    DAX9823.5-2.77%
    EUR/HUF311.610%
    EUR/USD1.08340%
    Arany1118.150%

Szavazás

Ön szeretné, hogy elmélyítsék az Európai Unió integrációját?