3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

A rovat támogatója:
A rovat támogatója a Vegas.hu A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Ezek a kínaiak Bahiába mentek, de a BYD gyárépítés „rabszolgái” lettek
Privátbankár.hu | 2024. december 24. 15:45
A brazil tisztviselők 163 kínai állampolgárt találtak, akik „rabszolgasághoz hasonló körülmények között” dolgoztak a BYD kínai elektromos járműgyártó gyárának építkezésén a brazil Bahia államban.
Vállalat Ha ebben tétovázik Joe Biden, az felbosszanthatja Donald Trumpot
Privátbankár.hu | 2024. december 24. 13:15
A Nippon Steel és az U.S. Steel egyesülési terve, amely 15 milliárd dolláros üzletet jelent, az amerikai elnök elé került, aki a következő 15 napban dönthet a megállapodás sorsáról.
Vállalat Ezért zár be rengeteg amerikai Starbucks karácsonykor
Privátbankár.hu | 2024. december 24. 09:13
Nem azért, hogy kedveskedjen a cég dolgozóinak, épp ellenkezőleg.
Vállalat Bizony, ekkora forgalommal indult a Gránit Bank kereskedése a tőzsdén
Privátbankár.hu | 2024. december 24. 08:29
A bank részvényeinek kereskedelme ünnepélyes keretek között kezdődött hétfőn.
Vállalat Tovább terjeszkedik a 4iG
Privátbankár.hu | 2024. december 20. 17:51
A cég ezúttal a Rotors & Cams Zrt.-ben szerzett részesedést.
Vállalat Nem bukott akkorát a Nike, mint várták, de a jövő továbbra is borús
Privátbankár.hu | 2024. december 20. 11:04
Nem szépek a Nike számai, de ennél is rosszabbra számítottak az elemzők. Az új vezérigazgató viszont továbbra is hűti a kedélyeket.
Vállalat Amazon-dolgozók ezért váltak harcos amazonokká az ünnepek előtt
Privátbankár.hu | 2024. december 19. 17:48
A munkavállalók hét egyesült államokbeli raktárban kezdtek sztrájkba csütörtökön, hogy a cég végre elkezdje a bértárgyalásokat velük.
Vállalat A CIB párbeszédre buzdít a jó munkahely összetevőiről
PR | 2024. december 17. 17:35
Minden tizedik magyar munkavállaló aktívan állást keres, mert a jelenlegi munkahelyén nem érzi jól magát – ez is kiderült a CIB Banknak a Mélylevegő Projekttel közösen készített, a munkahellyel való elégedettségre vonatkozó reprezentatív felméréséből. Az eredményekről és a tanulságokról Tóth Györgyit, a pénzintézet HR vezetőjét kérdeztük.
Vállalat Az INA szíriai olajmezői most Hernádi Zsolték ölébe hullhatnak
Bózsó Péter | 2024. december 17. 15:39
A magyar olajcég horvát leányvállalatának, az INA-nak a polgárháború előtt jelentős olaj- és gázmezői voltak az ország közepén.
Vállalat A BGE üzleti partnerei az egyetemi közösség meghatározó szereplői is egyben
Natív tartalom | 2024. december 17. 13:33
Izgalmas változások előtt áll a Budapesti Gazdasági Egyetem (BGE). Magyarország legnagyobb gazdaságtudományi egyetemén célunk, hogy lépést tartsunk a piaci elvárásokkal és a hallgatói igényekkel. Üzleti partnereinkkel tananyagfejlesztésbe kezdtünk, korszerűsítjük az oktatást, jelenlegi és végzett hallgatóinknak pedig álláskereső portált indítunk. Tovább építjük a BGE Alumnit, melynek hatalmas mérföldköve volt az idén megrendezésre került nagy sikerű első BGE Alumni Fest. Az eseményen a jó hangulatú networking mellett BGE-s alumnik, akik ma már sikeres vállalkozók és üzleti szakemberek osztották meg saját tapasztalataikat a sikerhez vezető útról – mondja Vértesy Eszter, a BGE üzleti partnerségért és alumni kapcsolatokért felelős vezetője, akivel közel egy éve beszélgettünk még a formabontó rendezvény megrendezése előtt. Azóta számos előrelépés, jelentős esemény történt az egyetem és az üzleti szféra kapcsolatának erősítésében: új vállalati együttműködések születtek, többek között az EY-jal és a KPMG-vel, és tovább folytatódott a BGE Vállalati Mentorprogram is, melyben a hallgatók vállalati környezetben, vezető kollégák bevonásával ismerhetik meg egy vezető mindennapjait.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG