3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

A rovat támogatója:
A rovat támogatója a Vegas.hu A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Zöld jelzés a hazai parkett üdvöskéjének
Privátbankár.hu | 2024. december 5. 12:36
Jóváhagyta a cseh versenyhatóság az AutoWallis csehországi akvizícióját.
Vállalat Moszkva így rúg nagyot a Carlsberg sörgyárba
Privátbankár.hu | 2024. december 3. 13:35
Oroszország jóváhagyta, hogy a dán cég ottani eszközeit 320 millió dollárért helyi üzletembereknek adják el.
Vállalat Morafcsik László: „Én nem tudok olyan ügyfélről, aki ne találná meg a megoldást a Fundamentánál”
Natív tartalom | 2024. december 2. 17:26
Hazai tulajdonosa lett a Fundamenta–Lakáskassza Zrt.-nek, ami változásokat hozott a lakás-takarékpénztár életében is. Milyen új termékek érhetők el, milyen változásokat rejt magában a nemrég megváltoztatott lakás-takarékpénztári törvény, és mekkora összeget lehet elérni a megtakarítási időszak végén? Ezekre a kérdésekre is válaszolt Morafcsik László vezérigazgató, aki az országosan kiterjedt Személyi Bankár hálózatukról is beszélt interjúnkban.
Vállalat Jóval kevesebb, de sokkal jobb minőségű vörösborra van szüksége a világnak
Privátbankár.hu | 2024. december 2. 12:48
A Magyar Sommelier Szövetség a Jammertal Borbirtoknak ítélte a „Dr. Kosárka József emlékdíjat”. Ezt az a természetes vagy jogi személy kapja, aki az adott évben a legtöbbet tette a magyar bor kiemelkedő külföldi sikereiért. A Jammertal Borbirok ( JBB ) társtulajdonosa, dr. Szűcs Róbert laptársunknak, a szintén a Klasszis Médiához tartozó Turizmus Online portálnak elmondta: úgy érzi, eredményeikkel Villányt felhelyezték a világ elit kékszőlőtermelő terroirjai térképére. Más kérdés, hogy ezt a hazai állami bormarketinggel foglalkozó szervezetek eddig nem akarták meglovagolni.
Vállalat Hogyan vehetik fel a versenyt a magyar kkv-k a munkaerőpiacon?
Privátbankár.hu | 2024. december 2. 09:48
A magyar vállalatok, különösen a kkv-k számára egyre nehezebb feladat a szakképzett munkaerő megszerzése és megtartása. Nógrádi József, a Trenkwalder Magyarország kereskedelmi igazgatója a Cégkassza Podcast legújabb adásában kiemelte, hogy az újgenerációs munkavállalók megszólításához a cégeknek alkalmazkodniuk kell a fiatalabb generációk elvárásaihoz, akik nagyobb rugalmasságot és modern munkakörnyezetet keresnek.
Vállalat Bekeményít Elon Musk, odavágna egyet a ChatGPT fejlesztőjének
Privátbankár.hu | 2024. december 2. 09:14
Ha a Trumphoz közel álló techmogulnak ad igazat a bíróság, léket kaphatnak az OpenAI nagy tervei – és ezzel Musk saját cégei is jobb helyzetbe kerülhetnek.
Vállalat Dől az első dominó? Akkora csapást ígérnek a Volkswagen dolgozói, amekkorát még nem látott a cég
Privátbankár.hu | 2024. december 1. 15:51
Európa legnagyobb autógyártójánál, a Volkswagennél hétfőn elindulnak a figyelmeztető sztrájkok.
Vállalat 500 milliárd forint fölé nőtt a 4iG árbevétele
Privátbankár.hu | 2024. november 29. 18:16
Minden korábbi csúcsot meghaladó árbevételről és EBITDA-ról számolt be a cégcsoport gyorsjelentésében.
Vállalat Az oroszokat ez a fém is húzza
Privátbankár.hu | 2024. november 28. 12:08
A Nornickel eladásai csökkennek, még a kínai piacon is. Az orosz cég új technológiákat keres, hogy fenntartsa a keresletet.
Vállalat A Toyota Motor októberben is szenvedett a légzsákoktól
Privátbankár.hu | 2024. november 28. 11:46
A japán autógyár globális termelése kilencedik egymást követő hónapban esett vissza októberben, amit az Egyesült Államokban és Kínában tapasztalt nagymértékű termelési visszaesés húzott le.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG