3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Sokan örülhetnek a Telekom bejelentésének
Privátbankár.hu | 2026. november 19. 16:46
Megállapodott a Magyar Telekom az érdekképviseletekkel a javadalmazási intézkedésekről.
Vállalat Hiába a 320 milliárdos bevétel, veszteséges az AutoWallis
Privátbankár.hu | 2026. november 19. 09:11
A tavalyi 3,6 milliárd forintos nyereség után 2,4 milliárd forintos veszteséggel zárta 2026 első kilenc hónapját az AutoWallis Csoport. A vállalat árbevétele 9 százalékkal, 320,3 milliárd forintra csökkent, miközben a kínai autómárkák erősödő versenye, az új márkák bevezetésének költségei és az erős forint egyaránt rontották az eredményességet. A társaság szerint a visszaesés átmeneti, ezért továbbra is fenntartja hosszú távú növekedési stratégiáját.
Vállalat Fontos együttműködést kötött Jászai Gellért
Privátbankár.hu | 2026. november 18. 14:29
A 4iG és az amerikai Sentinel Midstream stratégiai együttműködési megállapodást írtak alá az adriai régió kritikus energiainfrastruktúrájának fejlesztésére. 
Vállalat Ez súlyos: a rejtélyes orosz szál miatt mutathattak ajtót a németek a magyar banknak – frissítve
Privátbankár.hu | 2026. november 18. 10:07
Az egyik oknyomozó portál szerint lesújtó volt a németek véleménye a politikai befolyás alá került magyar pénzintézetről.
Vállalat Frissített az MBH Jelzálogbank, így változott a felsővezetés
Privátbankár.hu | 2026. november 18. 09:51
Kedden tartották a rendkívüli közgyűlést, még szükséges a jegybanki engedély is a változások véglegessé válásához.
Vállalat Gigantikus beruházással bővítené németországi gyárát a Tesla
Privátbankár.hu | 2026. november 17. 19:49
Már 2027 első felében elkezdenék az építkezést, 2029-től pedig önvezető autókat gyárthatnak a Berlin környéki üzemben.
Vállalat Szigorít az Nvidia: új bizottság felügyeli az exportot, különösen Kína felé
Privátbankár.hu | 2026. november 17. 16:43
A világ legnagyobb gyártója az amerikai exportkorlátozások megkerülésével juttathatott el fejlett chipeket Kínába.
Vállalat Három hónap alatt 50 milliárdos nyereség az MBH Banknál
Privátbankár.hu | 2026. november 17. 10:58
Itt a negyedéves jelentés.
Vállalat Óriási mozgalom szerveződött Jensen Huang visszatéréséért: Donald Trump és Elon Musk is beállt az Nvidia bukott vezére mögé
Herman Bernadett | 2026. november 17. 05:46
Hétfőn délutánig már 180 ezren – köztük Elon Musk és a Szilícium-völgy legbefolyásosabb vezetői – követelték petícióban a kémbotrány és a házasságtörési ügyek miatt távozott Nvidia-vezér, Jensen Huang visszahelyezését. Miközben a világ második legértékesebb cégének sorsa körül áll a bál, veszélybe került az AI-ipart éltető 500 milliárd dolláros finanszírozási gigaterv is. Kedden este történetében először az alapító nélkül magyarázhatja a friss gyorsjelentést a chipgyártó.
Vállalat Magyarország kétéves GDP-je tűnt el az év szexbotrányában, mégis több százezren követelik vissza az Nvidia vezérét
Herman Bernadett | 2026. november 16. 15:08
Csütörtökön lemondott az Nvidia alapító vezérigazgatója, Jensen Huang, de hétfő reggelre már 160 ezernél is többen írták alá azt a petíciót, amelyben a visszatérését követelik. Mi történt a cégnél, és miért állnak ki sokan a szexbotrányba keveredett vezető mellett? Erről is beszélt Herman Bernadett, az Mfor és a Privátbankár vezető szerkesztője a Trend FM hétfői adásában.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG