3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Három hónap alatt 50 milliárdos nyereség az MBH Banknál
Privátbankár.hu | 2026. november 17. 10:58
Itt a negyedéves jelentés.
Vállalat Óriási mozgalom szerveződött Jensen Huang visszatéréséért: Donald Trump és Elon Musk is beállt az Nvidia bukott vezére mögé
Herman Bernadett | 2026. november 17. 05:46
Hétfőn délutánig már 180 ezren – köztük Elon Musk és a Szilícium-völgy legbefolyásosabb vezetői – követelték petícióban a kémbotrány és a házasságtörési ügyek miatt távozott Nvidia-vezér, Jensen Huang visszahelyezését. Miközben a világ második legértékesebb cégének sorsa körül áll a bál, veszélybe került az AI-ipart éltető 500 milliárd dolláros finanszírozási gigaterv is. Kedden este történetében először az alapító nélkül magyarázhatja a friss gyorsjelentést a chipgyártó.
Vállalat Magyarország kétéves GDP-je tűnt el az év szexbotrányában, mégis több százezren követelik vissza az Nvidia vezérét
Herman Bernadett | 2026. november 16. 15:08
Csütörtökön lemondott az Nvidia alapító vezérigazgatója, Jensen Huang, de hétfő reggelre már 160 ezernél is többen írták alá azt a petíciót, amelyben a visszatérését követelik. Mi történt a cégnél, és miért állnak ki sokan a szexbotrányba keveredett vezető mellett? Erről is beszélt Herman Bernadett, az Mfor és a Privátbankár vezető szerkesztője a Trend FM hétfői adásában.
Vállalat Mennyi legyen jövőre az annyi? Béremelési dilemmában a hazai cégek
Privátbankár.hu | 2026. november 16. 12:39
Egyre nagyobb a bizonytalanság a magyarországi cégek körében a jövő évi béremelési tervek és a jelenleg kínált fizetési csomagjuk versenyképességét illetően.
Vállalat Álmok kergetése és „vörösborozás” helyett foglalkozni kellene a Dunával
Privátbankár.hu | 2026. november 16. 10:08
Minimum 50 milliárd forintos kárt okozott csak idehaza az idei, rendkívüli aszályos időjárás miatt kialakult alacsony Duna és Tisza vízállás – becsülte meg a Trend FM által megkérdezett folyami- és tengerhajózási szakértő.
Vállalat Gigabüntetést kapott a Facebook anyacége, 20 millió felhasználó képeihez férhettek hozzá
Privátbankár.hu | 2026. november 15. 17:01
Az olasz adatvédelmi hatóság 805 millió euró bírságot szabott ki a Meta Platforms Irelandre, mert álláspontja szerint a Facebook androidos alkalmazása megfelelő tájékoztatás és kifejezett felhasználói hozzájárulás nélkül férhetett hozzá a felhasználók okostelefonjain tárolt fényképekhez és videókhoz.
Vállalat Ismét hasítanak a Microsoft szolgáltatásai
Privátbankár.hu | 2026. november 14. 08:27
A Microsoft teljes mértékben helyreállította a Teams, az Outlook levelezési rendszer, a Copilot és más applikációk hozzáférését, mind egyéni, mind céges szinten – derült ki az amerikai techvállalat szombati bejelentéséből.
Vállalat Hatásos: mentor is jár az iroda mellé az OTP társadalmi vállalatokat segítő programjában
Privátbankár.hu | 2026. november 13. 13:15
Az OTP HatásPont néven most elindított kezdeményezése keretében a résztvevőket több mentor segíti, emellett stabil, modern irodatereket használhatnak, kedvezményesen.
Vállalat Világszerte akadoznak a Microsoft szolgáltatásai, elhúzódik a helyreállítás
Privátbankár.hu | 2026. november 13. 06:56
Világszerte fennakadásokat okozott a Microsoft több szolgáltatásának leállása, amely európai idő szerint csütörtök délután kezdődött. Az Outlookot, a Teamst és a Copilotot érintő üzemzavar elhárítása a vállalat péntek hajnali tájékoztatása szerint nem a várakozásoknak megfelelően haladt.
Vállalat Újabb nagy dobásra készülhet a 4iG az Egyesült Államokban
Privátbankár.hu | 2026. november 12. 17:13
Jászai Gellért befektetőkkel és politikusokkal egyeztetett.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG