3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

A rovat támogatója:
A rovat támogatója az MVM

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Elbocsátásokra készül egy autógyár, világszerte küldenek el embereket
Privátbankár.hu | 2025. június 30. 17:12
Önkéntes létszámleépítést tervez a Nissan.
Vállalat Baj van a légzsákokkal – újabb autókat hívnak vissza
Privátbankár.hu | 2025. június 28. 11:10
Sürgősen javítani kell.
Vállalat Furcsa mintát mutatnak a Mazda eladásának változásai
Privátbankár.hu | 2025. június 27. 16:15
A Mazda Motor Corporation pénteki közleménye szerint az idén január-májusban értékesített járműveinek száma éves szinten 4,3 százalékkal 533 402-re emelkedett.
Vállalat A BYD újabb gyárépítést indít, kormányzati segítséggel
Privátbankár.hu | 2025. június 27. 15:50
A kínai elektromos autógyártó 32 milliárd forintért épít buszgyártó üzemet Komáromban, jelentette be Szijjártó Péter külgazdasági és külügyminiszter pénteken.
Vállalat Dobott egy hátast a Nike nyeresége
Privátbankár.hu | 2025. június 27. 14:33
Az amerikai sportszergyártó nyeresége 86 százalékkal zuhant a negyedik pénzügyi negyedévében az eladások csökkenése és a költséges vállalati szerkezetátalakítás hatására.
Vállalat Nagy siker a kínai mobiltelefongyártó második ajtómodellje
Privátbankár.hu | 2025. június 27. 13:20
Xiaomi új SUV-jára leadott hatalmas megrendelések fokozzák a Teslával szembeni kihívásokat.
Vállalat Nagy bejelentést tett a Magyar Telekom
Privátbankár.hu | 2025. június 26. 14:41
A Magyar Telekom 2025. június 26-án rendkívüli közgyűlést tartott, amelyen döntés született a Társaság passzív mobil infrastruktúra portfoliójának egy kizárólagos tulajdonú leányvállalatba történő szétválasztásáról.
Vállalat Lepacsizott a Mol és az MVM – befutott egy méretes olajszállítmány
Privátbankár.hu | 2025. június 26. 09:59
Megérkezett a horvát kikötőbe.
Vállalat Óriási üzlet közeleg az olajiparban?
Privátbankár.hu | 2025. június 26. 09:14
80 milliárd dolláros biznisz lehet.
Vállalat Az Uber boszorkányos módszerrel jutott hatalmas profithoz?
Privátbankár.hu | 2025. június 25. 17:31
Amerikai tudósok szerint egy algoritmus szisztematikusan megemelte a viteldíjakat a sofőrök és az utasok kárára. Korábban brit kutatók is erre jutottak. 
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG