3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

A rovat támogatója:
A rovat támogatója az MVM

LEGYEN ÖN IS ELŐFIZETŐNK!

Előfizetőink máshol nem olvasott, higgadt hangvételű, tárgyilagos és
magas szakmai színvonalú tartalomhoz jutnak hozzá havonta már 1490 forintért.
Korlátlan hozzáférést adunk az Mfor.hu és a Privátbankár.hu tartalmaihoz is, a Klub csomag pedig a hirdetés nélküli olvasási lehetőséget is tartalmazza.
Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Újabb akvizíciót hajt végre a 4iG
Privátbankár.hu | 2025. július 2. 16:12
Országos virtuális mobilszolgáltatóval bővül a cégcsoport távközlési portfóliója.
Vállalat Jól ismert szakember került a Zwack vezérigazgatói székébe
Privátbankár.hu | 2025. július 2. 14:22
A Zwack Unicum Nyrt. tulajdonosi döntése értelmében 2025. július 1-jétől a cégcsoport hazai és nemzetközi sikereiben több mint 20 éve kulcsszerepet játszó szakember, Belovai Csaba tölti be a vállalat vezérigazgatói tisztségét.
Vállalat Újabb honvédelmi együttműködést jelentett be a 4iG
Privátbankár.hu | 2025. július 2. 10:51
A védelmi digitalizáció területén.
Vállalat Az ausztrál Qantas légitársaság 6 millió ügyféladatát lophatták el
Privátbankár.hu | 2025. július 2. 08:39
Az utóbbi évek egyik legnagyobb kiberbűnesetében egy hackertámadás törte fel az érzékeny adatbázist. Ez különösen rosszkor jön a megtépázott hírnevű légitársaságnak.
Vállalat A Daimler Truck fittyet hány az orosz szankciókra, Afrikában terjeszkedik
Privátbankár.hu | 2025. július 2. 08:16
Szenegálban tervez gyártóüzemet építeni Mercedes teherautóknak a cég, Oroszországban pedig már nincs mit vesztenie.
Vállalat Elbocsátásokra készül egy autógyár, világszerte küldenek el embereket
Privátbankár.hu | 2025. június 30. 17:12
Önkéntes létszámleépítést tervez a Nissan.
Vállalat Baj van a légzsákokkal – újabb autókat hívnak vissza
Privátbankár.hu | 2025. június 28. 11:10
Sürgősen javítani kell.
Vállalat Furcsa mintát mutatnak a Mazda eladásának változásai
Privátbankár.hu | 2025. június 27. 16:15
A Mazda Motor Corporation pénteki közleménye szerint az idén január-májusban értékesített járműveinek száma éves szinten 4,3 százalékkal 533 402-re emelkedett.
Vállalat A BYD újabb gyárépítést indít, kormányzati segítséggel
Privátbankár.hu | 2025. június 27. 15:50
A kínai elektromos autógyártó 32 milliárd forintért épít buszgyártó üzemet Komáromban, jelentette be Szijjártó Péter külgazdasági és külügyminiszter pénteken.
Vállalat Dobott egy hátast a Nike nyeresége
Privátbankár.hu | 2025. június 27. 14:33
Az amerikai sportszergyártó nyeresége 86 százalékkal zuhant a negyedik pénzügyi negyedévében az eladások csökkenése és a költséges vállalati szerkezetátalakítás hatására.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG