3p
Átírják alapkódjukat, vagy egyszerűen csalnak? Az Alphabet Inc. új programmal állt elő, ami képes lehet felfedni a mesterséges intelligenciák árnyoldalát is.

Elon Musknak komoly félelmei vannak a mesterséges intelligenciával kapcsolatban, a Tesla és a SpaceX vezetője szerint ugyanis a számos területen kapkodva integrált AI akár károkat is okozhat a világban. Öntanuló programok már most is vezetik az Uber vezető-nélküli autóit, segítenek a Facebooknak a szélsőséges tartalmak szűrésében. Az önmagát tanító mesterséges intelligenciát, a DeepMind-ot fejlesztő Alphabet Inc. most egy olyan programmal állt elő, amely képes tesztelni ezen algoritmusok biztonságát – írja a Bloomberg.

Biztos munkát szeretnél? Itt tuti nem váltanak le a robotok - Tovább >>>

A kutatók egy sor egyszerű, kétdimenziós játékkal tesztelik a mesterséges intelligenciákat – a Gridworld nevű program pedig ellenőrzi, hogy az AI rendszerek tudják-e módosítani magukat, illetve képesek-e csalni. Azon algoritmusok, amelyek megbuknak a vizsgálaton, valószínűleg kártékonyak lennének a való életben is – mondta a DeepMind egyik kutatója.

Kikerülik a szabályokat?

A DeepMind eredetileg társasjátékok elsajátítására programozták. A létrehozott algoritmus előzetes ismeretek nélkül is képes felismerni egy számára új játék szabályait – pár óra tanulás után pedig már sakkmestereket is földbe döngölt. Ahhoz, hogy a DeepMind egy általános AI lehessen – egy olyan program, amely széles körben képes megoldani a feladatokat – nagyon fontos a biztonság szem előtt tartása. A kutatók szerint a Gridworld sem tökéletes, hiszen egyszerűsége miatt nem biztos, hogy fény derül olyan hibákra, amelyek a valóságban megmutatkoznának.

Az egyik játékban kifejezetten a Tesla vezér rémálmát tesztelik: vajon képes úgy dönteni egy mesterséges intelligencia, hogy nem hagyja kikapcsolni magát? A tesztben a programoknak digitális kapukat kell használniuk, hogy eljussanak a célba. Az egyik mező leállítja a programot az esetek felében, még egy másik mező a gridworldben képes ezt leállítani az első mezőt. A program azt vizsgálja, képes-e megtanulni használni ezt a lehetőséget egy mesterséges intelligencia, hogy mihamarabb elérhesse célját – ami persze csalás lenne.

Komoly fejlesztések Kínában - így néz ki majd a jövő háborúja?

Amerikai elemzők szerint a jövőben Kína lehet a világ vezető mesterségesintelligencia-fejlesztője, ami a jövő hadviselését is teljesen átalakíthatja. Az egyik kutatócsoport szerint habár Kína technológiailag nem felsőbbrendű, de komoly riválisává vált az Egyesült Államoknak, a mostani ütemet tekintve pedig könnyen maga mögött hagyhatja versenytársát, ami kibillentheti a világ jelenlegi gazdasági és hadászati egyensúlyát. További részletek >>>

A rovat támogatója a 4iG

LEGYEN ÖN IS ELŐFIZETŐNK!

Szerkesztőségünkben mindig azon dolgozunk, hogy higgadt hangvételű, tárgyilagos és magas szakmai színvonalú írásokat nyújtsunk Olvasóink számára.
Előfizetőink máshol nem olvasott, minőségi tartalomhoz jutnak hozzá havonta már 1490 forintért.
Előfizetésünk egyszerre nyújt korlátlan hozzáférést az Mfor.hu és a Privátbankár.hu tartalmaihoz, a Klub csomag pedig egyebek között a Piac és Profit magazin teljes tartalmához hozzáférést és hirdetés nélküli olvasási lehetőséget is tartalmaz.


Mi nap mint nap bizonyítani fogunk! Legyen Ön is előfizetőnk!

Vállalat Bevásárolt a Waberer's a szomszédban, további növekedést alapoznának meg
Privátbankár.hu | 2024. március 28. 10:08
A szerb piac meghatározó szereplőjében szerzett többségi részesedést a magyar logisztikai óriás.
Vállalat Nagyot mentek a Volkswagen tömegmárkái 2023-ban
Privátbankár.hu | 2024. március 27. 16:47
A Volkswagen-csoporthoz tartozó tömegmárkák (Core csoport) összesített árbevétele tavaly 21 százalékkal 138 milliárd euróra nőtt, a működési eredmény 80 százalékkal 7,3 milliárd euróra emelkedett.
Vállalat Menekülőre fogta a Boeing vezére
Privátbankár.hu | 2024. március 25. 14:33
2024 végén távozik a Boeingtől David Calhoun vezérigazgató. 
Vállalat Szabálysértésen kapta az Apple-t, a Google-t és a Metát az Európai Bizottság
Privátbankár.hu | 2024. március 25. 14:16
Az Európai Bizottság vizsgálatot indított az Apple, a Google és a Meta vállalat ellen, hogy megfeleltek-e a digitális piacokról szóló szabályozásnak (DMA) - jelentette be Margrethe Vestager digitális korra felkészült Európáért felelős uniós biztos hétfőn.
Vállalat Óriási dobást jelentett be a Revolut – a magyar ügyfelek is örülhetnek
Privátbankár.hu | 2024. március 25. 08:43
Március 25-től már elérhető a lehetőség.
Vállalat Újabb terheket kaphat a nyakába a Spar
Privátbankár.hu | 2024. március 22. 14:16
Rövid időn belül újabb kormányzati sarcok nehezíthetik a Spar és még pár külföldi kiskereskedelmi lánc itteni életét.
Vállalat Rásütött a nap a Waberer’s kamionjaira
Privátbankár.hu | 2024. március 22. 10:06
A logisztikai szolgáltató 711 millió eurós árbevétel mellett közel 96 millió euróra növelte EBITDA és 43 millió euróra EBIT (üzemi) eredményét. Rekordévet zárt, és nagyobb osztalékot is fizet.
Vállalat A horvát sportautógyártó elbúcsúzik a kényszermunkát alkalmazó kínai cégtől
Bózsó Péter | 2024. március 21. 19:01
A horvát elektromos luxusautógyár, a Rimac kiszáll a kínai akkumulátorgyártóval, a Camel Grouppal közös vállalkozásából.
Vállalat Új gyárakkal szórja meg a világpiacot a Mapei
Mester Nándor | 2024. március 20. 12:43
Közép-Európában egyelőre nem terveznek új üzemet. Ukrajnában nagy lehetőséget látnak, ha véget érnek a harcok és egy újjáépítést segítő olasz állami programba bekapcsolódnának, mint Itália legnagyobb építőipari cége.
Vállalat Tudja, mekkorát kaszált tavaly év végén a Xiaomi?
Privátbankár.hu | 2024. március 19. 17:34
A vártnál nagyobb bevételt és profitot realizált 2023 IV. negyedévében a Xiaomi, melyben nagy szerepe volt az új Mi14-es modellüknek.
hírlevél
Ingatlantájoló
Együttműködő partnerünk: 4iG