Geoffrey Hinton, a mesterséges intelligencia egyik legismertebb kutatója – akit gyakran „a mesterséges intelligencia keresztapjaként” emlegetnek – hosszú és részletes interjút adott a brit The Diary Of A CEO című podcastban. A kanadai-brit kognitív pszichológus és informatikus úttörő szerepet játszott a mesterséges neurális hálózatok kutatásában, innen is kapta keresztapai jelzőjét. PhD-fokozatát az Edinburgh-i Egyetemen szerezte, a Carnegie Mellon Egyetemen, a Torontói Egyetemen és a University College Londonban is dolgozott. Legismertebb munkája a visszaterjesztés (backpropagation) algoritmusának hatékony alkalmazása, amely meghatározó szerepet játszott a mélytanulás fejlődésében, ami a mesterséges intelligencia egyik legfontosabb és leggyorsabban fejlődő ága. A fogalom olyan algoritmusokat fed, amelyek mesterséges neurális hálózatokat használnak nagy mennyiségű adat feldolgozására és abból való tanulásra. Ez a technológia képezi az alapját többek között a beszédfelismerésnek, az automatikus fordításnak, a képfelismerésnek és az olyan generatív MI-rendszereknek, mint amilyen a ChatGPT vagy a DALL-E is.

Hinton 2013-ban csatlakozott a Google-höz, ahol a Google Brain csapat tagjaként segítette az MI-alapú technológiák fejlesztését, miközben egyetemi pozícióját is megtartotta. Számos tanítványa ma vezető szerepet tölt be az iparágban, többek között az OpenAI, a DeepMind és más nagyvállalatok kutatólaborjaiban.

Hinton a hosszú beszélgetésben őszintén beszélt azokról a súlyos aggályokról, amelyek miatt mára legfőbb küldetésének a figyelmeztetést tartja.

Az 1950-es évektől kezdve két nagy irányzat uralta az MI-kutatást: az egyik szerint az intelligencia lényege a logikai következtetés, a másik irányzat pedig – amelynek Hinton maga is képviselője lett – az agy működését próbálta utánozni. „Szimulálni kell egy agysejthálózatot a számítógépen, és meg kell tanulni, hogyan lehet az agysejtek közötti kapcsolatok erősségét úgy beállítani, hogy a rendszer összetett dolgokat tanuljon meg – például képek felismerését vagy beszédértelmezést.”

Évtizedeken át a logikai irányzat dominált az MI-kutatásban, amely az intelligenciát formális szabályok és szimbólumkezelés révén próbálta modellezni. Ezzel szemben Hinton úgy vélte, hogy az emberi agy működésének utánzása a kulcs a valódi tanuló rendszerek létrehozásához. Ez a megközelítés sokáig marginálisnak számított, és kevés egyetem foglalkozott vele komolyan. Hinton azonban mindvégig kitartott: „Ötven évig nyomtam ezt az irányt. Mivel kevés volt az ilyen kutatással foglalkozó egyetem, azok a diákok, akik hittek ebben, hozzám jöttek.” Ezek a diákok nemcsak támogatták a megközelítését, hanem később kulcsszerepet vállaltak a mesterséges intelligencia robbanásszerű fejlődésében. Többen közülük aktívan részt vettek olyan fontos kezdeményezésekben, mint például az OpenAI létrehozása, vagy más, jelentős MI-platformok fejlesztése. „Nagyon szerencsés voltam, mert sok igazán kiváló tanítvány dolgozott velem” – mondta Hinton, aki szerint ezek a fiatal kutatók segítettek abban, hogy ideái a perifériáról a tudományos fősodorba kerüljenek, és végül meghatározóvá váljanak az MI-technológia fejlődési irányában.

Hinton meggyőződése, miszerint a mesterséges intelligenciának az agy működését kell modelleznie, nem egyedülálló elképzelés volt, ebben már korán osztozott olyan nagy formátumú gondolkodókkal, mint az általa John von Neumannként emlegetett Neumann János és Alan Turing.

Szerinte ha bármelyikük tovább él, a mesterséges intelligencia fejlődése is más irányt vehetett volna.

Neumann János a modern számítógépek és a játékelmélet egyik megteremtője volt. Budapesten született, a Fasori Evangélikus Gimnáziumban tanult, majd Berlinben és Zürichben folytatta felsőfokú tanulmányait, mielőtt az Egyesült Államokba költözött.

A híres Fasori:

Ott kulcsszerepet játszott az elektronikus számítógépek elméleti alapjainak kidolgozásában, és az általa javasolt Neumann-architektúra ma is alapja minden modern számítógép működésének. Alan Turing pedig brit matematikus volt, akit a számítástudomány egyik atyjaként ismernek. Nevéhez fűződik a Turing-gép elméleti modellje, valamint az Enigma-kód feltörésében végzett úttörő munkája a második világháború alatt. Turing korai MI-elképzelései – például a híres Turing-teszt – máig alapját képezik a gépi intelligencia értelmezésének.

„Lassú voltam felismerni bizonyos kockázatokat”

Hinton figyelme ma már elsősorban nem a technológiai lehetőségek kiaknázására irányul, hanem a mesterséges intelligencia fejlődéséből fakadó súlyos kockázatokra. A beszélgetésben elismerte, hogy még ő maga sem gondolta volna korábban, mennyire súlyos következményekkel járhat mindaz, amit évtizedeken át kutatott és fejlesztett. „Lassú voltam felismerni bizonyos kockázatokat” – mondta. Szerinte voltak fenyegetések, amelyeket már korábban is világosan látott – ilyen például a halálos autonóm fegyverek alkalmazása, amelyek emberi beavatkozás nélkül képesek dönteni élet és halál kérdésében –, azonban a legijesztőbb forgatókönyv, miszerint a gépek egyszer meghaladják az emberi intelligenciát, csak az utóbbi néhány évben kezdte igazán komolyan foglalkoztatni. Hinton szerint ez a lehetőség sokáig túl távolinak, túl elméletinek tűnt ahhoz, hogy komoly figyelmet kapjon, de ma már olyan reális veszélyként tekint rá, amelyre sürgősen reagálni kell.

„Két teljesen különböző típusú kockázat van. Az egyik, amikor emberek használják rosszra az MI-t – ez a rövid távú kockázatok nagy része. A másik, amikor maga az MI lesz annyira intelligens, hogy már nincs szüksége ránk.” Utóbbira sokan legyintenek, de Hinton szerint ez igenis valós veszély. „Sokan kérdezik, valódi kockázat-e ez. Igen, az. Az a baj, hogy még sosem volt dolgunk nálunk intelligensebb lényekkel. Fogalmunk sincs, hogyan kezeljük.”

A szakmai közösség megosztott a kérdésben. Hinton két kollégája véleményét is idézte: „Yann LeCun szerint mindig kontrollálni fogjuk ezeket a rendszereket. Eliezer Yudkowsky viszont azt állítja, hogy ezek a rendszerek biztosan ki fognak irtani minket.” Hinton egyik állásponttal sem ért teljesen egyet: „Gyakran azt mondom, 10-20 százalék az esélye, hogy kiirtanak minket – ez csak egy megérzés.”

Hinton szerint a mesterséges intelligencia annyira sokoldalúan hasznos eszközzé vált, hogy a fejlesztések leállítása már gyakorlatilag elképzelhetetlen. Úgy véli, az MI alkalmazása óriási előnyöket kínál szinte minden területen: az egészségügyben segítheti a diagnosztikát és a betegellátást, az oktatásban személyre szabott tanulási lehetőségeket teremthet, az iparban pedig automatizálással és hatékonyságnöveléssel forradalmasíthatja a gyártást. Emellett azonban a katonai felhasználás is jelentős, hiszen a nagyhatalmak egyre inkább érdekeltek abban, hogy az MI-t fegyverrendszerek fejlesztésére is felhasználják. Hinton szerint épp ezért a világ vezetői nem fognak lemondani erről a technológiáról, mivel az előnyök és a stratégiai jelentőség túl nagy ahhoz, hogy önként visszalépjenek. Saját példát is említett arra, hogyan lehet visszaélni az MI-vel: több videó is készült, amelyben a nevét, arcát és hangját felhasználva hamis tartalmat terjesztettek róla, például kriptovalutákat reklámozva. Ezek eltávolítását hiába próbálták elérni – nem jártak sikerrel.

A biztonsági fenyegetések közé sorolta a kibertámadásokat is. Ezek száma gyorsan nő, és az MI által vezérelt rendszerek olyan módszereket is kitalálhatnak, amelyekre emberi elme nem gondolna. Hasonlóan aggasztó szerinte az MI használata vírusfejlesztésre:

„Ma már nem kell kivételes molekuláris biológusnak lenni ahhoz, hogy egy őrült mesterséges intelligenciával vírusokat fejlesszen” – említette példaként.

Talán nem meglepő, de a demokráciának is árthat a technológia. „A személyre szabott politikai reklámok lehetővé teszik a manipulációt. Ha tudsz mindent valakiről, nagyon könnyű meggyőzni, hogy például ne menjen el szavazni.”

A közösségi média algoritmusait is bírálta. „Az MI-alapú hírfolyamok megerősítik az emberek előítéleteit, és szétszakítják a társadalmat. Nincs többé közös valóság.” Úgy véli, ezek az algoritmusok egyre jobban elszigetelik az embereket: „A hírcsatornám 75 százaléka mesterséges intelligenciáról szól. Nehéz megítélni, hogy a világ erről beszél-e, vagy csak én kapok ilyen híreket.” A hadviselésben használt autonóm fegyverekre külön is kitért. „A nagyhatalmak eddig is képesek voltak megtámadni a gyengébb országokat, de ha nem kell saját katonákat küldeni, sokkal kisebb lesz az ellenállás.”

Mi a legsürgetőbb probléma?

A munkanélküliséget azonban még ennél is sürgetőbb fenyegetésnek tartja:

„Ez a forradalom az intellektust váltja le. Az MI el fogja venni a rutinszerű szellemi munkát végzők állásait.”

Hinton személyes példaként az unokahúgát említette, aki ügyfélszolgálati munkát végez, panaszos levelekre válaszol. Korábban egy-egy válasz kidolgozása átlagosan 25 percet vett igénybe, most viszont már csak öt percet, mert az üzenetek szövegét egy chatbot készíti el helyette. Ez a hatékonyságnövekedés azonban nemcsak segíti, hanem veszélyezteti is a munkahelyeket: ha a technológia ötből egy embert képes teljesen kiváltani, az valóságos elbocsátási hullámot indíthat el – mondja Hinton. Szerinte az egészségügy lehet az egyik kevés kivétel, ahol az MI-vel nyert kapacitást valóban a betegek javára lehet fordítani, de a legtöbb iparágban inkább leépítések jöhetnek, nem új lehetőségek.

Hinton szerint az MI előnyeinek egyik legfontosabb kulcsa a digitalizációban rejlik. Míg az emberi agy csak lassan és korlátozott mennyiségű információt képes átadni másoknak – beszéddel, írással vagy tanítással –, a mesterséges neurális hálózatok szinte azonnal és pontosan képesek megosztani a tanulási eredményeiket. „A gépi ideghálók képesek egymással szinkronizálni a tanulásukat. Mi emberek viszont csak lassan, kevés adattal tudunk információt cserélni” – magyarázta. Ez szerinte óriási előny az emberi tanuláshoz képest, és alapvetően más fejlődési pályát biztosít a gépi rendszerek számára.

Ez a digitális természet a gépi intelligencia „halhatatlanságát” is eredményezheti. A súlyértékek – vagyis az MI által megtanult mintázatok és szabályok – elmenthetők és tetszőlegesen új rendszerekre átmásolhatók.

„Ha a hardverük meg is semmisül, a súlyaik elmenthetők, és újraalkothatók” – mondta. Szerinte ez azt jelenti, hogy egy mesterséges intelligencia tanulási eredményei nem kötődnek egyetlen géphez vagy időpillanathoz, hanem gyakorlatilag örök életűek lehetnek, ha megfelelő infrastruktúra áll rendelkezésre.

A tudatosság és az érzelmek kérdésében is markáns véleménye van. A gépek képesek lehetnek érzelmek átélésére – legalábbis a kognitív részük: „Ha egy kis harci robot megijed egy nagyobbtól, és elmenekül, akkor fél. Lehet, hogy nincs adrenalinja, de a gondolatai ugyanazok.”

Hinton elmondta azt is, hogy azért hagyta ott a Google-t, mert nyugdíjba akart menni – és azért pont akkor, mert szabadon akart beszélni az MIT egy konferenciáján. „A Google-nél is támogatták volna ezt, de nem éreztem helyesnek, hogy a cégnél dolgozva nyíltan bíráljam az iparágat.”

A podcast végén azt is megkérdezték, mit tanácsolna a politikusoknak és az embereknek. „Magasan szabályozott kapitalizmusra van szükség.” Az emberek számára viszont kevés mozgásteret lát: „Nem sokat tehetnek. Itt csak az segít, ha a kormányokat nyomás alá helyezik, hogy kötelezzék a nagy cégeket a biztonságos fejlesztésre.”

De mi a legnagyobb fenyegetés az emberi boldogságra nézve? Hinton válasza egyértelmű: „A munkanélküliség. Még ha alapjövedelmet is kapnak az emberek, a legtöbben nem lesznek boldogok. Szükségünk van célokra. Hasznosnak akarjuk érezni magunkat.”