Hogyan válasszunk mesterséges intelligenciát okosan?

A nagy felhajtásból adódóan a generatív mesterséges intelligenciát gyakran túlzott elvárások övezik. A generatív modellek képesek már képeket, szöveget, videót vagy akár zenét is előállítani – mindezt a tanításuk során látott adatokból megtanult összefüggések alapján.

Félreértés, hogy a generatív AI szöveges modelljei „okos keresők”. Ezek a modellek mindössze „következőszó-generátorok”, amelyek szavanként generálják ki jóslataikat a felhasználói bemenetre. Ahhoz, hogy az okos kereső képességekre felruházható legyen, elengedhetetlen a megfelelő szakértői kompetencia bevonása, különben kontroll és minőségbiztosítás nélkül a szövegben legvalószínűbben soron következő szót adja válaszul a tanítóadataikban látottak alapján. Szoftverkódot is ugyanígy generálnak. Bizonyos feladatok hatékony elvégzésére tehát kiválóan alkalmasak már most, más problémákhoz viszont működésükből kifolyólag nem ideálisak önállóan a szükséges eszközkészlet nélkül.

– Azon feladatok automatizálására, amelyekre a generatív AI nem ideális sokkal jobb és olcsóbb megoldást kínálhat egy-egy klasszikus gépi tanulási modell – mondta Póda Csanád, a Kontron Hungary ML/AI rendszertervező mérnöke. – A gépi tanulás (machine learning, ML) alkalmazása azonban kevésbé látványos, mint egy emberi nyelven „beszélgető” robot, így a széles nyilvánosság képzeletét sem ragadta meg úgy, mint a természetes nyelvi felületen bárki számára hozzáférhető generatív mesterséges intelligencia.

Aki nem ismeri ezeket a módszereket, könnyen elveszhet bennük egy magas színvonalú, hozzáértő támogató csapat nélkül. Ezért vagyunk mi – hogy segítsük a navigációt ezeken a zavaros vizeken.

Kis és nagy modellek, testre szabva

A generatív AI értelmes, hasznos, hatékony, megbízható, biztonságos és etikus használatához a megfelelő technológiai, szervezeti, emberi, társadalmi és szabályozási feltételeket is szükséges megteremteni.

Vállalati szinten tovább árnyalja a képet, illetve bővíti a lehetőségeket, hogy a nagy (nem csak nyelvi) generatív modellek mellett megjelent rengeteg kisebb, előtanított, nyílt forráskódú modell is – mondta Póda Csanád. Ezeket a különféle feladatok elvégzésére előre tanított, nyílt forráskódú modelleket a vállalatok saját adataikon testre szabhatják, így gyorsabban és költséghatékonyabban valósíthatják meg projektjeiket. Egy ilyen modell továbbfejlesztésével készítettük el például a Számlamenedzser alkalmazásunk szállítófüggetlen számlafeldolgozóját, amely a beérkező (akár scannelt) számlák adatait egy mély neurális háló segítségével ismeri fel és írja át automatikusan a vállalatirányítási rendszer megfelelő mezőibe. Ezáltal a hagyományos rendszereknél sokkal rugalmasabb megoldást kaptunk, amelynél nem kell minden új számlatípus feldolgozásához új sablonokat létrehozni, hanem minden számlatípust egy modell ismer és dolgoz fel.

Emellett a vállalatok a hatalmas adatmennyiségeken tanított, több milliárd paramétert használó generatív AI modellek kimenetét is optimalizálhatják Retrieval-Augmented Generation (RAG) segítségével. A költséghatékony módszerrel ugyanis a generatív modellek képességeit speciális területekre vagy saját belső tudásbázisukra terjeszthetik ki, így pontosabb és hasznosabb válaszokat kaphatnak anélkül, hogy a modellt újra kéne tanítani – az információt ugyanis az ügyfél saját dokumentumtárából keressük ki és adjuk át a generatív AI modelleknek feldolgozásra, ezzel csökkentve a hallucinációk valószínűségét.

Felhő és partner nélkülözhetetlen szerepe

Már ez a pár példa is mutatja, hogy a mesterséges intelligencia eszközök és módszerek milyen széles választékát fogja át. Kulcsfontosságú ezért, hogy a vállalatok az adott feladat függvényében jól válasszanak a folyamatosan bővülő palettáról.

A bőség zavarában és a felhajtás zajában azonban gyakran megesik, hogy a döntéshozók olyan AI-megoldásokat választanak, amelyektől üzleti felhasználási esetükben eleve hiába várnak eredményeket. Szerintem elsősorban ez okozza, hogy egy elemzői jelentés szerint a 2023-as vállalati AI kezdeményezések 80 százaléka megakadt a koncepcióvalidálás szintjén – mondta Póda Csanád. A másik oka ennek az, hogy a közelmúltig nem voltak meg azok az eszközök, amelyekkel ilyen rendszereket megbízható produktív környezetbe tudtunk helyezni. Itt azonban hatalmas előrelépés történt, és már nagyon jó minőségű AIOps és MLOps eszközök állnak rendelkezésünkre. Sok vállalat nem tud házon belüli AI kompetenciát kiépíteni, de ezt könnyen ellensúlyozhatja egy átfogó szakértelemmel és nagy tapasztalattal rendelkező tanácsadó- és rendszerintegrátor-partner bevonásával. Egy ilyen partner a projektek megvalósítását már az üzleti értékajánlatnak megfelelő gépitanulási-, illetve mesterségesintelligencia-eszköz kiválasztásától kezdve az élesbe állásig támogatni tudja.

Egy másik nagy hátráltató tényező ezen a téren, hogy a magyar vállalatok egy része ellentmondásos, szelektív módon még mindig idegenkedik a felhő használatától. Sok cég a Microsoft Office 365-re minden további nélkül előfizet, a belső, üzleti titkokat tartalmazó levelezését a Microsoft felhőjében tárolja, valamint irodai alkalmazásait felhőszolgáltatásként veszi igénybe. Az üzleti alkalmazásaikat viszont még mindig saját hardveren szeretnék futtatni  – noha a belőlük kinyert kimutatásokat szintén előszeretettel továbbítják e-mailben.

A házon belüli IT infrastruktúra sok szempontból nem tud versenyezni a nagy felhőszolgáltatók adatközpontjaival. Saját hardveren a vállalatok nemhogy generatív AI modelleket nem tudnának futtatni, de gyakran még a kisebb neurálisháló-alapú modelleket is csak olyan késleltetés mellett használhatnák, hogy az értelmetlenné tenné bevezetésüket. A kapacitás megfelelő bővítésére pedig az AI munkaterhelések futtatásához szükséges specializált hardver magas ára és a jelenlegi eszközhiány miatt sem gondolhatnának.

A döntéshozóknak tanácsos minél előbb megvizsgálniuk, hogy a mesterséges intelligencia használatához vállalatuknál milyen szabályok mentén használhatnak felhőalapú megoldásokat, és mely szolgáltatók tudják ezeket biztosítani, mert a választék ezen a téren is bővül  – mondta Póda Csanád. Ha továbbra is késlekednek, rövid időn belül nagy hátrányba kerülhetnek a felhőben szolgáltatásként elérhető AI képességeit eredményesen kiaknázó versenytársaikkal szemben. Bár minden esetben meg kell vizsgálni, hogy a különböző tényezők függvényében melyik szolgáltatási modell a legelőnyösebb, ma már általában a felhőt érdemes választani, hacsak használatát speciális megfelelési követelmények (törvényi szabályozottság) kategorikusan ki nem zárják. De a GDPR-nak való megfelelés például ma már nem probléma.

Nemzetközi ML/AI kompetencia-központ helyben

A megfelelő ML/AI megoldás és a szolgáltatási modell mellett a releváns üzleti felhasználási esetek megválasztása is fontos az AI beruházások gyorsabb megtérüléséhez, amiben a kompetens partner szintén sokat segíthet.

A rendszerintegrátorként ismert és elismert Kontron Hungary az utóbbi években ML/AI szakértelmét is olyan szintre fejlesztette, hogy a tagvállalatai közötti együttműködést erősítő Kontron Csoport úgy határozott, itt hozza létre csoportszintű ML/AI kompetencia-központját is, amelyet harminc fős tanácsadói és fejlesztői csapattá szeretnének bővíteni.

– Hazai ügyfeleink számára különösen előnyös, hogy cégünk méretéből adódóan szakmai területeink házon belül is szorosan együttműködnek egymással – mondta Póda Csanád. – Számos vállalat informatikai környezetét ismerő rendszer-integrációs csapatunk tudása és tapasztalata is hozzájárul így ML/AI projektjeik sikeres megvalósításához és további digitális átalakulásuk felgyorsításához.