Emberi tragédiákhoz vezethet az algoritmusok döntése

Kolkata egyik szegénynegyede (MTI/EPA/Pijal Adhikari)

A brit Guardian munkatársai hosszú időszakban, több kontinensen mérték fel, hogy fordítanak kormányok milliárdokat ilyen digitális rendszerekbe, amelyek alapvetőn átalakítják a szegény sorsú emberek kapcsolatát az állammal, az ügyeiket intéző hivatalokkal.

Általánossá válik a törekvés – nem csak az ipari országokban, hanem a fejlődő világban is –, hogy ügyintézők helyett gépekre bízzák a szociális juttatásokról szóló döntéseket, intézkedéseket. Azt ígérik, hogy ettől felgyorsul a pénzek kiutalása és kevesebb lesz a pazarlás, többet takarítanak meg az állami forrásokból. Kiküszöbölve ez emberi gyengeségeket, előítéleteket, igazságosabb lesz a pénzek elosztása, a szűkös forrásokhoz azok jutnak, akiknek azokra a legnagyobb szüksége van.

Ezzel szemben a valóságban sokszor nem teljesülnek az ígéretek. Milliók nem kapják meg jogos juttatásaikat hibás számítógépes programok miatt, amelyek olyan bonyolultak, hogy azokat kevesen tudják kezelni - még kevésbé megérteni. Járványosan terjednek a téves döntések anélkül, hogy a kárvallottaknak módja lenne orvoslatot kérni.

Digitális jóléti állam kontra digitális analfabéták

Philip Alston amerikai jogász, az ENSZ-nek a szegénységgel foglalkozó különmegbízottja a napokban terjesztette a világszervezet elé jelentését arról, milyen súlyos következményekkel jár a „digitális jóléti állam” bevezetése. Saját kutatásai és 34 tagállam jelentései alapján súlyos veszélyre figyelmeztet: a takarékosság és a hatékonyság jegyében bevezetett rendszereket rákényszerítik sok millió olyan emberre, akik digitális analfabéták, vagy nincs hozzáférésük az internethez. Még Nagy-Britanniában is 12 millió ember él, akinek hiányoznak az alapvető ismeretei ahhoz, hogy korunk világában és eszközeivel élje életét.

A digitalizálást a kormányok minden előzetes konzultáció nélkül vezették-vezetik be, a rendszerek nagy vállalkozások kezében vannak és működésükkel kapcsolatban semmiféle elszámoltathatóság nincsen. Így például Dél-Afrikában a MasterCard, Ausztráliában a Visa, Kanadában, az Egyesült Államokban, Németországban és Új-Zélandon az IBM kapott megbízást bekapcsolódásra ilyen rendszerek működtetésébe.

A jóléti államban arra használják a digitális technológiákat, hogy felügyeljék, vizsgálják, zaklassák és büntessék a kedvezményezetteket, különösen a legszegényebbeket és a legsérülékenyebbeket. Kormányok és törvényhozók helyett maroknyi vállalati vezető dönt arról, milyen irányba mozduljanak társadalmak, milyen értékek, elgondolások legyenek a változások mögött.

– olvasható az ENSZ-megbízott jelentésében. Nézete szerint szigorúan szabályozni kell a nagy digitális rendszereket működtető cégek tevékenységét, kötelezni kell azokat az emberi jogi normák megtartására. El kell tiltani, hogy az adatok feldolgozása révén büntessenek, kriminalizáljanak kis jövedelmű embereket. A digitális technológia hasznos lehet, ha arra használják, hogy gondoskodjanak a rászorulókról, hangoztatja Alson.

A felmérés riasztó példái között szerepelnek amerikaiak. Így egy szegény sorsú, segélyeken élő család értesítést kapott a hivataltól: az adatok elemzésével megállapították, hogy a 80-as években 4.132 dollár értékben vettek fel több segélyt, mint ami járt volna, ezért haladéktalanul fizessék vissza az összeget. Amennyiben ezt nem teszik, visszatarthatják nem csak a segélyeket, hanem a nyugdíj egy részét is. Sőt: ha az idős adós nem tud fizetni, ami valószínű, a hivatal annak gyermekein hajtja be a 30 évvel ezelőttről származó adósságot. Az érintett szerint nyilvánvaló tévedésről van szó, amit a hivatal digitális rendszere dobott ki – de nincs módja védekezni, hiszen kinek vannak még meg három évtizeddel korábbról származó nyugtái, bércédulái?...

Állami zaklatás határok nélkül

Ilyen „zombi-adósságokat” tízezer szám próbálnak behajtani az USA-ban. Míg a hírhedt adósságbehajtó magáncégek tevékenységét, amelyek súlyosan zaklatták az embereket, már korábban korlátozták, a hasonló állami zaklatásnak nincs akadálya. Egyedül Illinois állam évente átlag 23.000 ilyen inkasszós eljárást indít polgárai ellen.

Ausztrália politikusai országukét a világ leghatékonyabb szociális rendszerének tartják. Ott is folyamatban van az ellátási ügyintézés digitalizálása: a 2013-ban kezdődött és 2022-ig tartó folyamatban bezárják az ügyfél-irodákat és csak a kormány internetes portálján lehet segélyt igényelni, ügyeket intézni. A magáncég által működtett portál teljesítménye katasztrofális: a rendszer egy év alatt 2,7 millió esetben szüntette be szociális juttatások folyósítását, sokszor tévesen, hibás algoritmus alapján.

Első a tiltás

A rendszer ráadásul úgy működik, hogy ha problémát észlel, első lépésben leállítja az utalásokat. Indoklás: akkor az emberek jobban megtartják majd a szabályokat. A Guardian vizsgálatai kimutatták, hogy az esetek 75 százalékában az érintettek nem voltak hibásak. Így például felfüggesztették 55.000 hajléktalan juttatásait – miközben összesen 60.000 jogosult hajléktalant tartanak egyáltalán nyilván...

Riasztó tapasztalatokat hozott a vizsgálat Indiában is. Ott a kormány a világ legnagyobb biometrikus rendszerét hozta létre, 12 tagú azonosítószámot kapott az ország minden polgára. Aminek Dumka városában halálos áldozata is lett. A rendszer ugyanis nem ismerte fel az idős férfi számához tartozó ujjlenyomatát, így automatikusan megvonta élelmiszer-ellátását. A férfit egy hét után holtan találták háza előtt – a szó szoros értelmen éhen halt.

(Guardian)