Mit vesz el tőlünk?

Sok mindenről írnak és beszélnek, amikor arról volt szó, hogy ez a sok új technológia mit vesz el az embertől. Az ITBN konferencián a Kivégzési parancs kapcsán előjött valami új.

Szeptemberben tartották a szokásos kétnapos IT biztonsági konferenciát, és idén izgalmas elkalandozásoknak lehettünk szem- és fültanúi. A múlt héten írtam Csányi Vilmos etológus előadásáról, aki talán még csak meg sem említette a biztonságot, mégis nagyon témába vágott a mondandója.

Mindkét napot kerekasztal-beszélgetés kezdte a Kivégzési parancs (Kill Command) film ürügyén. A helyi résztvevőkön kívül velünk volt Bentley Kalu (Robinson) is Skype-on keresztül.

A film egyik kulcsszereplője egy fiatal nő (Mills), akibe kis korában beültettek egy chipet, ami együttműködik az emberi szervezetével, és kapcsolódik egy nagy hálózathoz is. Így ő egyszerre ember is és gép is. Különleges képességekkel rendelkezik, amik az emberek számára csodálatosak és ijesztőek, bár valójában csak gyors adatátviteli és adatelemzési képességeket kap a géptől. Ha jól értelmezem a filmet, nincs szó mesterséges intelligenciáról, hanem a gép és az ember képességeinek összeolvadása teremti meg a szuperembert.

A film kapcsán érdekes kérdések merülnek fel az ember és a gép kapcsolatáról. Az egyik ilyen kérdés az érzelmek lehetősége. Mit éreznek az emberek a velük együtt élő, dolgozó, embernek látszó gépek iránt? Kialakulnak érzelmeik a gépi kolléga iránt? A filmben az egyik ember katona megmenti Mills életét, amikor megsérül a harcban. Teszi ezt annak ellenére, hogy egyáltalán nem kedveli, komoly ellenérzései vannak a géppel szemben. Vajon miért? Az első napi beszélgetés egyik résztvevője magyar katonákkal együtt nézte meg a filmet. A film utáni beszélgetés során a katonák azt mondták, hogy a gépet bajtársnak tekintenék, és akár meg is halnának érte. Vajon ebben szerepe van annak, hogy csinos fiatal nő testében van a robot? Kialakulhat romantikus érzelem az ember és a gép-ember között?

Elvárjuk az emberi viselkedést az embernek látszó gépektől? Számít a kinézete? Mi lesz a mimikával, általában a metakommunikációval? A filmben a gépesített nőnek nem ültek ki érzelmek az arcára, „póker arca” volt, bármilyen helyzetbe került. Az sem derült ki számomra, hogy érzelmi vagy racionális okok vezették, amikor ember bajtársait próbálta megmenteni. Nem derült ki, hogy milyen ember – ha egyáltalán ember. Van személyisége? Milyen az, ha a személyisége részben a gépben van?

A bajtársait irritálta, hogy mindent tud róluk, mindenkinek az aktáját egy pillanat alatt letölti és elemzi. Ez nem csak a filmben van így! A személyi asszisztensünk mindent tud a gazdájáról. A gépesített asszisztens még többet is, mint a jó titkárnő a főnökéről, hiszen napi 24 órát tölt vele. Nem csak azt tudja, ami hallható és látható, de mérheti a pulzusát, a vérnyomását és minden más fiziológiai adatát. Mindezt összeveti a rengeteg adatbázissal, és kialakít egy összeképet a gazdájáról. Még az érzelmeinket is megismeri. Jó ez nekünk? Akarunk ennyit tudni magunkról? Tényleg: melyik a valódi énünk, amit gondolunk magunkról, vagy amit a „mindentudó” gép tud rólunk? – kérdezte Réz András a beszélgetés közben.

Milyen emberi képességeik lesznek a robotoknak? Tudnak hazudni, félrevezetni? Azt mondhatnánk, hogy ez a beprogramozásuktól függ. Ez mégsem ennyire egyszerű, mert már a ma létező gépek is tudnak tanulni – erre rengeteg példa van (például az egymással alkudozó és egymást félrevezető robotok). Hogy fogunk majd velük alkudozni? Ők sose fáradnak el, se fizikailag, se mentálisan.

Létrehozzuk a robotokat, de tudjuk majd ellenőrizni, irányítani őket? Ha nem értjük a „gondolkodásukat”, nem tudjuk felmérni, hogy a döntéseik mögött milyen okok vannak, meg tudjuk majd ítélni a döntéseiket, vagy hozzászokunk, hogy úgyis nekik van igazuk? Ki lesz a felelős a gép tevékenységéért? Most még az a szabály, hogy az önvezető autóért a kormány mögött ülő ember felelős. És ha nincs kormány? A gyilkoló robotért ki felelős, a tulajdonosa? Mi történik, ha valaki távolról átprogramozza?

Az említett „emberi”, esetleg romantikus, vonulat mellett van a filmben egy sokkal ijesztőbb szál is. Mills alkotta meg a gyilkoló gépek szoftverét, de lassan elvesztette az irányítást felettük. A gépek eredeti feladata az lett volna, hogy átvegyék az emberektől a háborúzást, hogy az embereknek se ölniük, se meghalniuk ne kelljen. Öntanuló rendszert épített, amit összeengedtek a legjobb emberi alakulattal, azzal harcolva tanult újabb és újabb fogásokat (közben meg is ölt egy-egy embert). Végül már Mills is ellenséggé vált. Ő az utolsó összecsapásban emberi trükkel ölte meg az utolsó robotot. De talán mégsem… Valami ilyesmitől tartanak azok a befolyásos emberek (akik részben éppen ezt a technológiát fejlesztik), akik az ENSZ-hez fordultak, hogy akadályozza meg Pandora szelencéjének kinyitását.

Miért hozzuk létre az intelligenciával felruházott gépet? Teljesen racionális okok vannak mögötte, vagy benne van a büszkeség is, hogy ezt is meg tudjuk csinálni?

Létrehozunk valamit, ami nem organikus, de él. Mit kezdünk ezzel az élettel? Elismerjük, hogy élőlény, lesznek jogai?

Lesz lelke a robotnak? Lesznek érzelmei? Éppen most futottam bele ebbe a cikkbe, ami a robot és a szerelem kapcsolatáról szól, de – egyelőre – fordítva.

Egy fontos megállapítás a beszélgetésből: „A mesterséges intelligencia nem fogja megoldani az emberek közötti kapcsolat problémáját, mert nincs rá szüksége.” Valóban teljesen racionális lesz a robot?

Még egy izgalmas témakör, amiről volt szó röviden: Hol lesz a robotok agya? Külön-külön rendelkeznek majd intelligenciával, vagy egy központi agy irányítja őket? A filmben a központi gép csak információforrás volt Mills számára, de nem irányította őt közvetlenül. Mills ember, tehát van saját agya, de vajon egy robotba érdemes lesz saját agyat építeni, vagy elég lesz a központi? Hány ilyen központ lesz? Együttműködnek majd, vagy éppen ellenfelek lesznek? Kialakul egy világhálózat? Annak egy ura lesz?

Visszatérve a kezdeti kérdésre: mit vesz el tőlünk a technológia? Az utat, az odajutás élményét veszítjük el, ha a gép hipp-hopp megoldja a problémákat, megválaszolja a kérdéseket. Pedig ez az emberi lét élménye! Lemondunk erről a kényelem érdekében? Lehet, hogy drasztikusan változik meg az életünk a sokat tudó gépek miatt?

Ez az írás túlnyomórészt az ITBN napkezdő beszélgetései alapján készült. Sokkal több benne a kérdés, mint a válasz. Ha válaszolni nem is tudunk, a kérdések mégis fontosak, mert érdemes gondolkozni a lehetőségeken.

Szintén az ITBN alapján: Hiedelmeink

2 hozzászólás

Vélemény, hozzászólás?

Adatok megadása vagy bejelentkezés valamelyik ikonnal:

WordPress.com Logo

Hozzászólhat a WordPress.com felhasználói fiók használatával. Kilépés /  Módosítás )

Google+ kép

Hozzászólhat a Google+ felhasználói fiók használatával. Kilépés /  Módosítás )

Twitter kép

Hozzászólhat a Twitter felhasználói fiók használatával. Kilépés /  Módosítás )

Facebook kép

Hozzászólhat a Facebook felhasználói fiók használatával. Kilépés /  Módosítás )

Kapcsolódás: %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.