Mit vesz el tőlünk?

Sok mindenről írnak és beszélnek, amikor arról volt szó, hogy ez a sok új technológia mit vesz el az embertől. Az ITBN konferencián a Kivégzési parancs kapcsán előjött valami új.

Szeptemberben tartották a szokásos kétnapos IT biztonsági konferenciát, és idén izgalmas elkalandozásoknak lehettünk szem- és fültanúi. A múlt héten írtam Csányi Vilmos etológus előadásáról, aki talán még csak meg sem említette a biztonságot, mégis nagyon témába vágott a mondandója.

Mindkét napot kerekasztal-beszélgetés kezdte a Kivégzési parancs (Kill Command) film ürügyén. A helyi résztvevőkön kívül velünk volt Bentley Kalu (Robinson) is Skype-on keresztül.

A film egyik kulcsszereplője egy fiatal nő (Mills), akibe kis korában beültettek egy chipet, ami együttműködik az emberi szervezetével, és kapcsolódik egy nagy hálózathoz is. Így ő egyszerre ember is és gép is. Különleges képességekkel rendelkezik, amik az emberek számára csodálatosak és ijesztőek, bár valójában csak gyors adatátviteli és adatelemzési képességeket kap a géptől. Ha jól értelmezem a filmet, nincs szó mesterséges intelligenciáról, hanem a gép és az ember képességeinek összeolvadása teremti meg a szuperembert.

A film kapcsán érdekes kérdések merülnek fel az ember és a gép kapcsolatáról. Az egyik ilyen kérdés az érzelmek lehetősége. Mit éreznek az emberek a velük együtt élő, dolgozó, embernek látszó gépek iránt? Kialakulnak érzelmeik a gépi kolléga iránt? A filmben az egyik ember katona megmenti Mills életét, amikor megsérül a harcban. Teszi ezt annak ellenére, hogy egyáltalán nem kedveli, komoly ellenérzései vannak a géppel szemben. Vajon miért? Az első napi beszélgetés egyik résztvevője magyar katonákkal együtt nézte meg a filmet. A film utáni beszélgetés során a katonák azt mondták, hogy a gépet bajtársnak tekintenék, és akár meg is halnának érte. Vajon ebben szerepe van annak, hogy csinos fiatal nő testében van a robot? Kialakulhat romantikus érzelem az ember és a gép-ember között?

Elvárjuk az emberi viselkedést az embernek látszó gépektől? Számít a kinézete? Mi lesz a mimikával, általában a metakommunikációval? A filmben a gépesített nőnek nem ültek ki érzelmek az arcára, „póker arca” volt, bármilyen helyzetbe került. Az sem derült ki számomra, hogy érzelmi vagy racionális okok vezették, amikor ember bajtársait próbálta megmenteni. Nem derült ki, hogy milyen ember – ha egyáltalán ember. Van személyisége? Milyen az, ha a személyisége részben a gépben van?

A bajtársait irritálta, hogy mindent tud róluk, mindenkinek az aktáját egy pillanat alatt letölti és elemzi. Ez nem csak a filmben van így! A személyi asszisztensünk mindent tud a gazdájáról. A gépesített asszisztens még többet is, mint a jó titkárnő a főnökéről, hiszen napi 24 órát tölt vele. Nem csak azt tudja, ami hallható és látható, de mérheti a pulzusát, a vérnyomását és minden más fiziológiai adatát. Mindezt összeveti a rengeteg adatbázissal, és kialakít egy összeképet a gazdájáról. Még az érzelmeinket is megismeri. Jó ez nekünk? Akarunk ennyit tudni magunkról? Tényleg: melyik a valódi énünk, amit gondolunk magunkról, vagy amit a „mindentudó” gép tud rólunk? – kérdezte Réz András a beszélgetés közben.

Milyen emberi képességeik lesznek a robotoknak? Tudnak hazudni, félrevezetni? Azt mondhatnánk, hogy ez a beprogramozásuktól függ. Ez mégsem ennyire egyszerű, mert már a ma létező gépek is tudnak tanulni – erre rengeteg példa van (például az egymással alkudozó és egymást félrevezető robotok). Hogy fogunk majd velük alkudozni? Ők sose fáradnak el, se fizikailag, se mentálisan.

Létrehozzuk a robotokat, de tudjuk majd ellenőrizni, irányítani őket? Ha nem értjük a „gondolkodásukat”, nem tudjuk felmérni, hogy a döntéseik mögött milyen okok vannak, meg tudjuk majd ítélni a döntéseiket, vagy hozzászokunk, hogy úgyis nekik van igazuk? Ki lesz a felelős a gép tevékenységéért? Most még az a szabály, hogy az önvezető autóért a kormány mögött ülő ember felelős. És ha nincs kormány? A gyilkoló robotért ki felelős, a tulajdonosa? Mi történik, ha valaki távolról átprogramozza?

Az említett „emberi”, esetleg romantikus, vonulat mellett van a filmben egy sokkal ijesztőbb szál is. Mills alkotta meg a gyilkoló gépek szoftverét, de lassan elvesztette az irányítást felettük. A gépek eredeti feladata az lett volna, hogy átvegyék az emberektől a háborúzást, hogy az embereknek se ölniük, se meghalniuk ne kelljen. Öntanuló rendszert épített, amit összeengedtek a legjobb emberi alakulattal, azzal harcolva tanult újabb és újabb fogásokat (közben meg is ölt egy-egy embert). Végül már Mills is ellenséggé vált. Ő az utolsó összecsapásban emberi trükkel ölte meg az utolsó robotot. De talán mégsem… Valami ilyesmitől tartanak azok a befolyásos emberek (akik részben éppen ezt a technológiát fejlesztik), akik az ENSZ-hez fordultak, hogy akadályozza meg Pandora szelencéjének kinyitását.

Miért hozzuk létre az intelligenciával felruházott gépet? Teljesen racionális okok vannak mögötte, vagy benne van a büszkeség is, hogy ezt is meg tudjuk csinálni?

Létrehozunk valamit, ami nem organikus, de él. Mit kezdünk ezzel az élettel? Elismerjük, hogy élőlény, lesznek jogai?

Lesz lelke a robotnak? Lesznek érzelmei? Éppen most futottam bele ebbe a cikkbe, ami a robot és a szerelem kapcsolatáról szól, de – egyelőre – fordítva.

Egy fontos megállapítás a beszélgetésből: „A mesterséges intelligencia nem fogja megoldani az emberek közötti kapcsolat problémáját, mert nincs rá szüksége.” Valóban teljesen racionális lesz a robot?

Még egy izgalmas témakör, amiről volt szó röviden: Hol lesz a robotok agya? Külön-külön rendelkeznek majd intelligenciával, vagy egy központi agy irányítja őket? A filmben a központi gép csak információforrás volt Mills számára, de nem irányította őt közvetlenül. Mills ember, tehát van saját agya, de vajon egy robotba érdemes lesz saját agyat építeni, vagy elég lesz a központi? Hány ilyen központ lesz? Együttműködnek majd, vagy éppen ellenfelek lesznek? Kialakul egy világhálózat? Annak egy ura lesz?

Visszatérve a kezdeti kérdésre: mit vesz el tőlünk a technológia? Az utat, az odajutás élményét veszítjük el, ha a gép hipp-hopp megoldja a problémákat, megválaszolja a kérdéseket. Pedig ez az emberi lét élménye! Lemondunk erről a kényelem érdekében? Lehet, hogy drasztikusan változik meg az életünk a sokat tudó gépek miatt?

Ez az írás túlnyomórészt az ITBN napkezdő beszélgetései alapján készült. Sokkal több benne a kérdés, mint a válasz. Ha válaszolni nem is tudunk, a kérdések mégis fontosak, mert érdemes gondolkozni a lehetőségeken.

Szintén az ITBN alapján: Hiedelmeink

Hiedelmeink

Milyen hiedelmei lesznek a mesterséges intelligenciával felruházott robotnak? Lesz benne emberi?

Nagyon sok érdekes előadást volt szerencsém meghallgatni (megnézni) a múlt héten az ITBN konferencián, és szeretném az élményeim egy részét megosztani az olvasóimmal, akik nagy részének eszébe se jutna, hogy éppen IT biztonsági konferenciára kellene mennie. Miért traktálom őket is ezzel? Csak azért, mert nem az IT biztonság volt a konferencia fő témája, hanem az ember és az egyre intelligensebb gép együttműködésére fókuszált. Ez is volt a mottója: „Man and machine: Bound to cooperate”, és Mills, a Kill Command (Kivégzési parancs) film női főszereplője volt az arca, aki géppel egyesített ember vagy emberbe ültetett gép. Mindkét reggel filmbejátszásokkal tarkított kerekasztal-beszélgetéssel indítottak, aminek egyik résztvevője a Robinsont játszó Bentley Kalu volt.

Nagyszerű volt Csányi Vilmos etológust hallgatni – és nyilván nem meglepő, hogy nem informatikáról és biztonságról volt szó, de tökéletesen illett az előadása a konferenciába. Az ember és a mesterséges intelligencia viszonyáról beszélt, és mindjárt az elején kaptunk tőle egy definíciót. Az intelligencia az a képesség, hogy valaki vagy valami képes magát az adott környezetben hosszú ideig fenntartani. Ez a biológus definíciója, és számomra sokkal használhatóbb, mint a pszichológusoké. Ők úgy oldják meg azt a konfliktust, hogy vajon az IQ-teszt jól méri-e az intelligenciát, hogy éppen azt használják definíciónak: az az intelligencia, amit az IQ-teszt mér. Ez nagyon precíz meghatározás, csak éppen meglehetősen használhatatlan. A biológus által adott definíció egészen más, és sokkal több helyzetben értelmezhető. Csányi szerint az intelligencia egy túlértékelt fogalom, mert valójában nem egy csodás, minden probléma megoldására alkalmas tulajdonság. Ebben az értelemben sok minden lehet intelligens, akár egy baktérium is, hiszen nagyon bonyolult vegyi folyamatokat vezérel a fennmaradása és szaporodása érdekében. Intelligens lehet növény, állat, ember, sőt maga a bioszféra is! Az oroszlán rengeteg matematikai és fizikai „ismeretet” használ fel, amikor vadászik. Hasonlóképpen a gazella is, amikor elmenekül az oroszlán elől. Az állati intelligencia individuális, az emberé bonyolultabb, mert a nyelv segítségével hiedelemvilágot tud létrehozni. (Csányi tudományos terminológiájában a hiedelem kicsit mást jelent, mint a köznyelvben – a következőkből kiderül majd.)

A hiedelemre az első példája az az ember volt, aki a vadon talált gyümölcsöt próbálja megismerni, majd kialakít róla egy képet: ehető – nem ehető, jó ízű, nyersen vagy főzve jó. Amikor ezeket a gondolatokat a nyelv segítségével a többiekkel megosztja, majd azok is kiegészítik a saját tapasztalataikkal, közösségi hiedelem lesz belőle. Így képes egy egész közösség a tapasztalatát cserélni, átadni, fejleszteni. Ez nagy különbség az állatokhoz képest! – mondja Csányi. Az állat a saját tudata börtönében van.

Hadd szúrjak itt közbe egy kérdést. Amikor a maguknak saját nyelvet alkotó robotokat a Facebook kutatói kikapcsolták, vajon – esetleg tudat alatt – éppen az a félelem vezette őket, hogy azok majd a saját nyelvükön ellenőrizhetetlenül fejlesztik a közös tudásukat?

A hiedelmekben sok tévedés van (Csányi példái: homeopátia, angyalok, kísértetek). A sok hiedelem terjed, kavarog a közösségben, a tévedéseket kiszűrjük. Az ezeket selejtező társadalmi folyamat a kreativitás forrása. A közösség terjeszti, ellenőrzi, reprodukálja a hiedelmeket és kinyeri a fontos tudást belőlük.

Maga a rendszer kreatív. Az ember világa – akárcsak maga a bioszféra – rendkívül gazdag. Része a kultúra és a művészet is. A kreativitás forrása a molekulák különbsége, a szelekció, a formák különbözősége. Ezekben vannak kis eltérések, és a végén az életképes marad meg.

Itt mutatott rá Csányi az ember és a gép közötti fontos különbségre: Az embernek sok olyan tulajdonsága van, ami a gépnek nincs: agresszivitás, hatalomvágy, birtoklási vágy, érzelmek. Az ember világa nem a racionális döntéseken alapszik. Beépítjük ezeket a tulajdonságokat az „intelligens” gépbe?

Itt mindjárt megemlített egy hiedelmet a mesterséges intelligenciával kapcsolatban: Olyan lesz, amilyennek megépítjük. Valóban?

Érdekes párhuzamot vont a robotokkal és az istenekkel kapcsolatos gondolataink között:

  • A robot: segít – emberszerű – extrém intelligens ember – szingularitás – mindent tud.
  • Az isten: uralja a környezetét, érzelmei vannak – uralja az embert, segít, büntet, igazságos – uralja a világegyetemet, mindenható, igazságos. Először sok isten volt, lehetett választani közülük, később csak egy maradt, a legnagyobb.

A két gondolkodási folyamat nagyon hasonló!

Csányi szerint a robot nem tud okos lenni, ha nem építjük bele az ehhez szükséges elemeket; csak olyat tud megcsinálni, ami bele van építve.

Hadd szúrjak itt megint be egy gondolatot – nem ellentmondva a tudósnak. A gép azokkal a képességekkel rendelkezik, amiket beleépítünk. Ez igaz, de mi van akkor, ha a tanulás és az önfejlesztés képességét is beleépítjük? Lehetséges ez? A válasz attól függ, hogy mit értünk tanuláson. Ha az emberi szakmák elsajátítása közben használt tanulást (mások munkájának megfigyelését, majd a látottak alkalmazását a saját munkánkban), akkor erre már ma is képes a gép. Ez az RPA (robotic process automation) és fejlettebb formája, az IPA (intelligent process automation), amikről például a Robotember című cikkemben írtam.

Más példa: az AlphaGo. Az a program önmaga ellen játszott le milliárdnyi GO játszmát. Így tett szert olyan tudásra, amivel nem csak megverte az egyik legjobb emberi játékost, de kétségbe esésbe is kergette azzal, hogy értelmetlennek tűnő lépései voltak. Vagyis a szuper szakember nem értette, hogy mit csinál a gép – és a gép volt a jobb. Erre se lehet azt mondani, hogy a GO játék tudását építette bele az ember a gépbe. Nem, a játék megtanulásának a képességét építette bele, és azt úgy tudta felhasználni a gép, hogy „okosabb” lett az embernél.

Kell félnünk a robottól? Nem tudom! Az emberi történelem azt mutatja, hogy van okunk félni minden találmánytól, ami békés célokra, a javunkra használható, mert gonosz módon is bevethető.

Vajon Csányi definíciója alapján lehet intelligens egy gép? Képes fenntartani magát a saját környezetében hosszú ideig? Ezen jól el lehet gondolkozni… Mit jelent a „fenntartani” és mennyi a „hosszú” idő? Mi az a „saját környezet”, mekkora változás mellett kell fennmaradnia, hogy intelligensnek tekintsük?

Ez a cikk jelentős részben Csányi Vilmosnak az idei ITBN konferencián látott, hallott előadásán alapszik.

Szintén az ITBN alapján: Mit vesz el tőlünk?