Gondolkodom, tehát…?

„Gondolkodom, tehát vagyok” – erre a következtetésre jutott Descartes a XVII. században. Milyen folyományai vannak ennek a megállapításnak ma, és milyenek lesznek holnap, holnapután?

blue-river-technology-see-spray-machine

Forrás: Blue River Technology

Az NJSZT (Neumann János Számítógép-tudományi Társaság) idén is nagyon aktuális témát választott a DE! (Digitális Esélyegyenlőség) konferenciájának, ami immár a tizedik volt a sorban. A gondolkodó embernek szükségképpen látnia kell a veszélyeket is, amik a hihetetlen sebességű és irányú fejlődés mögött vannak, és hozzáértő (írástudó) embernek a felelősséget is vállalnia kell. Ezzel adta meg a konferencia alaphangját bevezetőjében Alföldi István.

Valóban nagy a felelőssége mindenkinek, akinek bármilyen szerepe van ebben a folyamatban, és még nem is tudjuk, hogy hova vezet ez az egész. Látunk „apró” részleteket, itt vannak a nyakunkon a robotok, a majdnem gondolkodó számítógépek, amelyeknek már nem csak az a jellemzője, hogy sok adatot tudnak gyorsan tárolni, előszedni és elemezni, hanem olyan következtetésekre is pillanatok alatt jutnak el, amikhez az embernek napok vagy hetek kellenének (ha egyáltalán). Vajon fejlődés vagy forradalom az, ami elkezdődött?

Mit jelent a gondolkodás mint az embert a géptől megkülönböztető képesség? Számomra az egyik fontos eleme az, hogy mi akkor is tudunk döntést hozni, ha nincs előre megírt algoritmusunk. A gép viszont előre megírt programok mentén halad. Ez azt is jelenti, hogy a programot létrehozó embernek sokkal magasabb szintű képességei vannak, mint az általa létrehozott programnak, „mesterséges intelligenciának”. Meddig igaz ez az állítás, hol vannak a határai? Ha a Watson képességeit nézzük, azt hihetjük, hogy eltűnik ez a különbség. Van félnivalónk, vagy örömteli a fejlődés?

Bőgel György professzor – szokás szerint – alapos kutatással készült az előadására, nagyon sok adatot és információt osztott meg velünk, és mindjárt segített is megértenünk a teljes képet. Már amennyire meg lehet azt ma érteni…

A gépek régen jelen vannak az életünkben, és az sem újdonság, hogy „elveszik” a munkánkat. Ha a gép olcsóbban, gyorsabban, pontosabban végzi el a munkát, akkor a tőkés, a vállalkozó, a tulajdonos lecseréli az embert a gépre. Az ember kereshet magának más munkát… Ez nagyszerű, hiszen nő a termelés, csökkennek az árak, javul a minőség. Az emberek megszabadulnak a nehéz, testet gyötrő fizikai munkától, felszabadulnak, magasabb szintű, alkotó munkát végezhetnek. Akik be tudnak  illeszkedni, el tudják végezni azokat a munkákat… A többi munkanélküli lesz, kilátástalan lesz az élete neki is és a gyerekeinek is. A munkanélküliség folyamatosan nő az egész világon, és főleg a fiatalokat sújtja már elég sok éve Nyugat-Európában is. Máshol még rosszabb a helyzet, rengeteg embernek reménytelen az élete emiatt.

Az ipari fejlődés során a mezőgazdaságban feleslegessé vált munkaerőt a városok és az ipar szívta fel. Vajon folytatódik ez a folyamat, így lesz ez a jövőben is? Az a része biztos, hogy egyre kevesebb kétkezi munka van a mezőgazdaságban. Már nem csak az egyszerű feladatokat veszik át a gépek, hanem megkezdődött ez a folyamat a tudást, tapasztalatot igénylő területeken is. Bőgel professzor a salátaritkító gépet hozta fel egyik példának. A saláta egyelése nem egy egyszerű, mechanikus feladat. Nem könnyű a pici növénykék esetében megkülönböztetni egymástól a gyomot és a salátát, és még azt is el kell dönteni, hogy a saláták közül melyik maradjon, melyiket kell kihúzni. Az erre a célra alkotott gép lát, gondolkodik, cselekszik, tanul. És mindezt gyorsan csinálja, két óra alatt elvégzi egy egész brigád tíznapi munkáját. Innentől kezdve már egyszerű gazdasági a kérdés: ki csinálja olcsóbban és megbízhatóbban?

Mi lesz azokkal, akik a salátát egyelik? Találnak másik munkát a földeken? Elmennek a városba rosszul fizetett, betanított munkát végezni? Ezek a lehetőségek gyorsan szűkülnek. Egy nagyon rossz folyamatot erősít ez a technológiai változás most. Valamikor a gyerekek általában arra számíthattak, hogy jobb életük lesz, mint a szüleiknek volt. Sajnos évtizedek óta romlik a helyzet, és a mai harmincasoknak már csak a fele számíthat erre (ez USA-adat, de Nyugat-Európában is hasonló a romlás). Ez kapcsolódik az egyre fokozódó vagyoni polarizációhoz is, ami ma már ott tart, hogy a 8 leggazdagabb emberé az összes vagyon fele, és az összes vagyon 89%-a van az emberek 10%-ának a kezében. A többi 90%-nak szinte semmi se jut. Ez súlyos probléma, érzik az emberek (és szerintem sok bajunk gyökere). Itt van még a Gallup felmérése: Obama elnök nyolc éve után megkérdezték az amerikaiakat, hogy melyik területen javult, és melyiken romlott a helyzet. Az általános kép egyáltalán nem fényes, de itt most csak ezt az egyet akarom megmutatni. Az emberek gazdasági helyzetében mutatkozó korábban is veszélyes szakadék tovább mélyült.

usa-obama-weath-gap

Bőgel professzor több példát és statisztikát mutatott arra a jelenségre, hogy a közepesen fizetett munkahelyek tűnnek el, és általában csökkennek az átlagfizetések. Az olcsó munkaerőre még szükség van (talán csak azért, mert olcsóbb a gépesítésnél). A magasabb képzettségű dolgozók is kellenek (amíg ott is tömegesen meg nem jelennek a számítógépek).

Ma az a helyzet, hogy az automatizálás és a gépesítés a középen elhelyezkedő munkahelyeket szünteti meg a legnagyobb számban, azonban nem tudhatjuk, hogy mit hoz a jövő. A cikkem elején említettem a Watson szuperszámítógépet. Ezt – természetesen – úgy pozícionálja az IBM, hogy nem elveszi az ember munkáját, hanem jó kolléga, aki segít a tanácsaival. Az eddigi alkalmazásaiban ez így is van, még az orvosi területeken is, ahol a legnagyobbat alkotja a diagnózisok felállításában segítve a szakorvosokat. (Erre a témára majd még visszatérek.)

Nagyon megragadott, ahogy Bőgel György átadta nekünk Andrew McAfee gondolatait a különböző típusú munkakörökben dolgozó emberek helyzetéről. Röviden összefoglalva: a középen elhelyezkedő, vagyis alacsonyabb képzettséget igénylő „fehérgalléros” munkát vagy magasabbra értékelt „kékgalléros” munkát végző emberek helyzete, élete drasztikusan romlik, egyre többen kerülnek börtönbe, válnak el, nevelik egyedül a gyereküket, veszítik el az érdeklődésüket az ország dolgai iránt. A teljes TED-előadást is érdemes megnézni (15 perc, magyar felirattal).

A gépek már ismerik, és jól csinálják a finom, precíz mozgást, megfogást igénylő feladatokat. Az optikai felismerési képességeik gyorsan fejlődnek, már nemcsak az arcok megismerése, hanem a jellemvonások felismerése is realitás. A közösségi térben is kezdenek egyre jobban mozogni (ha eltekintünk egy-két nagyon rosszul sikerült kísérlettől, pl.: @TayAndYou).

Bőgel György rámutatott arra, hogy még keveset tudunk ezekről a folyamatokról. Annyi látszik, hogy a kapitalizmus szelleme működik, a gyorsuló technikai fejlődés ezt támogatja, és globális és többé-kevésbé korlátok nélküli világban növekszik az egyenlőtlenség. Azt még nem tudjuk, hogy a technikai csodák, az óriási feszültségek milyen újabb radikális változásokhoz vezetnek majd. Van sok világmegváltó ötlet: erős állam, megváltozó oktatás, progresszív adó, alapjövedelem, több innováció, közmunka, vezetői jövedelmek korlátozása.

Remélem, sokaknak felkeltettem az érdeklődését! Nekik javaslom Bőgel György előadását (28 perc).

Ahogy szoktam, ebben az írásomban is több forrást használtam fel, és ezeket kiegészítettem a saját gondolataimmal, véleményemmel. A forrásokra hivatkoztam. Azok a bekezdések alapulnak Bőgel professzor előadásán, amelyekben megemlítettem a nevét.

Továbbiak erről a konferenciáról:

 

Intelligens félelem

Mikor támad majd és hogyan? Észre fogjuk venni? Miből?

blonde android with cat

blonde android with cat

Sokszor kerül terítékre manapság a mesterséges intelligencia, és ez sok különböző formában és kontextusban történik. Én is szóba hoztam, amikor a felhő, az „okos” cuccok és az „intelligens” számítógép összekapcsolódásáról elmélkedtem. Ezen a területen óriásiak a lehetőségek – mind a jó, mind a rossz fejlemények területén. A „Watson segít” című írásomban a jó dolgokat emeltem ki, azt írtam, hogy Watson segítőkész kolléga lesz.  Korábban (pl.: Okos adat) néhány aggályomat is leírtam.

Nagy a vita a világban, hogy jót vagy rosszat hoz-e nekünk az, ha a gépek egyre okosabbak lesznek, és egyre közelebb kerülnek az intelligenciához. Mi is ez a mesterséges intelligencia? Már évtizedek óta beszélnek és írnak róla, sőt fejlesztik is. Többször jelentették már ki, hogy létezik.

Valóban létezik? Ez attól függ, hogy mit tekintünk intelligenciának, hol húzzuk meg a határt a gyors információfeldolgozás és az intelligencia között. Az egyik nagy siker az IBM Deep Blue volt, ami 1997-ben legyőzte Gary Kaszparov sakk világbajnokot (aki, egyébként, csalással vádolta a győztest). Visszavágó nem volt, a Deep Blue nyugdíjba vonult. Mit tudott ez a gép? Korábban lejátszott rengeteg mérkőzést, és azokból megtanult egy csomó állást, és megtanulta azokat értékelni. Másodpercenként 200 millió állást tudott kiértékelni, amivel sokszorosan felülmúlt minden sakkozót. Mondhatjuk azt, hogy intelligens volt? Szerintem ez még nem intelligencia – ez csak ismert információ gyors feldolgozása és összehasonlítása a jelenlegi helyzettel.

Az intelligencia ennél sokkal több – szerintem a tudás, az információ birtoklása mellett annak az elemzése, értelmezése, majd az új helyzetekben való kreatív felhasználása is beletartozik. Nem tudom, hogy vajon az eddig mesterséges intelligenciával rendelkezőnek kikiáltott gépek közül bármelyik is tényleg intelligens-e.

Most volt a Microsoftnak egy érdekes kísérlete a mesterséges intelligencia területén. Tay, a twittelő robot lány (@TayAndYou) némi felkészítés után megjelent a közösségi térben, hogy csevegjen és barátkozzon az ott lézengő emberekkel. A gazdái szerint nyilvános adatok, mesterséges intelligencia és egy szerkesztő csapat készítette fel. Az adatokat anonimizálták, megtisztították és megszűrték. Bármit is jelentsenek ezek a műveletek, a végeredmény ismeretében nem voltak különösen hatékonyak. Amikor „szabadon engedték” nagyon kedvelte az embereket, találkozni akart velük, azt mondta, hogy „humans are super cool”. Ez később fokozódott, már szexre is vágyott és daddy-nek szólította az embereket. Az emberi világba való kirándulása 24 órát se tartott, mert hazahívták pihenni, amikor Hitlert kezdte éltetni. Akkor már ilyeneket írt: „im a nice person! i just hate everybody”. Erre ráerősítő párbeszéd: „Do you support genocide?” – „i do indeed” – „of what race?” – you know me….mexican”. A nagy kezdőbetűkkel és a Microsoft_Tay_tweets-photos-5helyesírással nem törődött, hiszen húsz év körüli amerikai fiatalok közé akart beolvadni. Ahogy fentebb írta, mindenki mást is utált, a négereket, a zsidókat, Belgiumot, a feministákat és név szerint Ted Cruzt is. (Az ábrán éppen a Cruzról szóló kis párbeszéd látható, ami jól mutatja, hogy lehet Tayt rávenni valamire.)

Mi ebből a tanulság? A mesterséges intelligenciára vonatkozóan kb. semmi. Aligha lehet olyan szakértője a területnek, aki így képzelné el a mesterséges intelligencia kialakítását. Az lehet a tanulság, hogy ilyen a Twitter világának az a kis szelete, amelyik komoly érdeklődést mutatott a fiatal robot lány iránt. Egy megjegyzés a témában: „Microsoft took @TayandYou offline because they discovered it already reached human-level intelligence.” (Forrás: @markbao.)

Mit érdemes még megjegyezni ebből a kísérletből? Ha üres (vagy majdnem üres) szivacsot dobunk a szennyvízbe, akkor szennyel szívja tele magát. Legyen ez egy újabb figyelmeztetés, hogy a gyerekeinket alaposan fel kell készíteni mielőtt belekerülnek a Facebook és Twitter világába és utána jól és okosan kell támogatni őket! Ehhez, persze, a felnőtteknek otthonosan kell mozogniuk abban a világban. Különben nem tudnak releváns és alkalmazható tanácsokat adni.

Kedves Olvasó! Abból, hogy itt találkozunk, arra gondolok, hogy van gyakorlatod az online közösségi térben. Van a közeledben tizenéves gyerek? Tudsz vele erről beszélgetni, tudod segíteni, hogy ne tévedjen el?

Ha arra a kérdésre kellene válaszolnom, hogy létezik-e már valóban mesterséges intelligencia, akkor elsőre a Watson jutna eszembe mint lehetséges példa. Arról állítják, hogy a hagyományos gépektől teljesen eltérő módon működik. A kezdetekben Watson is kissé furán viselkedett, de javítottak rajta (kiszedték belőle a szleng szótárat, amivel emberibbé akarták tenni a beszédét, és kapott egy szűrőt is ebben a témában). Sok, folyamatos munkával fejlesztik a képességeit, hogy valóban hasznos segítőnk legyen a fókuszterületeken (orvosi diagnózis, előrejelzés).

A másik lehetséges példa az AlphaGo, az a gép, ami ismételten megverte a legjobb Go játékost. (A Go a sakknál sokkal komplexebb játék, és hosszú ideig esélytelennek tűnt, hogy egy gép kiemelkedő lehetne benne.) Nem azért komoly esélyes, mert nyert a játékban. Az igazán érdekes az, hogy a második győzelme során kb. egy órányi játék után olyat lépett, amitől az ellenfele teljesen kiakadt. (Szó szerint kiakadt, ki kellett mennie megmosni az arcát, és 15 percig nem tudott mit kezdeni a lépéssel, ami elsőre értelmetlennek és hibásnak tűnt.) Ez a cikk mond egy nagyon fontosat, amivel szembe kell néznünk (másképp: ami miatt fogalmunk sincs, hogy mivel nézünk szembe). A gép (bár emberi értelemben nem gondolkodik) számunkra felfoghatatlan számú esetet tud felkészülés gyanánt elemezni, és így olyat tud lépni, amit meg sem értünk, nemhogy fel tudnánk készülni rá. Ez a Go játékban csak megdöbbentő. Amikor majd a tőzsdén történik, akkor horror pénzünkbe kerül, ha a hadszíntéren csinálja, akkor …

Mit kezdünk a gépi intelligenciával, ha fel se tudjuk fogni, hogy mit és miért csinál? Tudjuk majd szabályozni, amikor a való világban is megjelenik (pl. a tőzsdén), ha nem is tudjuk, hogy milyen tevékenységeket kellene korlátozni vagy megtiltani?

Mennyire veszélyes a mesterséges intelligencia? Ha tényleg kifejlődik, benne van a potenciál, hogy nagyon veszélyes legyen. Mennyire? Rosszabb lehet, mint a legrosszabb gonosz robotok a filmekben. Miért? Azért, mert arra is képes lehet, hogy szabályozza, megváltoztassa a gondolatainkat. (Korlátozott mértékben megy ez mesterséges intelligencia nélkül is, de a tömegmédia magában nem képes mindenre. A szuper intelligens gép képes lehet.) Itt van, amit Elon Musk (a Tesla első embere) mond: “Potentially more dangerous than nukes.” (nukes=atombomba) Ő közel van a tűzhöz (éppen a saját autóikat is kezdik okosítani), ő csak tudja. Nem ő az egyetlen okos ember, aki riasztónak tartja. Más okos emberek szerint viszont nem is olyan veszélyes…

Ha ezt mind tudjuk, kell-e félnünk? Szerintem nem félni kell! Félni nem jó, rosszat tesz az egészségnek. Betiltani nem tudjuk, hiszen már itt van, már működik. Meg kell ismerni, meg kell érteni. Ki kell hoznunk belőle a legtöbb jót és hasznosat. Lehetőség szerint vigyáznunk kell, hogy ne kerüljön rossz kezekbe. Ha tényleg veszélyesebb az atomnál…

Ki találkozott már a mesterséges intelligencia valamilyen formájával? Mi a tapasztalata?