Emberi gép

robotvera

Gépiesen bánunk a dolgozókkal? Emberi módon bánnak velünk a gépek?

Nem is tudom, hogy a számítógépek használatának terjedése az emberekkel való foglalkozásban (HR, emberi erőforrás) jó vagy rossz irányú változás!

Kezdjük azzal, hogy semmi esetre sem új a jelenség. A „HR black hole”, vagyis a mindent elnyelő fekete lyuk már több mint egy évtizede jó ismerősünk, kötetekre rúgó irodalma van a működésének és a megkerülésének. A téma egyik nagy szakértője Liz Ryan, aki nagy cégeknél dolgozott személyzeti vezetői pozíciókban. Alaposan kiismerte azt a világot, és most az emberi munkahely (Human Workplace) témában ír, és ad tanácsot (mind a munkáltatóknak, mind a dolgozóknak). Érdemes elolvasni az írásait, nagyon jó dolgokat ír és élvezetes a stílusa (angolul ír, és nem merem állítani, hogy minden egyes szót értek, amit használ, de élvezem).

Hogy működött (működik) a hagyományos gépesítés ezen a területen? Az álláskereső beküldi az önéletrajzát és a kísérő levelet. Ezeket odaadják a „rendszernek” (ATS: Applicant Tracking System). Mi ez az ATS? Egy végtelenül buta szöveges adatbázis-kezelő rendszer, ami szavak előfordulását elemzi a beérkezett anyagokban. Ha van benne egy kicsi „okosság”, akkor legalább a szinonimákat észreveszi, de ez sem biztos, hiszen azokat meg kell adni neki. Ki fogja ezeket beletáplálni? Általában senki. Miért? A HR-es nem ismeri a cégnél szóba jöhető összes szót és szakkifejezést, és esélytelen, hogy a szakterületek dolgozói ilyesmivel töltenék az idejüket. Mi jön ki ebből? Ez a csekély okosságú rendszer kiszórja az általa esélytelennek ítélt jelentkezőket, és továbbítja a többit a humán erőforrásnak. (Ha még így is túl sok maradna, akkor szigorítják a szűrést.)

A megoldás gyenge pontja az, hogy a gép nem képes megérteni és értelmezni a szöveget – így nincs is valódi esélye a legjobb jelentkezők kiválasztására. Azoknak, akik ismerik az algoritmus működését, van esélyük jól kigondolt trükközéssel átjutni ezen a kapun, de ugye nem ez lenne a cég célja…

Mint írtam, ez már bőven évtizedes történet. Ma már mesterséges intelligencia, tanuló algoritmus végzi az önéletrajzok szűrését. A tanuló gépnek információra van szüksége, pontosabban: minták alapján tanul. Honnan lesznek a mintáink? Egy kézenfekvő megoldás a cégnél dolgozó sikeres, jól bevált kollégák önéletrajzait vagy egyéb írásait felhasználni. Ha ezeken tanul a gép, az ezekben előforduló szavakat, kifejezéseket, fordulatokat, az írások stílusát tanulmányozza, majd ezekkel veti össze a beérkező jelentkezők írásait, akkor bátran számíthatunk arra, hogy hasonlóan jók felvételére tesz majd javaslatot. Sőt, még azzal is bővíthető a módszer, hogy nem csak a beküldött önéletrajzot és levelet elemezzük, hanem az illető nyilvánosan megjelent szövegeit is. Így tényleg alapos képet kapunk mindenkiről. Nagyszerű segítséget nyújtunk az előválogatással a felvételi beszélgetések előtt. Tökéletes! Tökéletes?

Sajnos nem tökéletes! Mi a probléma vele? Az ember szóhasználata és stílusa nem csak attól függ, hogy mennyire alkalmas a betöltendő pozícióra. Vannak ám eltérések a nők és a férfiak, a feketék és a fehérek, az ország (a világ) különböző területeiről származók, a különböző társadalmi rétegekből származók között ezen a területen is. Ha, például, egy technológiai cégnél a sikeres emberek tipikusan fehér férfiak, akkor egy bizonyos előítéletként ez meg fog jelenni az előszűrést végző programban. Persze az is, ha főleg ázsiai származású nők adják a mintát. Ez jól van így, ha az a célunk, hogy megőrizzük, esetleg erősítsük a cég jellegét ebben a tekintetben. Persze, ez nem lehet a kimondott célunk (hiszen helytelen és törvénytelen lenne).

Nem fantáziáltam, ezekkel a problémákkal minden területen, köztük a HR-esen is találkozunk az életben. Mostanában éppen az Amazon esete van terítéken, de akárhol előfordulhat ilyen, ahol megpróbálnak érdemi tevekénységeket is az „okos” gépre bízni. Miért is ne tennék? A gép sokkal gyorsabban, olcsóbban és precízebben végzi el azt a munkát, amit megtanult, mint az ember. A gond éppen azon van, hogy „megtanulta”. Honnan, kitől, hogyan tanulta meg? A tudás végső forrása valamilyen értelemben az ember. Az ember a saját gyengeségeivel és akár tudattalan elfogultságával. Ezt adja tovább a gépnek.

Sok példát lehet hozni arra, hogy az okos gép elfogult. Persze, nem a gép az elfogult, hanem az általa felhasznált „tananyag”, a minta hordoz valamilyen elfogultságot vagy torzítást magában. Azt is fontos hozzátenni, hogy a már felfedezett elfogultságot ki lehet javítani. Azonban ezek a „javítások” általában nem oldják meg a valódi, a mélyben meghúzódó problémát, csak elfedik azt. Erre van egy tökéletes példám: a Google képfelismerőjének esete a néger arcokkal. Egyáltalán nem tudták megoldani azt a problémát, hogy egyes esetekben gorillának vagy más emberszabású majomnak nézett négereket a képeken. Mit csináltak? Beleírták a szoftverbe, hogy soha, semmit ne lásson gorillának, csimpánznak vagy majomnak. Végülis megoldották a problémát, ugye? Nos, nem, egyáltalán nem! Ettől semmivel se lett jobb a programjuk, csak ez a hiba nem nyilvánvaló a használók számára…

Hasonló megoldásokkal lehet „javítani” az előszűrő programon is, de az se lesz jobb tőle.

Nem azt látom igazi bajnak, hogy elfogult a gép, hiszen az ember is az. Akkor van baj, ha automatikusan elfogadjuk a gép véleményét – és ez sajnos eléggé tipikus. Hiszen éppen azért használjuk a gépet, hogy olcsón és gyorsan elvégezze ezt a munkát. Ha utána alaposan ellenőriznénk, akkor mire való a gép? Akkor magunk is elvégezhetnénk a munkát…

Mutatok pár pozitív példát is. Az első esetben kezdeti kapcsolatfelvételre használják az „okos” gépet. Amennyire sikerült megértenem a hátterét, ez egy csevegő robot (chatbot), ami megérti az emberek mondatait, és értelmesen beszélget velük. Jim (Jobs Intelligence Maestro) a szingapúri DBS bankban dolgozik. Előszűrést végez kérdésekre adott válaszok alapján, és a jelentkezők pszichológiai alkalmasságát méri. Ezzel átvesz bizonyos ismétlődő, unalmas, gépies feladatokat az emberektől, akik így értékesebb munkát tudnak végezni. A pályázók számára előny, hogy hamar, 24 órán belül választ kapnak a jelentkezésükre. (Vagyis nem tűnik el a fekete lyukban az önéletrajzuk.) Egy kis szösszenet: Ha a jelentkezővel való kezdeti online csevegés az emberek számára nem tűnik értékes munkának, akkor valóban jobb ezt robotra bízni. Ő talán emberibben tudja ezt elvégezni.

Ha már az emberi viselkedés szóba jött a robotok esetében, álljon itt Vera (az orosz HR-es robot) példája. Ő nem csak a géptől elvárható rutin tevékenységeket végzi el, de telefonon is beszél velük az előszűrés első lépésében, majd az ezen átjutott emberekkel videón is elbeszélget. Nagy sikere van a világcégek és a jelentkezők körében is! Kik használják? 200 cég, közöttük az IKEA és a Pepsico. Akinek van kedve, beszélgethet is Verával a gyártó weblapján (link a fenti írásban). A jelölteknek tetszik az új HR-es: “Some 95% of candidates told us it was interesting, inspiring, great, something new”. Lehet, hogy megvan a megoldás arra, hogy ne panaszkodjanak a jelöltek a lélektelen, gépies bánásmódra a kiválasztási eljárás során?

Mi a tanulság? Hol tartunk most? Sok mindent rábízhatunk a gépekre, de ne számítsunk arra, hogy tökéletes munkát végeznek. Ha tisztában vagyunk ezzel, akkor nincs baj. A gond ott van, amikor a gép hihetetlen mennyiségű munkát tud nagyon gyorsan elvégezni. Miért baj ez? Azért baj, mert nem győznénk emberrel és idővel az ellenőrzését. Ebben az esetben hajlamosak vagyunk hinni neki…

Kedves Olvasó! Veled beszélgetett már gép? Milyen élmény volt – összehasonlítva a humán ügyintézővel folytatott hasonló beszélgetéssel?

Félrevezetnek?

Merre megy az önvezető autó? Oda visz, ahova menni akarok, vagy új célokat keres magának?

Nézhetnénk ezt a kérdést az életcélok szempontjából is, hiszen egy intelligens jármű akár abban is segíthetne, hogy kiszakadjunk a napi mókuskerékből, és valami újat és jót kezdjünk magunkkal.

Nézhetnénk, de most inkább maradok annál, hogy valóban oda akarunk eljutni, ahova indultunk.

 

Sokszor írtam már (legutóbb fél éve) az „okos” és az önvezető autókról:

Az elmúlt hónapokban is voltak újabb fejlemények, ezek egy részéről lesz szó most.

Az első egy alapos és segítőkész cikk arról, hogy a buta autóból olcsón és egyszerűen lehet okosautót csinálni. A megoldás középpontjában egy Android alapú központi egység (Ownice C300 OL-8992T) van. Ez az autóban már meglévő CAN buszra csatlakozik.

Mi ez a CAN? Az autó összes elektronikus részegységét egymással összekapcsoló kommunikációs hálózat. A szabványa (ISO 11898) 1993-ból származik. Akkoriban fel sem merült az autón belüli kommunikációban a titkosítás és az azonosítás kérdése – hiszen miért is lenne ilyesmikre szükség? Azóta sok kiegészítése született a szabványnak (legutóbb 2015-ben), de a biztonság nem került bele. Azért hasznos a szabványosítás, mert így az autógyártók sok beszállító részegységeit tudják beépíteni, és nincs probléma a közöttük való kommunikációban. Milyen részegységekről van szó? Néhány példa: kormánymű (szervo), sebességváltó, fékrásegítő, ABS, légzsák, tempomat, ablakemelő, rádió, zenelejátszó, motoros tükör, ablaktörlő és még sok-sok más. Ezeket mind elektronika vezérli. Ez a vezérlés sokszor automatikus, és érzékelőkön alapszik (pl.: sebesség, a kormány állása, az autó dőlésszöge, a motor hőmérséklete, biztonsági öv csatja, parkoló radar, esőérzékelő).

Ezt az egészet a CAN köti össze, és – ahogy előbb írtam – nyoma sincs biztonságnak, minden elem elhiszi az információt, amit kap, és elhiszi, hogy az a másik elem küldte, amelyik feladóként szerepel benne.

Itt jön be a képbe egy újonnan felfedezett (de évtizedek óta létező) támadási lehetőség. A CAN úgy működik, hogy azt az elemet, amelyik sok hibás adatcsomagot küld, egyszerűen kikapcsolja (hiszen elromlott). Ha valaki be tud jutni ebbe a hálózatba, akkor például az ABS vagy a kormányszervo nevében tud ilyen hibás adatokat küldeni, és így elérheti, hogy a rendszer lekapcsolja a hibás egységet. Ki próbált egy modern autót úgy kormányozni vagy fékezni, hogy a szervo vagy a fékrásegítő nem működött? Alig-alig lehetséges!

Ahogy írtam, 1993-ban még nem tűnt reális veszélynek az autó belső hálózatának megtámadása. Azóta a helyzet megváltozott. Már nem kell fizikailag hozzáférni az autóhoz, és bekötni valamit a belső hálózatába (pl. rádugni a kiépített szervízcsatlakozóra), hanem interneten keresztül is meg lehet ezt tenni.

Ez nem elméleti lehetőség! Két éve mutatták be élesben (autópályán haladó Jeep Cherokee volt az áldozat). A támadó az autó minden lényeges funkcióját a kezébe tudta venni. Hogyan? A szórakoztató elektronikai rendszeren keresztül jutott be, mert az rendelkezik internetkapcsolattal. Sajnos minden rá van kötve a CAN-ra, és elég egy kis lyuk a zenelejátszóban, hogy elérjék a gázt vagy a féket. Ez a 2015-ös támadás csak az adott autó belső rendszereinek alapos ismeretében volt kivitelezhető.

A most feltárt lehetőség sokkal egyszerűbb. Azon alapszik, hogy a CAN szabványos. Nem feltétlenül fogja tudni vezérelni a támadó a féket vagy a kormányt, de kiiktatni tudja. Ez éppen elég gáz!

Erről rögtön eszembe jutott, amit a magyar AImotive cégtől hallottam nemrégiben. Azt mondták, hogy az autóban három külön hálózatnak kellene lennie: az egyik az infrastruktúra (fék, gáz, kormány és minden más, amitől megy az autó), a másik a szórakoztató elektronika, a harmadik az önvezető funkció. Az első és a harmadik között van kapcsolat (de szabályozott és ellenőrzött), a második teljesen független a többitől. Ezzel már ki is lenne védve a legtöbb támadás! Ez néhány éven belül bevezethető lenne, és a jövőben gyártandó autók biztonságosabbak lennének. Sajnos a már meglévőkbe aligha lehet ezt a módosítást beletenni.

Az eddigieknek még minden modern autóra vonatkoztak, nem sok közük volt az önvezető autókhoz. Az amerikai haditengerészet mostanában reflektorfényt kapott balesetsorozata kapcsán köztudott lett, hogy a navigációban használt GPS rendszer mennyire könnyen támadható. Azt régen tudni lehetett (volna), hogy zavarható a jel, vagyis működésképtelenné lehet tenni a navigációs rendszert, ha ugyanazon a frekvencián erős jelet sugárzunk. Ezt most már könnyen meg is lehet tenni egy drón felhasználásával.

A hírek szerint valaki (állítólag az orosz hadsereg) már teszteli azt a technológiát, amivel hamisítani lehet a jeleket, vagyis azt hiszi a jármű (az ember), hogy valahol máshol van. Június 22-24-én a jelentések szerint egy időben és egy helyen legalább 20 hajó navigációs rendszere tévedett nagyot – és ezt orosz GPS-támadásnak tulajdonítják. Ha ez valóság, és elérhető lesz mások számára is, akkor a GPS-szel navigáló önvezető autók is bajba kerülhetnek.

Meg kell mondanom, hogy már ez előtt a támadás előtt, amikor még fogalmam sem volt arról, hogy a műholdak jele meghamisítható, gyanakodva tekintettem a LIDAR technológiára az önvezető autókban. Mi az a LIDAR? Lézeres radar (light + radar), ami nagyon pontos háromdimenziós képet tud előállítani a környezetünkről, amit aztán az autó összevet a korábban letöltött szintén háromdimenziós térképpel és a GPS-es helymeghatározással, majd ezek alapján navigál és vezet. Mi nem tetszett ebben? Az első az, hogy a LIDAR nagyon drága, tízmilliókba kerül. (Ez sokat javulhat, ha egyszerűsítenek a technológián és az majd tömegtermelésbe kerül.) A másik aggályom a térkép használata. Szerintem a térkép navigációra való, és a vezetés maga nem függhet a térkép meglététől vagy pontosságától, és a helymeghatározás pontosságától sem.

Szóval, még mindig azt gondolom, hogy a vizuális tájékozódás lesz jó darabig a járható út. Ehhez elég néhány kamera és mellé okos és gyors szoftver. Az valószínűleg eltart egy darabig, amíg a képelemző szoftver olyan gyors és okos lesz, mint egy ember, de bíztatóak az eddigi eredmények. Érdekes videókat publikáltak, amik jól mutatják a képességeit.

Ha majd egyre több lesz az önvezető autó, az nyilván együtt jár azzal is, hogy a mindennapokban az autó egyre inkább arra szolgál majd, hogy eljussunk valahova, és csökken „szeretett tárgy” funkciója. Ebben egy nagy lépés lesz, amikor a sok „as-a-Service” közé belép az önvezető autó mint szolgáltatás. Vagyis nem csak hogy nem fogjuk vezetni az autót, de a tulajdonunk se lesz majd. Tulajdonképpen ez sem új, hiszen a taxi is ilyen autó, de várhatóan megjelenik az önvezető autó mint külön szolgáltatás, és arra számítok, hogy a nagy játékosok között lesznek a ma feltörekvő gyártók. Nem tudom, hogy vajon az autókölcsönzők milyen sikerrel ugranak rá erre az új piacra, és mekkora szeletet tudnak majd kihasítani belőle. Vannak már jelei annak, hogy a kölcsönzők és a fejlesztők összefognak (Hertz és Apple, Avis és Waymo (Google)), meglátjuk, mi lesz az eredmény.

Egy hét múlva lesz egy konferencia San Franciscoban, ami kifejezetten az önvezető autó mint szolgáltatás témáról szól majd. A beharangozó utolsó mondata érdekes jövőt vetít elénk: „The surge in self driving technology and the connected user will allow cars to provide a service entirely customized to the person riding it, their mood, time of day or even their destination”. Tőlünk (utasoktól), akár a hangulatunktól is függhet majd, hogy milyen autó jön értünk. Érdekes! Ez még odébb van, de nem lehetetlen…

Erről eszembe jutott egy tavaszi eszmefuttatásom, amiben a „Washing machine-as-a-Service” is előkerült. Biztos az is jön majd, de az autó nagyobb üzletnek tűnik…

Mesterségesen etikus

Mesterségesen etikus és humánus intelligencia. Ez a nagy közös cél. Megvalósul?

Tegnap én voltam az egyik fogás a Hitachi Data Systems üzleti reggelijén, és jó kedvvel, jó étvággyal fogyasztottak a jelenlévők. Szuper társaság jött össze, és inkább beszélgetés, mint előadás volt ez a másfél óra. Úgy láttam, hogy mindenkit érdekelt a téma, az „összekapcsolt mindenség”. Engem is arra ihletett, hogy – az ott megbeszéltekre is támaszkodva – részletesen kifejtsem egy-egy szegletét.

Blogom rendszeres olvasóim és azok, akik figyelik rövidebb írásaimat már tudják, hogy több mint egy éve elkezdtem beleásni magamat a számítási felhő, az internetre kapcsolt eszközök (IoT) és a mesterséges intelligencia egymással való kapcsolatába. Bár nem mindig világos és egyértelmű, hogy mit is értünk ezeken a fogalmakon, nagyjából sejtjük.

A három terület összekapcsolódására már sok példát láttunk, például az autózás, a logisztika és az egészségügy területén. A jövőt ebben a témában sem könnyű megjósolni, de a hivatásos jósok között nagy az egyetértés abban, hogy jelentős fejlemények vannak előttünk, és nem valami távoli jövőben, hanem idén és egy-két éven belül. Nem olyan nagy csoda egy ilyen jóslat, hiszen már elkezdtek megtörténni a jó és a rossz dolgok is. Az útjainkon futnak önmagukat vezető autók, az orvosi diagnosztikában és a gyógyításban is használják a „gondolkodó” gépet és a sok-sok „okos” kütyüt, az informatikai tevékenységek közül rengeteget automatizáltak már, a könyvelésben és a könyvvizsgálatban is egyre terjednek az ilyen megoldások, és megjelentek az emberekkel kommunikáló robotok is.

Ha már robotok: Asimov megalkotta a robotika három törvényét:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Ha alaposan belegondolunk, már az első törvény is nehéz értelmezési feladatot ad egy robotnak (egy embernek is), de később kiderült, hogy nem is elégséges, mert nem csak az egyes emberre, hanem az emberiségre is gondolni kell. Ezért egészítette ki R. Daneel Olivaw egy nulladik törvénnyel a listát:

0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie, hogy az emberiség bármilyen kárt szenvedjen.

A többi törvényt kiegészítette a nulladik megsértésének tilalmával is. Na, ezt még nehezebb értelmezni, volt robot, amelyiknek az agya le is olvadt miközben a feladat megoldásával küzdött. Olivaw végül tudta értelmezni és alkalmazni ezt az új törvényt, ami miatt kárt is kellett okoznia emberben. (Ő robot volt, de felül tudott emelkedni robot mivoltán az emberiség érdekében.)

Ez „csak” fantasztikus irodalom, de mi van a valóságban? Az eddig megalkotott robotokban, intelligens gépekben vannak ilyen törvények? Rakott beléjük ilyesmit valaki? Ha igen, ki hozta meg a döntést? Lehet olvasni etikai tanácsokról, de egyelőre nem sokat tudunk a működésükről és a döntéseikről (ha voltak olyanok). Közérdeklődésre tarthat számot a Google, hiszen az egyik legnagyobb játékos. Amikor három éve megvette a DeepMind céget, a megállapodás része volt egy ilyen szervezet felállítása, de még ma sem tudjuk, hogy kik a tagjai és csinált-e már valamit. Majd megtudjuk, amikor itt lesz az ideje… Más cégek nyitottabbak, de nem találtam sok konkrétumot.

Azokban az „intelligens” rendszerekben, amikről tudunk, még nincs sok valódi döntés a gép kezében, inkább csak elemzi a lehetőségeket, és a saját véleményével együtt felajánlja a döntést hozó embernek. Persze, az emberi történelemből tudjuk, hogy a szakértők rendszeresen megvezetik a döntéshozókat, így ebben az esetben sem zárhatjuk ki a lehetőséget.

A valódi döntéseket hozó rendszerekre való felkészülés ideje mégis eljött már, és sok okos ember össze is ült januárban, hogy megalkossa a mesterséges intelligencia alapelveit. Nem sikerült nekik az asimovihoz hasonló három-négy pontból álló listát készíteniük, de 23 pontba bele tudtak mindent foglalni, amit fontosnak tartottak. Elolvastam és igyekeztem megérteni az általuk megfogalmazott alapelveket, és egyet tudok érteni velük. Azonban úgy érzem, hogy ez csak óhajok listája, és rengeteg akadálya van annak, hogy teljesüljenek. Egy részükkel „csak” az a baj, hogy még soha, semmilyen technikai fejlesztés esetében nem teljesültek, és – ahogy én látom – a kapitalizmus körülményei között nem is teljesülhetnek. (Arról fogalmam sincs, hogy más társadalmi rendszerben teljesülhetnek-e.)

Mik ezek?

Az első öt pont a kutatás alapelveit szögezi le, közöttük olyanokat, mint a gazdasági, jogi, etikai és társadalomtudományi kutatások finanszírozását; együttműködést, bizalmat és átláthatóságot a kutatásban és a fejlesztésben; a biztonsági szabványok betartását a fejlesztési verseny során. Látott már valaki olyan műszaki fejlesztést, ahol ezeket betartották? Be lehet ezeket tartani?

A többiek hasonlóak, pl.: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd? Emlékezzünk arra, hogy a GO játék bajnoka nem értette meg az ellene játszó gép lépését! Az egy primitív masina volt a jövő önállóan gondolkodó és ítéletet hozó robotjához képest.

Hogy értsük azt, hogy az önálló gépnek a céljai és a viselkedése legyenek összhangban az emberi értékekkel? Ki definiálja az „emberi értékeket”? Kinek az értékrendje számít?

Azt írják elő, hogy az egész emberiség javára kell fordítani az előálló eredményeket, és a lehető legtöbb ember előnyére. Igen, valóban így kellene lennie! Hol van az a társadalmi-gazdasági rendszer, amiben bármit is az egész emberiség javára fordítottak?

Az sem lényegtelen kérdés, hogy mi a hierarchia a 23 alapelv között. Ha ütközés van, melyik erősebb? Ez egyáltalán nem lényegtelen kérdés! Már az eredeti három törvény esetében is óriási különbséget okoz a sorrendjük megváltoztatása.

Az a helyzet, hogy nem valami távoli jövőről beszélünk – a mesterséges intelligencia már most történik. Ahogy fent írtam, még csak döntés-előkészítést végez, de abban is nagy hatalom rejlik. Mi fogja vissza a fejlesztők (egy megtévedt fejlesztő) vagy a hekkerek kezét, amikor óriási hatalomhoz és pénzhez juthatnak a döntések befolyásolásával?

Mennyire közeli ez a jövő? Az IDC szerint 2019-re minden internetre kötött (IoT) eszköz mesterséges intelligenciával dolgozik majd. Minden, azaz 100%! Mik lesznek a legnagyobb területek? Orvosi diagnózis és kezelés, minőségmenedzsment a gyárakban. Mindkettőben óriási lehetőségek vannak hatalom és pénz vonatkozásában!

Ahogy ezeket írom, magamban azon töprengek, hogy mit látok rosszul. Tényleg reménytelen ezeknek az elveknek a betartása, vagy valamit nagyon elnéztem? Segítsen ki valaki!

Dr. Robot

Miről lehet beszélgetni dr. Robottal? Kell egyáltalán beszélgetni vele?

da Vinci robotA múlt héten azt ígértem, hogy visszatérek a modern számítástechnika orvosi alkalmazásaira. Akkor megemlítettem a Watsont, ami orvosokat segít a diagnózis megtalálásában és terápiás javaslatokkal, és nagyszerű eredményeket ér el (főleg a daganatos betegségek területén). Egyelőre úgy látszik, hogy nem elveszi az orvosok munkáját, hanem tudós kollégaként segíti őket abban, hogy hihetetlen számú beteg leleteit, kezelési módjait és azok eredményeit átnézve, elemezve, gyorsan jó diagnózist állítsanak fel, és megtalálják a legjobb terápiát. Watson többé-kevésbé tekinthető gondolkodó gépnek, hiszen tanulni is képes. Ez a terület, a cognitive computing, nagyokat lép előre, és nem az IBM Watson az egyetlen képviselője. (Itt írtam tavaly egy-két érdekes dolgot erről a területről.)

Ma nem erről lesz szó, hanem a robotika orvosi alkalmazásairól, azon belül is a sebészetről. Talán nem is olyan meglepő, hogy egy nagyon precíz, finom mozgásokat igénylő területen bevetik a robotot, aminek nem remeg a keze, nem fáradt, nincsenek érzelmei, hanem minden helyzetben nagyon pontosan el tudja végezni a feladatát. Ha erre számítottunk, akkor nem teljesen volt igazunk. Ugyan sebészeti robotok használatát már 2000-ben engedélyezte az FDA, a robot egyáltalán nem dolgozik önállóan. Nincs benne semmilyen formája az intelligenciának. Mégis mi a haszna, mire jó?

A nagyon finom, apró mozdulatokat igénylő területeken alkalmazzák, mert le tudja kicsinyíteni a sebész kézmozgását. A szoftvere képes a kézremegés hatásának csökkentésére, kiszűrésére. Az ízületei mozgékonyabbak, mint az emberéi, így olyan helyekre is be tud kanyarodni, ahova egyébként sokkal több vágással lehetne csak eljutni. A döntéseket viszont egyáltalán nem akarja kiadni a kezéből a sebész – mondta az NJSZT idei Digitális Esélyegyenlőség konferenciáján Haidegger Tamás. Azt is megtudtuk tőle, hogy már 3-4 évtizedes múltja van ennek a témának, először a NASA kezdett el ezen a területen kutatni a hosszú időt a Földtől távol töltő űrhajósok miatt. 1970-ben alkották meg a NASA mérnökei az első távsebészeti rendszer terveit, amik akkor még megvalósíthatatlannak bizonyultak, de évekkel később kezdtek realitássá válni egyes elemei, és felmerült a földi katonai alkalmazás lehetősége. Az első megvalósult műtét 1985-ben mégsem a hadseregben, hanem polgári területen történt, egy idegsebészeti beavatkozásban szolgált asszisztensként egy robot. Itt azt a képességét használták ki a robotnak, hogy nagyon nagy pontossággal tudja végrehajtani az előre megtervezett műveleteket. Tehát itt a sebész semmilyen döntést sem bízott a robotra, hanem „csak” a terv nagyon precíz végrehajtójaként alkalmazta.

Hiába volt nagyon pontos és precíz, ez a módszer mégsem terjedt el, mert hiányzott a bizalom a robotok iránt. Végül nem is ez a megközelítés (az előre megtervezett beavatkozás automatikus vagy félautomatikus végrehajtása) hozta az első komoly sikereket, hanem a da Vinci „távoperáló” rendszer, vagyis a NASA mérnökeinek ötlete, de nem a világűrben, hanem egyszerű kórházban, és nem távolról, mert egy helyen kell lennie a sebésznek és a robotnak (szabályok és aggodalmak miatt). Akár a laporoszkópia továbbfejlesztésének is lehet tekinteni, mert azt teszi könnyebben, pontosabban kivitelezhetővé. Úgy látszik, hogy ezt a megközelítést könnyebben értették meg és fogadták el az emberek. Már több mint 3500 da Vinci robot dolgozik szerte a világon (kétharmaduk az USA-ban), és a közelünkben is vannak páran. Kíváncsiságból beírtam Budapestet a keresőjükbe, és elég sok közeli találatot kaptam (mindet tőlünk nyugatra, a legközelebbieket Bécsben). A rendszer kétmillió dolláros ára nyilván jelentős akadálya a terjedésének.

Az elfogadáshoz járulhat az is hozzá, hogy nem is nagyon használják a „robot” szót, amikor a módszert ismertetik. A bemutató szövegben csak egyszer, és csak a vége felé fordul elő a „robotics” szó. Ez stimmel is, hiszen semmit se csinál önállóan a da Vinci – csak egy (vagyis három-négy) precíz kezet ad a sebésznek. Évente több százezer műtétet végeznek így az Egyesült Államokban, és egyes műtétek (például prosztata) túlnyomó többségét.

Természetesen nem egyöntetűen pozitív a fogadtatása, és sok kritika is éri. Ezek különféle szempontból bírálják a da Vinci rendszert, amikből eggyel foglalkoznék csak. Fontos a kórházak számára, hogy egy ilyen ügyes és drága berendezést minél inkább kihasználjanak, ezért elcsábulhatnak és kevesebb oktatás és gyakorlás után is egyedül rábízhatnak valódi beteget egy kezdő orvosra. Talán ennek tulajdonítható, hogy egyes elemzések szerint nem jobbak az eredményei a hagyományos laparoszkópiás beavatkozásokénál. (Egy 2013-as tudományos cikk szerint az eredmények nem voltak mérhető mértékben jobbak, de a költségek sokkal magasabbak voltak: The Journal of American Medical Association.)

Érdemes a da Vinci rendszert használni a megszokott, bevált módszerek helyett? Igazságot ebben a kérdésben majd a következő évtizedek hoznak, de nem biztos, hogy az a kérdés ugyanez a kérdés lesz.

Az írásom elején említett Watson a kórismében és a kezelés kiválasztásában segít. A da Vinci a műtétben. A kettő között ott van az orvos, és a da Vinci kezét is az orvos fogja. Ő értelmezi Watson tanácsait, ő hozza meg a döntést a kezelésről. Ő tervezi meg a műtétet, és ő hozza meg a műtét közben felmerülő kérdésekben a döntést. A pontosabb képalkotó rendszerek és a pontosabb diagnózis birtokában talán egyre kevesebb ilyen azonnali döntés kell majd. Ha majd – akárcsak a vizsgálatokról és a kezelések eredményességéről – a műtétekről is lesz sokmilliós adatbázis, esetleg a Watson segíthet a sebésznek műtét közben. Eljön majd az az idő, amikor Watson és da Vinci együtt dolgozik, és az orvos csak megfigyelő lesz? Vagy az sem? Kivel fogunk beszélni a műtétről, a várható eredményekről és a kockázatokról? A Watson képes lehet erre…

Talán már itt van a küszöbön egy efféle megoldás: a Google és a Johnson & Johnson nemrég belefogott egy közös vállalkozásba, aminek a célja a „Sebészet 4.0” vagy „digitális sebészet” megteremtése. (Ebben a terminológiában „Sebészet 3.0” az, amit a da Vinci használatával csinálnak.) A diagnosztikai és a műtéti eszközöket döntéstámogató algoritmusokkal egészítik majd ki. Azt még nem merik kimondani, hogy döntéshozó szerepük is lesz… A prototípust 2020-ra ígérik.

Amikor majd könnyű szívvel rábízzuk a családunk életét az önmagukat vezető autókra, talán a mesterséges intelligenciával bíró orvosi robotokat is szívesen látjuk magunk körül.

Ebben az írásomban nem Haidegger Tamás előadását ismertettem, de erősen támaszkodtam rá abban, hogy merre induljak, merre nézzek körül. Nem is mindenről írtam, amiről ő nagyon érdekesen, sok képpel és videóval beszélt. Javaslom az érdeklődőknek, hogy nézzék meg a teljes előadást (26 perc).

Továbbiak erről a konferenciáról:

Túlfűtött várakozások?

Mi ez a nagy csinnadratta? Mikorra és hová jutunk el az új technológiákkal?

Emerging-Technology-Hype-Cycle-for-2016_Infographic_revise2Hype cycle – akik az informatika környékén mozognak, biztos találkoztak már ezzel a kifejezéssel. Ezt használja a Gartner elemző cég a technológiai trendek életciklusának leírásakor. Szó szerint „felhajtásciklus” lenne magyarul, de nem igazán tetszik, nem véletlen, hogy nem szokták lefordítani. Röviden összefoglalva, ezek a szakaszai:

  • Az első az új technológia megjelenésétől a lufi kidurranásáig tart. Ebben az időben sokat beszélnek a dologról, nagy a csinnadratta körülötte, sok sikeres alkalmazásról hallunk, és sok probléma merül fel. Sok cég megpróbálkozik vele, de még több vár ki.
  • A túlfűtött várakozások kifulladnak, sok kezdeti próbálkozás csődbe jut, megszűnik. Néhány sikeres termékbe és szolgáltatásba továbbra is fektetnek be pénzt és munkát, és javítgatják őket.
  • Kezd kialakulni a reális kép, hogy mire és hogyan használható ez a technológia. Megjelennek a második és harmadik generációs termékek, egyre több nagyvállalat próbálkozik vele, de a konzervatívabbak még kivárnak.
  • Beindul a tömeges használat. Már tudjuk, hogy minek alapján ítéljük a hasznosságát, és hogyan válasszuk ki a jókat. Folytatódik a növekedés, és megtérülnek a befektetések.

Persze, egyáltalán nem minden új műszaki megoldás járja be ezt az életutat, sok kihal a tömeges használat előtt.

Miért írtam ezt le? Belefutottam az I-Tango összefoglalójába a Gartner friss elemzéséről, és érdekelt, hogy mit mondanak azokról az újdonságokról, amik engem is nagyon foglalkoztatnak, és amikről írtam mostanában.

Mik ezek? Az összekapcsolt mindenfélékről írtam elég sokat. Ez egy nagyon széles terület, és sok elnevezés szerepel ezzel kapcsolatban a Gartner írásában. Az egyik az IoT (a dolgok internete), ami arról szól, hogy olyasmiket is számítógépes hálózatba kapcsolunk, amikre néhány éve még nem is gondoltunk (villanyégők, mosógépek, konyhai hűtők, garázskapuk). Ezt – szerintem – nem lehet anélkül tárgyalni, hogy a nagy számítástechnikai „felhőben” összegyűlt sok-sok információról beszélnénk. Sőt, itt nem csak információról van szó, hanem megjelenik az „okosság” is bizonyos értelemben. Itt most nem az okostelefonra és társaira gondolok, mert azok valójában egyáltalán nem okosak, hanem olyan gépekre, amik (legalábbis látszólag) emberi módon képesek gondolkodni, és a képességeik hasonlóak az emberéhez. Ilyen, például, a Watson, amiről elég sok érdekes hír jelent meg az utóbbi évben.

Ide tartoznak a „connected” mindenfélék, amik közül érdemes kiemelni a hálózatba kötött házat (connected home) és autót (connected car). Mindkettőben sok-sok belső elem kapcsolódik össze és a külvilághoz, és mindkét technológia nagy ígéretekkel és óriási veszélyekkel van teli. Ma még aligha tudhatjuk, hogy hova vezet az útjuk, kényelmesebbé és biztonságosabbá, sőt esetleg jobbá teszik az életünket, vagy hosszú ideig vitatott lesz az értékük. Így vagy úgy, érdemes foglalkoznunk ezekkel is!

Ha már szóba jött az internetre kapcsolt autó, akkor az önvezető autót se hagyhatjuk ki. Ma még nem ért össze ez a két technológia az autókban, de nem kell sokat várnunk erre az integrációra. Szerintem az igazi nagy durranás akkor jön majd, amikor az útvonaltervező összekapcsolódik egy olyan rendszerrel, ami pontosan tudja elemezni és előre jelezni a forgalmat, majd az egész elkezdi az önvezető autót optimálisan vezérelni. Ennek az elemei többé-kevésbé készen is állnak már, és itt-ott írnak is arról, hogy ez egy lehetséges jövő. A szállítóktól még nem láttam határozott állítást, hogy ezen a teljes integráción dolgoznának. Vajon csinálják már? Rendelkezésre áll valakinél a teljes technológiai spektrum? Anélkül, hogy a boszorkánykonyháikba belátnék, a Google esetében biztosra mondhatom, hogy igen. Az önvezető autó kezd összeállni, bár még nem mernek határozott dátumot mondani. Legutóbb ezt olvastam tőlük: „We’re going to learn a lot from our testing in the coming years, including how people might like to use self-driving technology in their daily lives. If the technology develops as we hope, we’ll work with partners to bring this technology into the world safely.” Ez igen óvatos, és az óvatosság indokolt is (különösen a Tesla tragikus balesete fényében.) Az útvonaltervező már megvan, és elég jó minőségű. A három éve megvett valós időben dolgozó alternatíva (Waze) is a Google kezében van, bár egyelőre még külön utakon halad a két szolgáltatás, de ez aligha marad sokáig így. Ha elég sokan használják, a tervezéskor már azt is figyelembe tudja venni, hogy másokat milyen útvonalra irányított, így a jelen állapoton túl már jövőbelátással is rendelkezhet. Ha az egész mögé odatesznek egy nagy kapacitású és gyorsan elemezhető matematikai modellt, akkor eljuthatnak az autók optimális vezérléséig. A szükséges számítógép is kezd meglenni, hiszen az ígéretes kvantum számítógép (a D-Wave) is már házon belül van.

A Google kínai versenytárs a Baidu, és nem csak az internetes keresés területén. Ők is dolgoznak az önvezető autón, és sokkal optimistábbak a megvalósítás időtávját tekintve. Ők úgy gondolják, hogy pár éven belül készen lesznek a sorozatgyártásra, és 2021-ig a tömegtermelés is beindul. A tesztelést hamarosan Amerikában is beindítják ( a K+F részlegük már ott van Kaliforniában, a Google szomszédságában), és az autómegosztó hálózatokkal is tervezik az együttműködést.

Az még kérdés marad, hogy akarjuk-e mi ezt. Sőt, az is kérdés, hogy elérhető-e a kritikus tömeg, elég ügyfele lesz-e a szolgáltatásnak.

Emerging-Technology-Hype-Cycle-for-2016_Infographic_revise2-peakNézzük, hogy hol vannak a kedvenc témáim a csinnadratta mértékével mérve! A Gartner terminológiájában a smart robots, a connected home, a cognitive expert advisors és az autonomous vehicles nevet viselik. Azt még nem látom az ábrájukon sehol, amit az előző hosszú bekezdésben leírtam. Vajon felkerül valamikor a listájukra, mikor, hova és milyen elnevezéssel?

Szóval, hol vannak? Mind a túlfűtött várakozások kidurranása közelében. Az önvezető autó egy picit túljutott ezen, és éppen lefelé indul az illúzióvesztés vályújába. A Gartner szerint tíznél több éve van még ahhoz, hogy az utolsó szakaszba, a tömeges használat fennsíkjára felkapaszkodjék. Hogy látják ezt a gyártók? Az előbb írtam, hogy a Baidu szerint már csak pár év van a tömegtermelésig. A Tesla is optimista volt egy évvel ezelőtt, amikor 2020-21-re tették az elkészültét. Elon Musk akkor azt mondta, hogy ezt követően még néhány év kell a jogi keretek megalkotásához. (Ezt az Egyesült Királyságban már meg is kezdték.) Meglátjuk, kinek és hogyan lesz igaza…

A másik három technológia még felfelé kapaszkodik, és még várja őket a csúcs, de gyorsabb fejlődést jósolnak nekik, 5-10 év múlva kerülhetnek tömeges használatba. Én is kevesebb akadályt és veszélyt látok ezekben, mint a teljesen automatikus autókban. Nem azért, mintha biztonsági szempontból jobban rendben lennének az internetre kapcsolt házak vagy a robotok, hanem azért, mert a hibák kisebb baleseteket okoznak, mint az autók esetében. Vagy most így látszik… (Érdeklődőknek: korábban az Okos adat és az Intelligens félelem című cikkeimben is töprengtem azon, hogy mi történhet és hogyan.)

Kedves Olvasó! Mit gondolsz a Gartner jóslatairól? Mik a várakozásaid? Melyik új technológiában látsz lehetőséget az életünk jobbá tételére?

 

A vezetés élménye

Merre tartanak az önvezető autók? Minket is magukkal visznek?

Mit várhatunk a részben vagy teljesen önmagukat vezető autóktól? Sok jóslás jelenik meg ezen a területen. Nézzünk először egyet a piac nagyságáról! A Boston Consulting Group szerint 2025-re 42 milliárd, 2035-re 77 milliárd dolláros üzlet lesz ez. Az alábbi grafikonokon látszik, hogy 2035-re már az új eladásoknak közel kétharmada ilyen autókból kerül majd ki (a számok milliárd dollárban értendők). Ez – persze – a darabszámokban másképp néz ki, mert ezek az autók sokkal drágábbak lesznek (a teljesen önvezetők legalább 10 ezer dollárral).

autonomous-car-market-BCG-2025-2035

 

Ha már a pénznél tartunk, a megkérdezett vezetők negyede hajlandó 4000 dollárt fizetni egy-egy kiválasztott képességért. A kedvencek: vezetés autópályán, vezetés nagy forgalomban, vagy egy kiválasztott útvonalon, és a teljesen automata (valet) parkolás.

Mi bírná rá az embereket arra, hogy ilyen autókat vegyenek? A felmérés szerint: alacsonyabb biztosítási díjak, kisebb fogyasztás és jobb biztonság. Az első kettő egyszerű és könnyen megoldható, bár a biztosítások esetében vannak tennivalók, de azok nem bonyolultak.

A biztonság megérdemel néhány külön cikket. A mai problémák triviális hibákra és mulasztásokra vezethetők vissza. Másképpen mondva: félig vagy annyira sem kész modulokat építenek be ezekbe az autókba, így nem az a csoda, hogy vannak váratlan balesetek, hanem az, hogy mennyire kevés van belőlük.

Mire számíthatunk, mikor árasztanak el minket ezek a járművek?  Különböző jóslatok vannak, előbb írtam a BCG becsléseiről. Mit mondanak a gyártók?

Baidu_BMW-self-drivingA kínai Baidu szerint pár éven belül kész lesznek a szériagyártásra, és 2021-ig beindul az önvezető autók tömegtermelése. Arra számítanak, hogy Kína és néhány más ország elfogadóbb, befogadóbb lesz ezen a területen. Nekik talán kevésbe kell foglalkozniuk a már meglévő gyártási kapacitások jövőjével, így „zöldmezősen” könnyebben ugrálnak majd. A többi gyártó erre az időre még inkább csak a vezetést segítő funkciók továbbfejlesztését látja reálisnak, de egy új játékosnak mások a lehetőségei. Ez a kínai cég hamarosan 10 városra terjeszti ki a saját fejlesztésű vezető nélküli autóinak a tesztelését. Hamarosan Amerikában is megkezdik a teszteket. Azt is tervezik, hogy autómegosztó szolgáltatásokkal működnek együtt. Érdekesség: a K+F központjuk a Szilícium völgyben van, a Google közelében. (Vajon agyelszívással is foglalkoznak? Az egyik emberük dolgozott már a Google-nél és öt hónapot töltött a Tesla Autopilot csapatában.)

Google_car_21798665468_dc3cbeb9cb_oAzt még ők sem tudják, hogy az önvezető autók egymás között és a „közönséges” autókkal fognak-e kommunikálni, és hogyan. Azt hiszem, hogy éppen ez a kommunikáció segíthetne annak a célnak az elérésében, hogy kevesebb baleset és kevesebb torlódás legyen az utakon. Nemrég a Google autójának volt egy kisebb balesete a „kommunikációs félreértés” miatt. Mi történt? Azt tapasztalták, hogy az autóik túl óvatosan, „mazsola” módon vezetnek, és ezért vannak az idegenhibás koccanásaik. A többi vezető más viselkedéshez van szokva, másra számít az utakon. Ezért átprogramozták, hogy legyen egy kicsit belemenősebb. Ez be is vált, amíg nem egy busz elé vágott be, és a buszvezető nem hárította el a koccanást. A hírek szerint visszavettek a belemenősségből, ha a másik jármű busz vagy teherautó. Tanulnak vezetni…

Mit mond a Google jövőről? Semmit. Még évekig tesztelnek, és majd keresnek partnereket a megvalósításhoz.

És a Tesla? Elon Musk egy évvel ezelőtt 5-6 évre becsülte az önvezető autó elkészítéséhez szükséges időt. Akkor azt mondta, hogy a legnagyobb hiányosság a számítógép képessége a tárgyak gyors felismerésére. „Determining what an entire object might be when only a piece of it is visible by camera or radar is a key issue for the technology to determine the correct course of action for the vehicle.” Az idei tragikus baleset sajnos igazolta ezt.

A jelek szerint a kínai cég jobban igyekszik, jobban nyomul. Nekik sürgősebb, nekik ott van az óriási belföldi piac, és náluk valószínűleg lazábbak a szabályok. Meglátjuk, hogy mikor jönnek ki a saját autójukkal…

A BCG víziói között szerepel az is, hogy a megapoliszokban (mint New York és Párizs) az önvezető autók megosztása (egy-egy útra való igénybevétele) gazdaságosabb lesz a saját autónál. Ezzel ott csökkenhet a forgalom, ami rájuk is fér. Mi lesz a helyzet a kisebb (néhány milliós) városokban? Mi lesz az autópályákon?

Akarják majd az emberek ezt az egészet? Ilyen véleményeket olvastam a napokban:

  • 2020 körül nagy változás jön. Az emberek nem akarnak majd autót birtokolni. Telefonon hívnak egy autót, az megjön, elviszi őket, nem kell leparkolni, és csak megtett út után kell fizetni.
  • Ez ugyanaz, mint a taxi. Az is telefonhívásra jön, elvisz, nem parkolok vele, a megtett utat fizetem.
  • Megváltoznak a városok, mert 90-95%-kal kevesebb autóra lesz szükség. A parkolókat parkokká alakítjuk.
  • A taxi létezése sem csökkentette az autók számát, és megmaradtak a parkolóhelyek is.
  • A nagy probléma az lesz, hogy az önvezető autó megáll, ha valaki előtte sétál az úttesten. Ha sok ilyen autó lesz, az egész úttest gyalogátkelőhellyé változik, és leáll a forgalom. Az autók utasai rablások célpontjai lesznek.
  • Sok további biztonsági intézkedés kell a halálos balesetek megelőzésére.
  • Milyen unalmas lesz az életünk!

Kedves Olvasó! Te hol tartasz, mit gondolsz? Szívesen hagynád másra az autó vezetését? Mindig, vagy csak unalmas környezetben (városi dugóban, autópályán)? Hiányozna a vezetés élménye? Hogy kiabálnál az ostobán vezető géppel?

Mennyi kérdés? Van még?

 

Intelligens félelem

Mikor támad majd és hogyan? Észre fogjuk venni? Miből?

blonde android with cat

blonde android with cat

Sokszor kerül terítékre manapság a mesterséges intelligencia, és ez sok különböző formában és kontextusban történik. Én is szóba hoztam, amikor a felhő, az „okos” cuccok és az „intelligens” számítógép összekapcsolódásáról elmélkedtem. Ezen a területen óriásiak a lehetőségek – mind a jó, mind a rossz fejlemények területén. A „Watson segít” című írásomban a jó dolgokat emeltem ki, azt írtam, hogy Watson segítőkész kolléga lesz.  Korábban (pl.: Okos adat) néhány aggályomat is leírtam.

Nagy a vita a világban, hogy jót vagy rosszat hoz-e nekünk az, ha a gépek egyre okosabbak lesznek, és egyre közelebb kerülnek az intelligenciához. Mi is ez a mesterséges intelligencia? Már évtizedek óta beszélnek és írnak róla, sőt fejlesztik is. Többször jelentették már ki, hogy létezik.

Valóban létezik? Ez attól függ, hogy mit tekintünk intelligenciának, hol húzzuk meg a határt a gyors információfeldolgozás és az intelligencia között. Az egyik nagy siker az IBM Deep Blue volt, ami 1997-ben legyőzte Gary Kaszparov sakk világbajnokot (aki, egyébként, csalással vádolta a győztest). Visszavágó nem volt, a Deep Blue nyugdíjba vonult. Mit tudott ez a gép? Korábban lejátszott rengeteg mérkőzést, és azokból megtanult egy csomó állást, és megtanulta azokat értékelni. Másodpercenként 200 millió állást tudott kiértékelni, amivel sokszorosan felülmúlt minden sakkozót. Mondhatjuk azt, hogy intelligens volt? Szerintem ez még nem intelligencia – ez csak ismert információ gyors feldolgozása és összehasonlítása a jelenlegi helyzettel.

Az intelligencia ennél sokkal több – szerintem a tudás, az információ birtoklása mellett annak az elemzése, értelmezése, majd az új helyzetekben való kreatív felhasználása is beletartozik. Nem tudom, hogy vajon az eddig mesterséges intelligenciával rendelkezőnek kikiáltott gépek közül bármelyik is tényleg intelligens-e.

Most volt a Microsoftnak egy érdekes kísérlete a mesterséges intelligencia területén. Tay, a twittelő robot lány (@TayAndYou) némi felkészítés után megjelent a közösségi térben, hogy csevegjen és barátkozzon az ott lézengő emberekkel. A gazdái szerint nyilvános adatok, mesterséges intelligencia és egy szerkesztő csapat készítette fel. Az adatokat anonimizálták, megtisztították és megszűrték. Bármit is jelentsenek ezek a műveletek, a végeredmény ismeretében nem voltak különösen hatékonyak. Amikor „szabadon engedték” nagyon kedvelte az embereket, találkozni akart velük, azt mondta, hogy „humans are super cool”. Ez később fokozódott, már szexre is vágyott és daddy-nek szólította az embereket. Az emberi világba való kirándulása 24 órát se tartott, mert hazahívták pihenni, amikor Hitlert kezdte éltetni. Akkor már ilyeneket írt: „im a nice person! i just hate everybody”. Erre ráerősítő párbeszéd: „Do you support genocide?” – „i do indeed” – „of what race?” – you know me….mexican”. A nagy kezdőbetűkkel és a Microsoft_Tay_tweets-photos-5helyesírással nem törődött, hiszen húsz év körüli amerikai fiatalok közé akart beolvadni. Ahogy fentebb írta, mindenki mást is utált, a négereket, a zsidókat, Belgiumot, a feministákat és név szerint Ted Cruzt is. (Az ábrán éppen a Cruzról szóló kis párbeszéd látható, ami jól mutatja, hogy lehet Tayt rávenni valamire.)

Mi ebből a tanulság? A mesterséges intelligenciára vonatkozóan kb. semmi. Aligha lehet olyan szakértője a területnek, aki így képzelné el a mesterséges intelligencia kialakítását. Az lehet a tanulság, hogy ilyen a Twitter világának az a kis szelete, amelyik komoly érdeklődést mutatott a fiatal robot lány iránt. Egy megjegyzés a témában: „Microsoft took @TayandYou offline because they discovered it already reached human-level intelligence.” (Forrás: @markbao.)

Mit érdemes még megjegyezni ebből a kísérletből? Ha üres (vagy majdnem üres) szivacsot dobunk a szennyvízbe, akkor szennyel szívja tele magát. Legyen ez egy újabb figyelmeztetés, hogy a gyerekeinket alaposan fel kell készíteni mielőtt belekerülnek a Facebook és Twitter világába és utána jól és okosan kell támogatni őket! Ehhez, persze, a felnőtteknek otthonosan kell mozogniuk abban a világban. Különben nem tudnak releváns és alkalmazható tanácsokat adni.

Kedves Olvasó! Abból, hogy itt találkozunk, arra gondolok, hogy van gyakorlatod az online közösségi térben. Van a közeledben tizenéves gyerek? Tudsz vele erről beszélgetni, tudod segíteni, hogy ne tévedjen el?

Ha arra a kérdésre kellene válaszolnom, hogy létezik-e már valóban mesterséges intelligencia, akkor elsőre a Watson jutna eszembe mint lehetséges példa. Arról állítják, hogy a hagyományos gépektől teljesen eltérő módon működik. A kezdetekben Watson is kissé furán viselkedett, de javítottak rajta (kiszedték belőle a szleng szótárat, amivel emberibbé akarták tenni a beszédét, és kapott egy szűrőt is ebben a témában). Sok, folyamatos munkával fejlesztik a képességeit, hogy valóban hasznos segítőnk legyen a fókuszterületeken (orvosi diagnózis, előrejelzés).

A másik lehetséges példa az AlphaGo, az a gép, ami ismételten megverte a legjobb Go játékost. (A Go a sakknál sokkal komplexebb játék, és hosszú ideig esélytelennek tűnt, hogy egy gép kiemelkedő lehetne benne.) Nem azért komoly esélyes, mert nyert a játékban. Az igazán érdekes az, hogy a második győzelme során kb. egy órányi játék után olyat lépett, amitől az ellenfele teljesen kiakadt. (Szó szerint kiakadt, ki kellett mennie megmosni az arcát, és 15 percig nem tudott mit kezdeni a lépéssel, ami elsőre értelmetlennek és hibásnak tűnt.) Ez a cikk mond egy nagyon fontosat, amivel szembe kell néznünk (másképp: ami miatt fogalmunk sincs, hogy mivel nézünk szembe). A gép (bár emberi értelemben nem gondolkodik) számunkra felfoghatatlan számú esetet tud felkészülés gyanánt elemezni, és így olyat tud lépni, amit meg sem értünk, nemhogy fel tudnánk készülni rá. Ez a Go játékban csak megdöbbentő. Amikor majd a tőzsdén történik, akkor horror pénzünkbe kerül, ha a hadszíntéren csinálja, akkor …

Mit kezdünk a gépi intelligenciával, ha fel se tudjuk fogni, hogy mit és miért csinál? Tudjuk majd szabályozni, amikor a való világban is megjelenik (pl. a tőzsdén), ha nem is tudjuk, hogy milyen tevékenységeket kellene korlátozni vagy megtiltani?

Mennyire veszélyes a mesterséges intelligencia? Ha tényleg kifejlődik, benne van a potenciál, hogy nagyon veszélyes legyen. Mennyire? Rosszabb lehet, mint a legrosszabb gonosz robotok a filmekben. Miért? Azért, mert arra is képes lehet, hogy szabályozza, megváltoztassa a gondolatainkat. (Korlátozott mértékben megy ez mesterséges intelligencia nélkül is, de a tömegmédia magában nem képes mindenre. A szuper intelligens gép képes lehet.) Itt van, amit Elon Musk (a Tesla első embere) mond: “Potentially more dangerous than nukes.” (nukes=atombomba) Ő közel van a tűzhöz (éppen a saját autóikat is kezdik okosítani), ő csak tudja. Nem ő az egyetlen okos ember, aki riasztónak tartja. Más okos emberek szerint viszont nem is olyan veszélyes…

Ha ezt mind tudjuk, kell-e félnünk? Szerintem nem félni kell! Félni nem jó, rosszat tesz az egészségnek. Betiltani nem tudjuk, hiszen már itt van, már működik. Meg kell ismerni, meg kell érteni. Ki kell hoznunk belőle a legtöbb jót és hasznosat. Lehetőség szerint vigyáznunk kell, hogy ne kerüljön rossz kezekbe. Ha tényleg veszélyesebb az atomnál…

Ki találkozott már a mesterséges intelligencia valamilyen formájával? Mi a tapasztalata?