Az új technológiák és a jogászok

Mikor jön el az ideje annak, hogy számítógép hoz majd ítéletet?

Valószínűleg eljön majd egyszer! Nem lehet véletlen, hogy ennyi okos ember foglalkozik vele!

Sokat írnak és fantáziálnak arról, hogy mi történik egyes szakmákkal a mesterséges intelligencia és más izgalmas új technológiák hatására.

Itt most eszembe jutott a kutatók által a mesterséges intelligencia fejlesztésére és felhasználására megalkotott 23 alapelv egyike: a jogi döntésekben részt vevő önálló rendszerek adjanak megfelelő és emberek által ellenőrizhető magyarázatot a döntésükre. Ez tényleg jól hangzik, de az egy pillanat alatt meghozott döntést vajon hány ember, hány hétig fogja elemezni, és megérti-e majd?

Azt is mondhatnánk, hogy a cél nem az, hogy minden döntés hibátlan legyen, hanem legalább olyan jó legyen, mint az emberek döntései. Nekünk magunknak is vannak előítéleteink, hibázunk, és nem mindig tudjuk rendesen elmagyarázni a döntéseinket. Ha a gép kicsivel kevesebbet hibázik, akkor már nyertünk! Nyertünk? Lehet, hogy túl sokat tudok az informatikáról…? Az nyugtalanít, hogy nem csak tévedés lehet a rossz döntések mögött, hanem valakinek a szándékossága is. Ez nem olyan különös, embereknél is előfordul a szándékos rosszakarat. A veszélyt abban látom, hogy a számítógépet „istenítjük”, elfogadjuk helyesnek azt, ami a gépből kijön. Nem kellene…

Ami engem illet, inkább azoknak az írásoknak szentelek nagyobb figyelmet, amikben már megtörtént esetekről, már használatban lévő megoldásokról írnak. A jóslatok is érdekesek, de azokat is könnyebb a helyükre tenni, ha ismerjük a jelenlegi helyzetet.

Eddig a gépi tanulás vagy mesterséges intelligencia lehetőségeiről és hatásairól volt általában szó:

  • Angliai esetek, amikben a bíró megengedte, hogy az ügyben előkerült dokumentumokat ne emberek nézzék át, hanem számítógépre bízzák, hogy kiválogassa a lényegeseket (amiket majd figyelembe vesz a bíróság).
    Látszik, hogy már ebben a viszonylag egyszerű esetben is sok múlik azon, aki a számítógépet beprogramozza, megtanítja a válogatásra. Szubjektív vagy részrehajló válogatás hibás ítéletet eredményezhet.
  • Az IBM Watson felhasználásával működő szoftver (robotügyvéd), ami rengeteg fajta jogi ügyben ad segítséget, pl.: megfellebbez közlekedési bírságot, panaszt tesz a bérbeadó ellen vagy a munkáltató ellen.
    Nem jogászok hada kezdte fejleszteni, hanem egy 19 éves programozó ugrott neki jogász önkéntesek segítségét igénybe véve.
  • Amikor az előbbiről olvastam, arra gondoltam, hogy nagy nyelvterület és a precedenseken alapuló angolszász ítélkezései gyakorlat fontos volt, de Magyarországon sokkal nehezebb lenne ilyesmit létrehozni.
    Nem tudom, hogy mennyire nehéz, de tény, hogy a pécsi egyetemen belefogtak. Ők is a Watsont használják a háttérben a Lexi fejlesztéséhez, “aki” először a Polgári Törvénykönyvet fogja “megtanulni”.
  • Ezek után komolyan felmerül a kérdés, hogy át tudja-e venni a számítógép a jogászok munkáját. Pontosabban: azt már látjuk, hogy egy részét át tudja venni – az a kérdés, hogy mekkora részét.
    A jelek arra mutatnak, hogy a jogi területen is – sok más szakmához hasonlóan – az alapszintű (kezdő) tudással rendelkező emberek munkáját fogja először átvenni (vette át először). Felmerül a kérdés, hogy hogyan jönnek létre a tapasztalt, speciális tudással rendelkező jogászok, ha a kezdőknek nem lesz (elég) munkahely…

Miután már ennyit írtak a mesterséges intelligencia “gyilkos” szerepéről, most egy olyan írást találtam, amiben ennél sokkal veszélyesebbnek találja a szerző a blokkláncot (blockchain).

  • Ezzel a technológiával közbenső “kitüntetett” szereplők (ügyvéd, közjegyző, bank, állami szervezet) nélkül lehet hiteles, igazolható módon üzleti és jogi erejű dokumentumokat létrehozni, továbbítani, feldolgozni. A számítástechnikai háttér miatt automatizálni is lehet egy csomó mindent, és lényegében egyidejűleg, visszavonhatatlanul történnek meg az összetartozó lépések (pl.: az ingatlan átírása a vételár banki átutalása után azonnal).
  • Úgy látom, hogy nem egészen “gőzös” elképzelés ez, hiszen a Maersk és az IBM már másfél éve tesztel egy blokkláncon alapuló megoldást, amivel drasztikusan tudjuk rövidíteni (és biztonságossá tenni) a tengeri szálítmányozást. Sok-sok pénzről van szó, és néhány nagy ügyfél és két ország hatóságai már használják. Ha ebben az esetben működik, akkor sok más helyzetben is működhet.

Vajon tényleg ennyi mindent tud átvenni az “okos” gép? Apránként ellesni minden munkánk minden lépését, majd jobban, gyorsabban, kevesebb hibával másolja? Amit megtanult, azt képes mindig egyformán csinálni! Ugye, mi emberek ebben nem vagyunk annyira jók? Hiába tudunk valamit, csak-csak előfordul, hogy nem pont úgy csináljuk, ahogy szoktuk, ahogy tanították. Miért hozom ezt elő? 

Amikor a gép tökéletesen egyformán végzi a munkafolyamatokat, a hibákat és tévedéseket is gyorsan és nagy számban tudja ismételni. Na de, miért hibázna? A jogi tanácsot adó gép ismer rengeteg korábbi esetet, ezek között keres hasonlót, amikor egy újabbal találkozik. De vajon tényleg eléggé hasonló a megtalált minta? Ideális esetben meg tudja állapítani, hogy alkalmazható-e a korábbi tudása. Ha nem, akkor segítését kér az ember kollégától. Ha viszont nem ismeri fel a lényeges eltérést, akkor nagy lendülettel alkalmazza a megtalált mintát. Ha rövid időn belül sok ilyen esetet kap, akkor gyorsan tud rengeteg hibát elkövetni. Sokkal gyorsabban és sokkal többet, mint a legszorgalmasabb ügyvédbojtár! Mekkora ennek az esélye? Egyre nagyobb lesz! Ahogy megtanuljuk, hogy a gép jó munkát végez, meg lehet benne bízni, egyre több munkát kap, egyre kevesebb ellenőrzés mellett. 

Meg kell találnunk az egyensúlyt a bizalom és az ellenőrzés között az automatizált kollégák esetében is. Úgy gondolom, hogy egészen másképp kell az ő munkájukat menedzselni, mint az emberekét. Kialakul ennek a tudománya is? Mikor? Hogyan:  

Kell a diploma?

Milyen területen tanuljon, diplomázzon a mai fiatal? Mivel tud hosszú távra biztos jövedelmet szerezni?

Ezek a kérdések mindig aktuálisak voltak, de még sose volt ennyire gyors a változás, sose volt ennyire bizonytalan a következő egy-két évtized.

Abban meglehetős az egyetértés, hogy a fizikai munkakörök jelentős része automatizálható – a gyári munkától a mezőgazdaságon át a szolgáltatásokig. Vajon érdemes még egyáltalán szakmát tanulni? Most még igen, még rengeteg jó szakemberre van szükség a világon, de nagyon gyors a változás abban, hogy mit hagynak meg nekünk a gépek.

Azt is látjuk már néhány éve, hogy a „fehér galléros” munkakörökben is gyorsan terjed a gépesítés. Az irodai, adminisztratív munkákat (pl. a pénzügyi osztályokon) tízezrével alkalmazott „robotok” veszik át. Azért tettem idézőjelbe a robotot, mert ezek a robotok nem láthatók, nem jelennek meg a maguk fizikai valójában, hiszen csak szoftverekről van szó. Ezek a szoftverek gyorsan megtanulják az egyszerű, ismétlődő lépésekből álló munkafolyamatokat az emberektől, majd átveszik tőlük. A pillanatnyi hatása annyi ennek a folyamatnak, hogy az emberek érdekesebb, alkotóbb, hasznosabb munkát kapnak. A cikkekben ismertetett esetekben nem járt elbocsátással az sem, amikor 1800 ilyen robot állt be, sőt az sem, amikor a pénzügyi osztályon a dolgozók 80%-át cserélték le ilyen robotokra.

Eddig diploma nélkül betölthető munkakörökben láttuk a robotok jelentős elterjedését. Vajon mi a helyzet a diplomásokkal? A nem műszaki területeken komoly dolgok történnek, mutatok néhány példát.

Jogi területen vannak ígéretes kezdetek. Az egyik terület a dokumentumok elemzése abból a szempontból, hogy mennyire relevánsak egy adott jogvita szempontjából. Angliában már születtek olyan bírósági határozatok, amik elismerték az ilyen módszerek helyénvalóságát. Ezekben az ügyekben emberi munka és kulcsszavas keresés helyett szoftvert alkalmaztak dokumentumok relevanciájának eldöntésére. A bíró indoklása el is magyarázza, hogy hogyan (a Predictive Coding fejezetben található).

Mik voltak a szempontok? Költség és konzisztencia. Az adott ügyben 3 millió dokumentumot kellett átnézni, és azok közül kiválogatni az ügy eldöntésében lényegeseket. Ezt emberi erővel sok pénz és idő felhasználásával lehetne megtenni, és egyáltalán nem biztos, hogy nem lenne benne sok hiba. A szoftveres megoldás a “mesterséges intelligencia” szokásos betanítási módszerét követte: kisebb mintán (1600-1800) megmutatják a szoftvernek, hogy mik a fontos dokumentumok, majd a szoftver keres. Az eredmények egy részét megvizsgálják emberek, és visszajeleznek a gépnek, hogy jól dolgozott-e, ami ennek alapján tanul, ügyesedik.

Ez még csak a kezdet, itt a gépnek még elég csekély szerepe van a per eldöntésében, de már ezen a kezdeti szinten is számít a szoftver minősége és az esetleges szándékosan beleírt “hiba” (amire néhány példát láthatunk ebben a cikkben). A mesterséges intelligencia kutatói arra számítanak, hogy hamarosan ennél komolyabb szerepe is lesz a gépnek jogi területen is, ezért a mesterséges intelligencia alapelvei között is esik szó erről a problémáról.

Itt még nem érnek véget a jogi alkalmazási lehetőségek! Egy fiatal (19 éves) programozó egy év munkával és az IBM Watson felhasználásával megalkotta a DoNotPay szolgáltatást. Ez kezdetben csak a parkolási büntetések megfellebbezésében nyújtott segítséget. Hogyan tud segíteni? Kikérdezi az ügyfelet a körülményekről, majd a válaszok alapján megírja a fellebbezést. Már az első pár hónapban (akkor még csak egy államban) 3 millió dollárt szerzett vissza az ügyfeleinek. Idén nyár óta már az USA 50 államában és az Egyesült Királyságban segít 1000 különböző fajta jogi eljárásban.

Ez csak egy apró falatja a nagy tortának, és a nagy játékosok sokkal több időt, pénzt és szakértelmet tudnak bevetni, mint ez a fiatal programozó, aki teljesen ingyen nyújtja a szolgáltatást. Pillanatnyilag főleg a kezdő jogászokat érinti az ügy, az ő munkájukat tudja gyorsabban, pontosabban és olcsóbban elvégezni a gép. Ez nem kevés! A McKinsey becslése szerint a jogászok összes munkájának 23%-át lehet így automatizálni a technika mai szintjén. A kezdő diplomások helyett vagy mellett gépek lesznek a jogi csapatok tagjai, őket fogják a tapasztalt vezetők irányítani. Érdekes jövő! Ismerve a világcégek szemléletét (a kezdőkből a lelket is kipréselik, elképesztő óraszámban dolgoztatják, és apró hibákért is kirúgják őket), a napi 24 órában, villámgyorsan, kevés hibával dolgozó robotok lesznek a főnökök kedvenc munkatársai. Vajon kapnak majd kedvezményeket, előléptetést, jobb irodát?

Természetesen, a DoNotPay nem jogász. Itt egy csomó ok, amiért nem az.

Az lényeges, hogy jelenleg csak a nagy egységes (vagy közel egységes) jogrendszerű és egységes nyelvű területek jönnek szóba, ott lehet igazán hatékonyan alkalmazni a technológiát. A magyar jogászokat még nem fenyegeti ez a veszély, de az EU jogharmonizációja növeli a gépek alkalmazási lehetőségét. El tudom képzelni, hogy a GDPR (általános adatvédelmi rendelkezés, ami 2018 májusában lép érvénybe) – lévén új terület és egységes – lehet a „robot jogász” egyik első alkalmazása az Európai Unióban.

Olvastam egy másik érdekes jogi alkalmazást, ez Lisa, az elfogulatlan robot. Elsősorban arra találták ki, hogy szerződések kidolgozásában segítse egyszerre mindkét felet. Az ügyvédek nem dolgozhatnak egyszerre mindkét oldalnak, de a robot akár ezt is megteheti. A felek elmondják neki, hogy mit akarnak elérni, és segítséget kapnak tőle (akár egy elkészített szerződés formájában) ahhoz, hogy a megtalálják a kölcsönösen előnyös megoldást, a win-win eredményt. Megalkotói arra a problémára kerestek megoldást, hogy az emberek és a kis cégek jelentős része nem fordul ügyvédhez, mert nincs rá ideje, nem is érti, amit az ügyvéd mond, kényelmetlenül érzi magát, ha ügyvéddel kell tárgyalnia, munkaidőn kívül alig talál ügyvédet stb.

Nem a jogi munka az egyetlen, ahol már megvetette a lábát az automatizált tanácsadás! Az orvosok munkájának egy részét is kiválóan tudja elvégezni a gép. Arról nincs szó, hogy egy orvos minden feladatát el tudná látni, de fontos részterületeken gyors, pontos és olcsó tud lenni. Nincs messze az idő (sőt, talán már itt is van), amikor néhány fitnesz és egészségügyi kütyü és szoftver, valamint a felhőben ülő elemző rendszer komoly szerepet vállalhat az egészségügyi alapellátásban. Ha mellette még videókapcsolatba is lehet lépni az orvossal, aki minden mérési eredményünket és azok gépi kiértékelését látja, akkor gyorsabban, pontosabban, olcsóbban lesz elsődleges diagnózisunk. Erre is vannak már működő példák – nem meglepő módon elsősorban Amerikában. Kedves Olvasó, ha érdekel, mit tud és hogyan működik egy ilyen eszköz, itt találhatod a leírását. Annak, aki sok időt szeretne eltölteni a téma tanulmányozásával, ezt a hosszú listát tudom ajánlani.

Jó hír, hogy itthon is vannak már olyan háziorvosok, akik örömmel fogadják, ha a betegük otthoni mérések eredményeit hozza a rendelőbe. Így sokkal megalapozottabb lehet a diagnózis, mint egy pillanatban mért adatok alapján.

Itt még nem ér véget a példák hosszú sora! Vannak olyan kutatások, amik szerint a felsőoktatásban is érdemes bevetni a gépesített tanárt. Az első sikereket a matematika tanításában érték el. Itt sem arról van szó, hogy megszabadulnak a humán tanároktól – a gép csak a munkájuk egy részét veszi át (és csinálja eredményesebben, kevesebb kimaradó diákkal).

Szóval, vissza a kezdeti kérdésemhez: milyen diplomának induljon neki a fiatal? A fenti példákat mind humán területekről hoztam, de ez nem jelenti azt, hogy pl. mérnökök munkája ne lenne veszélyben.

Milyen tudás kell ahhoz, hogy az elkövetkező évtizedekben legyen jó és érdekes munkája az embernek? Hivatkoznék Bőgel professzor három évvel ezelőtti előadására: adattudóssá kell válni, olyan emberré, aki a gépek által összegyűjtött mérhetetlen mennyiségű és változatosságú adat feldolgozását, elemzését tudja irányítani. Ehhez érdemes több szakmában járatosnak lenni. Az adattudósok manapság főleg orvosok, biológusok, fizikusok, asztrofizikusok. Mi bennük a közös? A szakmájuk tudásanyaga szerteágazó. A lényeg az, hogy sok dolog iránt kell érdeklődni, sok dologhoz kell érteni (köztük a matematikához is, de nem kell matematikusnak lenni).

Azt hiszem, nem is az a kérdés, hogy miből legyen diplomája az embernek. Inkább az a kérdés, hogy az új, digitális, elektronikus világhoz mi a viszonya. A jogi, orvosi, oktatási, mérnöki munkát végző gépeket emberek hozzák létre, ők tanítják be őket. Olyan emberek, akik az adott szakterületen és a gépek világában is otthonosan mozognak. Talán ez a megfejtés: tanuljuk meg a mesterséges intelligencia világát!