Gépiesen bánunk a dolgozókkal? Emberi módon bánnak velünk a gépek?
Nem is tudom, hogy a számítógépek használatának terjedése az emberekkel való foglalkozásban (HR, emberi erőforrás) jó vagy rossz irányú változás!
Kezdjük azzal, hogy semmi esetre sem új a jelenség. A „HR black hole”, vagyis a mindent elnyelő fekete lyuk már több mint egy évtizede jó ismerősünk, kötetekre rúgó irodalma van a működésének és a megkerülésének. A téma egyik nagy szakértője Liz Ryan, aki nagy cégeknél dolgozott személyzeti vezetői pozíciókban. Alaposan kiismerte azt a világot, és most az emberi munkahely (Human Workplace) témában ír, és ad tanácsot (mind a munkáltatóknak, mind a dolgozóknak). Érdemes elolvasni az írásait, nagyon jó dolgokat ír és élvezetes a stílusa (angolul ír, és nem merem állítani, hogy minden egyes szót értek, amit használ, de élvezem).
Hogy működött (működik) a hagyományos gépesítés ezen a területen? Az álláskereső beküldi az önéletrajzát és a kísérő levelet. Ezeket odaadják a „rendszernek” (ATS: Applicant Tracking System). Mi ez az ATS? Egy végtelenül buta szöveges adatbázis-kezelő rendszer, ami szavak előfordulását elemzi a beérkezett anyagokban. Ha van benne egy kicsi „okosság”, akkor legalább a szinonimákat észreveszi, de ez sem biztos, hiszen azokat meg kell adni neki. Ki fogja ezeket beletáplálni? Általában senki. Miért? A HR-es nem ismeri a cégnél szóba jöhető összes szót és szakkifejezést, és esélytelen, hogy a szakterületek dolgozói ilyesmivel töltenék az idejüket. Mi jön ki ebből? Ez a csekély okosságú rendszer kiszórja az általa esélytelennek ítélt jelentkezőket, és továbbítja a többit a humán erőforrásnak. (Ha még így is túl sok maradna, akkor szigorítják a szűrést.)
A megoldás gyenge pontja az, hogy a gép nem képes megérteni és értelmezni a szöveget – így nincs is valódi esélye a legjobb jelentkezők kiválasztására. Azoknak, akik ismerik az algoritmus működését, van esélyük jól kigondolt trükközéssel átjutni ezen a kapun, de ugye nem ez lenne a cég célja…
Mint írtam, ez már bőven évtizedes történet. Ma már mesterséges intelligencia, tanuló algoritmus végzi az önéletrajzok szűrését. A tanuló gépnek információra van szüksége, pontosabban: minták alapján tanul. Honnan lesznek a mintáink? Egy kézenfekvő megoldás a cégnél dolgozó sikeres, jól bevált kollégák önéletrajzait vagy egyéb írásait felhasználni. Ha ezeken tanul a gép, az ezekben előforduló szavakat, kifejezéseket, fordulatokat, az írások stílusát tanulmányozza, majd ezekkel veti össze a beérkező jelentkezők írásait, akkor bátran számíthatunk arra, hogy hasonlóan jók felvételére tesz majd javaslatot. Sőt, még azzal is bővíthető a módszer, hogy nem csak a beküldött önéletrajzot és levelet elemezzük, hanem az illető nyilvánosan megjelent szövegeit is. Így tényleg alapos képet kapunk mindenkiről. Nagyszerű segítséget nyújtunk az előválogatással a felvételi beszélgetések előtt. Tökéletes! Tökéletes?
Sajnos nem tökéletes! Mi a probléma vele? Az ember szóhasználata és stílusa nem csak attól függ, hogy mennyire alkalmas a betöltendő pozícióra. Vannak ám eltérések a nők és a férfiak, a feketék és a fehérek, az ország (a világ) különböző területeiről származók, a különböző társadalmi rétegekből származók között ezen a területen is. Ha, például, egy technológiai cégnél a sikeres emberek tipikusan fehér férfiak, akkor egy bizonyos előítéletként ez meg fog jelenni az előszűrést végző programban. Persze az is, ha főleg ázsiai származású nők adják a mintát. Ez jól van így, ha az a célunk, hogy megőrizzük, esetleg erősítsük a cég jellegét ebben a tekintetben. Persze, ez nem lehet a kimondott célunk (hiszen helytelen és törvénytelen lenne).
Nem fantáziáltam, ezekkel a problémákkal minden területen, köztük a HR-esen is találkozunk az életben. Mostanában éppen az Amazon esete van terítéken, de akárhol előfordulhat ilyen, ahol megpróbálnak érdemi tevekénységeket is az „okos” gépre bízni. Miért is ne tennék? A gép sokkal gyorsabban, olcsóbban és precízebben végzi el azt a munkát, amit megtanult, mint az ember. A gond éppen azon van, hogy „megtanulta”. Honnan, kitől, hogyan tanulta meg? A tudás végső forrása valamilyen értelemben az ember. Az ember a saját gyengeségeivel és akár tudattalan elfogultságával. Ezt adja tovább a gépnek.
Sok példát lehet hozni arra, hogy az okos gép elfogult. Persze, nem a gép az elfogult, hanem az általa felhasznált „tananyag”, a minta hordoz valamilyen elfogultságot vagy torzítást magában. Azt is fontos hozzátenni, hogy a már felfedezett elfogultságot ki lehet javítani. Azonban ezek a „javítások” általában nem oldják meg a valódi, a mélyben meghúzódó problémát, csak elfedik azt. Erre van egy tökéletes példám: a Google képfelismerőjének esete a néger arcokkal. Egyáltalán nem tudták megoldani azt a problémát, hogy egyes esetekben gorillának vagy más emberszabású majomnak nézett négereket a képeken. Mit csináltak? Beleírták a szoftverbe, hogy soha, semmit ne lásson gorillának, csimpánznak vagy majomnak. Végülis megoldották a problémát, ugye? Nos, nem, egyáltalán nem! Ettől semmivel se lett jobb a programjuk, csak ez a hiba nem nyilvánvaló a használók számára…
Hasonló megoldásokkal lehet „javítani” az előszűrő programon is, de az se lesz jobb tőle.
Nem azt látom igazi bajnak, hogy elfogult a gép, hiszen az ember is az. Akkor van baj, ha automatikusan elfogadjuk a gép véleményét – és ez sajnos eléggé tipikus. Hiszen éppen azért használjuk a gépet, hogy olcsón és gyorsan elvégezze ezt a munkát. Ha utána alaposan ellenőriznénk, akkor mire való a gép? Akkor magunk is elvégezhetnénk a munkát…
Mutatok pár pozitív példát is. Az első esetben kezdeti kapcsolatfelvételre használják az „okos” gépet. Amennyire sikerült megértenem a hátterét, ez egy csevegő robot (chatbot), ami megérti az emberek mondatait, és értelmesen beszélget velük. Jim (Jobs Intelligence Maestro) a szingapúri DBS bankban dolgozik. Előszűrést végez kérdésekre adott válaszok alapján, és a jelentkezők pszichológiai alkalmasságát méri. Ezzel átvesz bizonyos ismétlődő, unalmas, gépies feladatokat az emberektől, akik így értékesebb munkát tudnak végezni. A pályázók számára előny, hogy hamar, 24 órán belül választ kapnak a jelentkezésükre. (Vagyis nem tűnik el a fekete lyukban az önéletrajzuk.) Egy kis szösszenet: Ha a jelentkezővel való kezdeti online csevegés az emberek számára nem tűnik értékes munkának, akkor valóban jobb ezt robotra bízni. Ő talán emberibben tudja ezt elvégezni.
Ha már az emberi viselkedés szóba jött a robotok esetében, álljon itt Vera (az orosz HR-es robot) példája. Ő nem csak a géptől elvárható rutin tevékenységeket végzi el, de telefonon is beszél velük az előszűrés első lépésében, majd az ezen átjutott emberekkel videón is elbeszélget. Nagy sikere van a világcégek és a jelentkezők körében is! Kik használják? 200 cég, közöttük az IKEA és a Pepsico. Akinek van kedve, beszélgethet is Verával a gyártó weblapján (link a fenti írásban). A jelölteknek tetszik az új HR-es: “Some 95% of candidates told us it was interesting, inspiring, great, something new”. Lehet, hogy megvan a megoldás arra, hogy ne panaszkodjanak a jelöltek a lélektelen, gépies bánásmódra a kiválasztási eljárás során?
Mi a tanulság? Hol tartunk most? Sok mindent rábízhatunk a gépekre, de ne számítsunk arra, hogy tökéletes munkát végeznek. Ha tisztában vagyunk ezzel, akkor nincs baj. A gond ott van, amikor a gép hihetetlen mennyiségű munkát tud nagyon gyorsan elvégezni. Miért baj ez? Azért baj, mert nem győznénk emberrel és idővel az ellenőrzését. Ebben az esetben hajlamosak vagyunk hinni neki…
Kedves Olvasó! Veled beszélgetett már gép? Milyen élmény volt – összehasonlítva a humán ügyintézővel folytatott hasonló beszélgetéssel?
Kerékfy Pál 
Érdekesnek és egyben elgondolkodtatónak tartom az írásod!
Nekem még nem volt alkalmam HR-s robottal találkozni, beszélgetni (és nagy eséllyel már nem is fogok 😀), de találkoztam az egyik szolgáltató chatbot-jával. Az első alkalommal kicsit meglepődtem és valószínűleg össze-vissza beszéltem. Nem is jutottam semmire és némileg bosszúsan a telefont letettem. Azóta már “jó barátságban” vagyunk. Rájöttem, ha tömören, érthetően fejezem ki magam, akkor egészen használható válaszokat kapok. Mit akarok ezzel mondani? Nemcsak a robotokat kell felkészíteni az emberi vagy inkább emberszerű viselkedésre, hanem nekünk is, fordítva!
A másik dolog, hogy a pályafutásom alatt, legnagyobb sajnálatomra, találkoztam néhány embertelenül viselkedő HR-essel, akik még meg is voltak győződve a felsőbbrendűségükről.
Szóval, jöjjenek a robot HR-esek, rajtunk múlik, hogy mennyire lesznek emberségesek!
KedvelésKedvelik 1 személy
Ha rajtunk múlik, akkor nagy bajban leszünk 😦
KedvelésKedvelés
Ezen a majmos dolgon egy csöppet kiakadtam. Valami nagyon nem kerek. Vagy nem igaz, vagy nem fektettek bele elég munkát vagy ötlettelenek. Nekem lennének apró ötleteim – de szerintem egy mezei biológusnak is -, hogy lehetne megtanítani MI őkelmét. Először talán azzal kellene tisztába jönni, hogy az emberi képfelismerés hogy működik. Vagy ez annyira bonyolult, hogy inkább a gépi felismeréstől akarunk (ill. akarnak valakik) eljutni az “”emberi felismerésig””?
A másik amin kiakadtam, az az a mondat, amit általad belinkelt cikkben olvastam:
“Such technologies are frequently described as a “black box”, capable of producing powerful results, but with little ability on the part of their creators to understand exactly how and why they make the decisions they do.” Magyarul nem gépi fordításban: „Ezeket a technológiákat gyakran olyan „fekete dobozként” jellemzik, amely képes nagy horderejű eredményeket létrehozni, viszont alkotóik képessége gyér ahhoz, hogy pontosan megértsék, hogyan és milyen alapon hozzák meg a döntéseket.”
Nem nevezném alkotóknak azokat, akik nem tudják mit teremtettek, legfeljebb társalkotóknak. Nekem itt már nagyon kilóg a lóláb, sőt már egyéb testrészek is. Gondold el. Ha valamit valamikből valahogy létrehozol, és tudod, hogy mikből, csak van egy határozott képed róla, hogy az hogy fog működni. Ha nem pedig így van, akkor vagy nem ismered a valamiket, amikből létrehoztad a teremtményt, és csak ezután fogod megismerni, vagy nem te vagy az alkotó. Ilyen háttérrel hogy lehet barát-ellenség felismerő rendszereket létrehozni?
Még egy gondolat. MI őfelségénél nincs valódi tétje a tévedésnek. Embernél viszont van. Legalábbis így tudom. Az a költői kérdésem, hogy akik ezzel a dologgal foglalkoznak, náluk vajon mi a tét? Eléggé sarkos voltam? 🙂
KedvelésKedvelik 1 személy
Igen, eléggé sarkos voltál.
Az ebben az érdekes, hogy évek óta jönnek a példák arra, hogy az újfajta mesterséges intelligencia szoftverek működését sem a tervezőik, sem a szakterület legnagyobb szakértői nem értik. Az új technológiák (quantum computer, neural network, …) valóban “teremtmények” abban az értelemben, hogy az alkotójuktól viszonylag független életet élnek, tanulnak. Már nem igaz az, hogy “a gép csak azt csinálja, amit beprogramozunk”. Illetve, valamilyen értelemben azt csinálja, de amit beprogramoztunk az a tanulás és a fejlődés. A gép forog, az alkotó megpihen. És csodálkozik, hogy mi a csodát hozott létre.
A képfelismerő rendszerek nagyon érthetetlenül viselkednek. Mondhatnánk azt is, hogy ostobán viselkednek. Erre hoztam néhány példát mostanában. Nézz bele ebbe, és kövesd a linkeket is: http://sco.lt/6YbFj7
KedvelésKedvelés