Mesterséges intelligencia és etika – erre a kapcsolatra sokan még nem feltétlenül gondoltak, hiszen jelenleg még az AI felépítésére és tökéletesítésére koncentrálnak a legtöbben, és inkább tisztán technológiai kérdésnek tekintik. Pedig lehet, és kell is ennél mélyebbre ásni.
Dr. Tilesch György, a PHI Institute for Augmented Intelligence alapítója és elnöke úgy járkál Európa és Amerika között, mint más a szomszédba. Van dolga bőven: amikor épp nem könyvet ír, akkor valamelyik globális agytrösztnek, nagyvállalatnak vagy éppen az amerikai kormányzatnak segít be a mesterséges intelligencia szabályozásának kérdésében. Míg mások csak jövő időben beszélnek erről a technológiáról, ő már a tanulságokat összegzi. Lázadó robotok helyett lázadó tehetségekre, komolyan visszaütő médiavisszhangra és az egyre tudatosabb fogyasztókra figyelmezteti a cégeket.
Hamarosan Magyarországon is megjelenik a BetweenBrains (Mesterség és intelligencia) című könyved, melyben a mesterséges intelligencia és a jövőnk kapcsolatát vizsgálod a NASA egyik vezető tudósával karöltve. Ennek egyik fejezete arról szól, hogy a cégeknek is fel kell készülniük az MI technológiák használatára, lehetőleg még a bevezetése előtt – morálisan. Miért?
Épp a Világgazdasági Fórum számára dolgozom egy olyan jelentésen, ami hamarosan el is készül, a mesterséges intelligencia-gépi tanulás tagozatuk keretében. Ez a jelentés egy vállalati felsővezetőknek szóló útmutató, mely két problémára segít megoldást nyújtani. Az egyik ilyen probléma, hogy ma, amikor egy vezérigazgató részt vesz egy konferencián, és meghallja, hogy a konkurens vállalat már valamilyen mesterséges intelligencia alapú eszközt használ vagy fejleszt, akkor hazarohan, azzal a felkiáltással, hogy azonnal ők is csinálni fogják. Ezt a problémát aztán megörökli tőle a technológiai igazgató, ő meg csak széttárja a karját, hogy sem ember, sem tudás, sem a többi vezető támogatása nem áll rendelkezésre ehhez.
Jelenleg ugyanis ez egy olyan terület, amit senki sem érez magáénak egy vállalaton belül, noha már bizonyíték van rá cégektől, akik 2-3 éve elkezdtek ezzel behatóan foglalkozni, hogy egy központi kérdés lesz a cég életében. A másik probléma, és ezen dolgozom én, hogy a mesterséges intelligencia használatához robosztus etikai vállalások kellenek. Ez nem egy olyan dolog, ami jaj, milyen aranyos, hogy van, hanem egy alapvető szükséglet: ha etikai prioritások és mechanizmusok nélkül fejlesztenek, akkor ha valami ott félremegy, akkor az nagyon félremegy, és a vállalat borzasztóan meg fogja sínyleni.
Ha mindenféle etikai vagy morálfilozófiai kérdések merülnek fel a kapitalizmus fellegváraiban, akkor eljön az ideje, hogy a multik zsíros fizetésért kezdjék el felszívni az egyetemi katedrákon porosodó, őszhajú filozófusokat?
Nos, ebből annyi igaz, hogy a filozófusoknak eddig a kapitalizmusban nem nagyon jutott szó, a mesterséges intelligencia megjelenése pedig ezt annyiban változtatta meg, hogy előjöttek fundamentális kérdések, az üzleti kérdések filozofikussá váltak – az üzletemberek meg sosem tanultak ilyet, hiszen ez nem klasszikus diszciplína, amit ebben a szférában el kéne sajátítani.
Ugyanakkor megjelentek az eticisták a cégekben. Az elmúlt két évben a legnagyobb tech-vállalatok elkezdtek úgynevezett Chief Ethics Officereket kinevezni. Ők nem filozófusok, mert a hagyományos filozófust kivetné a rendszer, az eticista egy több területre rálátó stratéga, aki tud gondolkozni cégpolicy-ban, technológiában és etikában egyszerre, átlátja a teljes spektrumot. Az a feladatuk, hogy megváltoztassák a vállalati folyamatokat abba az irányba, amik “jövőállóvá” teszik a mesterséges intelligencia termékeket, megakadályozzák a kockázatos lépéseket, amik visszaüthetnek a médiában vagy a fogyasztóknál, és tudnak a dolgozók fejével is gondolkozni.
Miért kell egy cégnek az alkalmazott fejével gondolkozni?
Manapság egy technológiában (különösen az MI-ban) jártas szakember tudja, hogy ő ritka holló, és elmehet bárhová dolgozni bármikor. Ez a jelenség karöltve a Greta Thunberg-generációval olyan brutális nyomást tud kifejteni egy vállalati felsővezetésre, amiből hatalmas balhé lehet. Nemrég a Google kirúgta egyik vezető eticistáját, aki többször adott hangot házon belül a cég AI-programjaival kapcsolatos aggodalmainak. A kirúgásából viszont akkora botrány lett, hogy a Google vezére kénytelen volt bocsánatot kérni nyilvánosan – ilyenre korábban nem nagyon volt példa! Ezek a jelenségek egyre szaporodnak, különösen ott, ahol katonai vagy hírszerzési megrendelések vannak, és ezt a munkaerőt a HR nem tudja olyan gyorsan pótolni, hogy ki lehessen rúgni őket, szóval zsarolhatóvá váltak a cégek.
De a kapitalizmus logikája ellentmond a nem növekedés elvével, ha ma egy vállalat nem lép meg valamit, holnap a konkurencia megteszi, az eredmény pedig millió dollárokban mérhető bukta vagy profit lesz, nem?
A startupok mozognak ebben igen gyorsan, ott tényleg van félnivaló. Fél éve az összes nagy tech-cég leállította az arcfelismerős szoftvereik értékesítését a rendvédelmi szerveknek, mert kiderült, hogy elég sok probléma van velük. Az igény attól még megmaradt ilyen szoftverek használatára, csak egyrészt emiatt megerősödtek a kevésbé szívbajos kínai és egyéb versenytársak, másrészt felbukkantak a kicsi, agilis és még kevésbé szívbajos startupok, akik viszont nem törődtek azzal, hogy ez etikus-e vagy sem. Volt például egy Clearview AI nevű startup, akik azt csinálták, hogy lescrapelték az internetet fotók után, és ebből raktak össze egy arcfelismerő adatbázist, ami aztán rendkívül gyorsan és igen pontatlanul dolgozott – de rengeteg rendőrség, cég kezdte el az ő arcfelismerőjüket használni. Azóta áll a bál, zajlik a pereskedés.
Mindenki jövőidőben beszél az AI-ról is, noha már az elmúlt 2-3 év tanulságait láthatjuk. Jól demonstrálható, hogy vannak győztesek és követők, és köztük exponenciálisan tágul a szakadék. Akik a hullám előtt vannak, ők 2-3 évnyi fejlesztés után már eljutottak oda, hogy elsődleges problémaként szembesülnek az etikai kérdésekkel. Ha stratégiai logika oldaláról nézed, ez azt jelenti, hogy ha a fejlesztés nulladik fázisában nem fekteted le az etikai keretrendszert, akkor 2-3 év múlva lehet, hogy kukáznod kell a teljes projektet.
Akkor ki fordíthat ezen?
Most egy olyan generációja jön a fogyasztóknak, akiknek ezek a dolgok fontosak, és nincs márkahűségük. Ezen belül van egy következő alvonulat, hogy felnőtt egy adattudatos generáció, aki tudja, hogy a privacy policy, mint olyan, mennyire fontos, és ha az adatai nincsenek biztonságban, akkor megy át a konkurenciához. Aki tesz érte, az versenyelőnyt fog élvezni. A vállalati etika hatással van a bevételekre, a cégvezetők 94 százaléka azt mondja, hogy a felelősségteljes AI-használat majd jobb megtérülési rátát biztosít a részvényeseknek, akik amúgy is egyre éhesebbek, ha AI-ról van szó. A fogyasztók is jobban díjazzák, ha egy cég felelős, transzparens és etikus, és ez B2B esetén még erősebben van jelen.
Kiből lesz jó céges etikai vezető?
AI etikát már elég sok helyen lehet tanulni, de sokkal fontosabb elem ennél a mindset. A saját praxisomban, amikor az amerikai kormányzatban dolgozom, és vívom a csatákat házon belül, akkor azon vitázunk, hogy az AI etika, mint terület, csak “bug fixing”, egy probléma kezelése-e, vagy sem. Egy technológus egy felszínre került problémában azt látja, hogy rossz volt az adat, vagy az AI-modell, amit használtak. Én azt mondom, hogy a vállalat nem tudott úgy gondolkodni, hogy megelőzze azt a problémát, amit az AI csak a felszínre hozott.
Szeretnék csupán technológiai kérdésként láttatni, de ez nem az, ezek döntéselőkészítő rendszerek, de a végső döntést az ember hozza. Ha az embert csak üzleti imperatívusz meg a negyedéves jelentés hajtja, akkor átenged egy csomó dolgot, amit nem kéne. Meg kell-e építeni valamit, csak azért, mert meg tudjuk építeni? Ez nagyon nagy átfedést mutat a vállalati kockázatmenedzsmenttel. Egy kockázatmenedzser a táblát nézi és nem a háttérinfókat. Ezért mondom, hogy kell a cégen belül olyan ember, sőt még inkább etikai fókuszú testület, akiknek megvan a felhatalmazása arra, hogy nemet mondjon.
Eljuthat-e vajon ez oda, hogy egy cég inkább hagyja a fenébe az AI bevezetését?
Az AI saját hatalmából és logikájából adódóan milliószorosan felnagyíthat bármit, ezek perek millióit tudják eredményezni, és ezt minden vállalatvezetőnek tudnia kéne. Az előrejelző cégek szerint a következő években a globális nagyvállalati szektorban lesz 4-5 gigabotrány, súlyos üzleti következményekkel. Az elmúlt 3 év tapasztalata alapján az AI-jal dolgozó vállalatok 25 százalék már vállalta, hogy komoly üzleti gondot okozott, amikor az AI rendszer hibázott.
95 százalék mondta, hogy az AI rendszerek megnehezítik a munkát, de mindenhol jelen van már a technológia: a HR és toborzás területen nagyon forró, aztán ott a folyamat-automatizáció, a döntéselőkészítés, az előrejelzés big data alapján, a teljesítmény-és termelékenységnövelő rendszerek, vagy csak simán a chatbotok. A gyógyszeripartól a bankszektorig mindenhol használják. Aki ebből kimarad, az hatalmas hátrányt szenved. Ez nagy hatalom és nagyon nagy felelősség, a siker és a hibázás is szteroidokra van kötve! Az etikát beágyazni a nagyvállalati folyamatokba viszont nem jelenti azt, hogy a vállalat lelassul – épp ellenkezőleg! A tanulmányunk szerint a cégvezetők 97 százaléka gondolja azt, hogy az etika és az innováció kéz a kézben jár, és azt is magával hozza, hogy a termék biztonságosabb lesz, és átláthatóbb mindenki számára.
Azoknál a cégeknél, ahol felelősségteljesen kezelték az AI fejlesztéseket, sokkal sikeresebbek voltak ezek a fejlesztések, mert egy csomó pénzt spóroltak azzal, hogy nem kellett nulláról újraindítani a teljes fejlesztést, amikor etikai kérdések merültek fel, hiszen a keretrendszert már az elején meghatározták. A termékvisszahívás és a szerződések felmondása Damoklész karjdaként lebeg a vezetők feje felett, ha ezekkel a kérdésekkel nem foglalkoznak időben.
