Manapság már divat a legegyszerűbb kütyükre is rástemplizni, hogy mesterséges intelligencia „hajtja”. A kissé óvatosabban képzettek előtt pedig máris ott lebeg a Terminátor filmek Skynetje és a gépek lázadása, amikor az öntudatra ébredő gépi agy átveszi az uralmat. De tényleg intelligens az AI?
Mostanra a mesterséges intelligencia kezd olyanná válni, mint a középkorban a varázslat: bármikor, bárhol bevethető, és mindenre (is) jó. Az AI (mesterséges intelligencia: artificial intelligence) érdemeinek elismerése mellett – akár a digitális világban, akár például a pandémia megfékezésében és a vakcinák fejlesztésében –, mégis egyre több a szkeptikus hang a szakértők között. Nem is feltétlenül a mesterséges intelligencia jelentőségét vonják kétségbe a Kate Crawfodhoz hasonló kutatók, inkább azt, ahogy a nagyközönségnek, de akár a szakmának prezentálják a fejlesztők a lassan mindent eluraló AI “csodát”.
Az AI fejlesztő cégek ugyanis előszeretettel írják le a termékeiket erős, gyors és precíz eszközként, az emberek nagy többsége pedig az ilyen megfogalmazások, no meg persze a sci-fi könyvek és filmek nyomán úgy képzeli el a gépi agyakat, mint valami börtönben senyvedő, kitörni vágyó, de alapvetően emberi jellegű intelligenciát. Pedig ez valójában csupán mítosz. Crawford “Az AI Atlasza” című könyvében arról ír, hogy a mesterséges intelligencia nem egy éteri lény, ami (és inkább nem aki) önálló és tévedhetetlen döntéseket hoz felfoghatatlan sebességgel, hanem egy szó szerint emberi munkával és verítékkel készülő termék, ami egyáltalán nem intelligens, legalábbis a szó emberi értelmében. Megfelelő mennyiségű – és ami még ennél is fontosabb: minőségű – adat és masszív tréning nélkül az AI ugyanis egyszerűen nem működik. Ezen felül pedig talán még fontosabb, hogy egyáltalán nem képes az emberi értelmet szimulálni mivel egy teljesen más, statisztikai alapokon nyugvó logikára épül. A mesterséges intelligencia antropomorfizálása (tehát emberiként való elképzelése) óriási hiba – ez pedig 1956, vagyis az AI születése óta komoly probléma.
Az isten áldjon meg!
A könyvében Crawford azzal hessegeti el a miszticizmus tömjénillatú füstjét a mesterséges intelligenciáról, hogy megmutatja hogyan készül. A legnagyobb probléma, hogy nagyjából a 80-as évektől az AI fejlesztésének alapja az, hogy a gépi intelligenciákat nyers adattal “etetik”. Ez azt jelenti, hogy nem ellenőrzött adatbázisokra alapozva jut sokszor téves konklúzióra az algoritmus. A nyers adat felhasználása pedig mára jól fizető iparággá nőtte ki magát, pedig az adat nem egy élettelen massza, mindig van kontextusa és “környezete”, hiszen például teljesen más mondatokat alkotnak a Reddit fórumain a felhasználók, mint amit egy gyerekkönyvben olvashatunk, még ha a téma ugyanaz is.
Képzeljük csak el, hogy egy nyelvi algoritmusnak mindenféle kulturális és történelmi háttér nélkül adjuk meg „az isten áldjon meg” kifejezést. Mi jól tudjuk, hogy gyökeresen más jelentéssel, sőt, teljesen különböző előjellel használja egy hívő előtt álló pap és egy koszos gyerekét fenyítő szülő. A gép van annyira intelligens, hogy a kettő között különbséget tegyen? Önmagában nem, és még akkor sem feltétlenül, ha hallja a kimondott szavak tónusát, hangulatát.
Érzés nélkül nem megy
Épp a fentiekhez hasonló helyzeteket elnézve történhet meg, hogy bár a hadiipar ambiciózus és drága fejlesztői programokat indított már a 60-as években az arcot és ezzel együtt érzelmeket elemző AI algoritmusokkal kapcsolatban, de több mint 1000 publikált kutatási anyag után sem találtak bizonyítékot arra, hogy egy személy érzelmeire megbízhatóan lehet következtetni az arcából és a koponya formájából. Ez az ötlet olyan mélyen beivódott a fejlesztésekbe, hogy a bizonyítás hiánya nemigen lassította ezeket a kutatásokat, egyszerűen azért, mert az arcfelismerés szinte tökéletes feladat a mesterséges intelligencia számára.
Crawford és a hozzá hasonló szakértők komoly etikai, biztonsági és szabályozási aggályokat fogalmaznak meg – melyekről, az uniós AI szabályozás kapcsán már nálunk is esett szó nem is olyan régen – és az, hogy többek között a Google nemrégiben két AI eticistájától is tisztázatlan körülmények között vált meg, csak olaj a tűzre.
A mesterséges intelligencia tehát nem varázslat, hanem egy olyan eszköz, mint a balta: használhatjuk arra is, hogy beverjük vele valakinek a fejét, de ha fát hasítanak vele, akkor az egész család biztonságban és melegben töltheti a hideg éjszakákat. Csak rajtunk múlik.
