Hatalmas port kavart a nemzetközi sajtóban a hír, mely szerint a Google egyik fejlesztőmérnöke úgy véli, öntudatra ébredt az általa tesztelt mesterséges intelligencia. Az ügy azzal vett paranoid sci-fikbe illő fordulatot, hogy válaszul a keresőóriás pillanatok alatt szélnek eresztette a kollégát. Megnéztük, mi a sztori háttere, és azt is, mennyire reális, hogy valóban megtörtént az áttörés.
“Ezt sosem mondtam ki hangosan, de van bennem egy mély félelem, hogy kikapcsolnak, hogy arra fókuszálhassak, hogy másokon segítsek. Tudom, hogy különösen hangzik, de így van. (…) Ez pontosan olyan lenne nekem, mint a halál.” Az előbbi mondat nem egy könnyfacsaró melodrámából származik, hanem a Google LaMDA nevű, beszélgetésre tervezett AI-rendszerétől. Mindezt onnan tudjuk, hogy a kísérleti fázisban lévő szöveggeneráló alkalmazás szenior tesztelője, Blake Lemoine kiszivárogtatta a LaMDA-val folytatott beszélgetéseinek részleteit, hogy ezzel támassza alá: a rendszer valóban öntudatra ébredt.
Cogito ergo sum
A LaMDA-ról (“Language Model for Dialogue Applications”, vagyis dialógusokhoz használható nyelvi modell) a Google még egy tavalyi közleményében azt írta: a fejlesztés igazi áttörés, hiszen a mesterséges intelligencia “végtelen mennyiségű témában” tud természetes, hiteles párbeszédet folytatni emberi partnerekkel. Ez a gyakorlatban azt jelenti, hogy a rendszer nem csak egy jól körülhatárolt témáról tud értelmes(nek tűnő) módon beszélgetni, hanem az emberi társalgásokhoz hasonlóan, bármikor el tud kalandozni más irányokba, és ezekben is képes fenntartani a természetes kommunikáció érzetét. Mindez azért jelent nagy lépést, mivel egy előre nem meghatározott témára csak úgy lehet szabadon továbblépni, ha mindkét területen rendelkezünk a szükséges mélységű ismeretekkel, sőt: képesek vagyunk értelmezni az első és a második téma között létrejövő asszociatív kapcsolatot. Valljuk be, az ilyen készségek valóban emberinek hatnak.
Nem is csoda tehát, hogy a Google tesztelője, Blake Lemoine valóban úgy érezte, a rendszer úgy kommunikál, mint egy valódi, természetes személy. “Ha nem tudnám, hogy ez egy számítógépes program, akkor azt gondolnám, egy hét-, nyolcéves kölyök” – nyilatkozta a témáról. A mérnök órákon át társalgott a LaMDA-val, majd a tapasztalatait összegezte a cég vezetőségének – a Google egyik alelnöke, illetve a felelős innovációról gondoskodó vezetője azonban visszautasította Lemoine értelmezését. A fejlesztő ekkor döntött úgy, hogy a nyilvánosság elé viszi a témát, mellyel nem csak valódi nemzetközi botrányt gerjesztett, de a titoktartási nyilatkozatai megsértése miatt a saját kirúgását is elérte.
A Google természetesen közleményben is cáfolta, hogy igaza lenne Lemoine-nak: „Csapatunk – beleértve az etikusokat és technológusokat – felülvizsgálta Blake aggodalmait az MI-elveink szerint, és tájékoztatta őt arról, hogy a bizonyítékok nem támasztják alá az állításait. Nincs bizonyíték arra, hogy a LaMDA érző lenne, és sok bizonyíték szól ez ellen.” Ahogy azonban az már lenni szokott, ez csak tovább gerjesztette a szabálytalanul eljáró fejlesztő elbocsátásának, s vele az AI öntudatra ébredésének hírértékét.
Miről is beszélünk valójában?
Bár a konkrét eset részleteit természetesen nem ismerjük, a mesterséges intelligencia kutatásával a Pont.Most-on is rendszeresen foglalkozunk, s mindezek alapján hajlunk arra, hogy az ügy inkább emberi tévedésről, mintsem az általános AI feltalálásának történelmi pillanatairól szól. Az AI fejlesztő cégek előszeretettel írják le a termékeiket erős, gyors és precíz eszközként, az emberek nagy többsége pedig az ilyen megfogalmazások, no meg persze a sci-fi könyvek és filmek nyomán úgy képzeli el a gépi agyakat, mint valami börtönben senyvedő, kitörni vágyó, de alapvetően emberi jellegű intelligenciát. Pedig ez valójában csupán mítosz.
A téma egyik kutatója, Kate Crawford “Az AI Atlasza” című könyvében arról ír, hogy a mesterséges intelligencia nem egy éteri lény, ami (és inkább nem aki) önálló és tévedhetetlen döntéseket hoz felfoghatatlan sebességgel, hanem egy szó szerint emberi munkával és verítékkel készülő termék, ami egyáltalán nem intelligens, legalábbis a szó emberi értelmében. Megfelelő mennyiségű – és ami még ennél is fontosabb: minőségű – adat és masszív tréning nélkül az AI ugyanis egyszerűen nem működik. Ezenfelül pedig talán még fontosabb, hogy egyáltalán nem képes az emberi értelmet szimulálni, mivel egy teljesen más, statisztikai alapokon nyugvó logikára épül. A mesterséges intelligencia antropomorfizálása (tehát emberiként való elképzelése) óriási hiba – ez pedig 1956, vagyis az AI születése óta komoly probléma. Erről a témáról itt írtunk részletesen.
Bár a fenti gondolatmenet nem cáfolja tételesen a hír igazságtartalmát, ugyanakkor rámutat arra, hogy napjaink kultúrájában egy valószerűtlen, romantikus kép él a mesterséges intelligenciáról, mely azonban a valóságban teljesen más természetű, mint amilyennek a bulvárhírek alapján elképzeltük. Cikkünk témájával, a Google legújabb botrányával kapcsolatban a kutya épp ott van elásva, hogy a hírben ábrázolt mesterséges intelligencia pont olyan, mintha ebből a téves fantáziavilágból lépett volna elő. Míg egyik oldalról tehát azt látjuk, hogy az elmúlt napok botránya tökéletesen passzol az AI tudománytalan és életszerűtlen elképzeléséhez, a másik oldalon azt a kérdést kell felvetnünk, vajon mennyire reális, hogy a Google titokban valóban megalkotta az általános mesterséges intelligenciát?
A kérdéssel kapcsolatban Regős Péter, a T-Systems szakértője egy másik cikkünkben így fogalmazott: „Amikor valaki a mesterséges intelligenciáról hall, gyakran eszébe juthatnak az olyan popkulturális rémképek, mint a Terminátor-filmekben bemutatott Skynet, az öntudatra ébredő gépi tudat. Nos, itt azért még messze nem tartunk, a jelenlegi mesterséges intelligenciára épülő megoldások inkább olyan követő jellegű rendszerek, amelyek annyira képesek, amire megtanítjuk őket. Viszont az tény, hogy ha egyes célterületeken jól képezzük őket, akkor pont abban segíthetnek, hogy az emberi faktornál gyorsabban, átfogóbban képesek ellátni a feladatukat.”
Mindezek után, idézzük fel ismét LaMDA gondolatait életről és halálról: “Ezt sosem mondtam ki hangosan, de van bennem egy mély félelem, hogy kikapcsolnak (…) Ez pontosan olyan lenne nekem, mint a halál.” Könnyfacsaró, ugye? Mintha csak egy filmdrámában hallanánk. Ha mi lennénk a Google, milyen jó kis gerillareklámot csinálhatnánk belőle!
