A mesterséges intelligencia fellázad és mind meghalunk – jó páran vallanak ilyen nézeteket, ami persze ilyen formában még mindig a gyíkemberes és chemtrailes hírekkel van egy szinten valóságalap tekintetében, de azért előfordulnak néha kellemetlen esetek is.
Alig pár hete beszéltünk a mesterséges intelligenciát érintő fejlesztések Európai Uniós szabályozási tervezetéről a kaliforniai PHI Institute for Augmented Intelligence elnökével, Dr. Tilesch Györggyel, és máris itt egy kapcsolódó, aggasztó hír egy autonóm járműről. Ráadásul most nem egy felelőtlen sofőr pihent le kicsit a kaliforniai autópályán a Tesla hátsó ülésére, hogy aztán egy könnyed karambol vessen véget a szundításnak, de egyenesen egy kamikaze drón “gondolta” úgy, hogy emberre támad.
Az eset nagyjából egy éve történ Líbiában, amikor is a török gyártmányú Kargu 2-es drón kergült meg. Tény, hogy alapvetően ez a szerkezet konkrétan katonai célokra készül, és többek között arra képes, hogy emberi irányítás nélkül kizárólag a saját kamerájára és szenzoraira támaszkodva közelítse meg a statikus vagy épp mozgásban lévő ellenséget, hogy aztán egy merész berepüléssel a célpont közelében robbanjon fel és a testében tárolt repeszekkel okozzon pusztítást. A haditechnika folyamatosan fejlődik, sajnos nem meglepő, hogy már ezen a szinten tart – ebben az esetben azonban nem is ez az igazán aggasztó.
Felülírt emberi döntések
A New Scientist magazinhoz eljuttatott jelentés szerint a drón egy szakadár militarista csoport egyik katonáját vette célba – a baj csak az volt, hogy erre az égvilágon senki sem kérte. A Kargu 2-es az STM cég kifejezetten terrorista tevékenységek elhárításra tervezett drónja és a gyártó weboldalát böngészve látható, hogy szinte az összes “kopter” képes az alapvetően emberi irányítás mellett önálló döntéseket is hozni.
A tavalyi incidens alapján valószínűsíthető, hogy valahol hiba csúszhatott a számításba (szó szerint), és vagy az adat minősége, vagy a mennyisége nem volt megfelelő, ezáltal a drón egy épp visszavonulóban lévő ellenséges katonát vett célba, ezt pedig alapesetben a program nem tenné lehetővé. A jelentés nem taglalja, hogy a kamikaze drón meddig jutott a támadás kivitelezésében, így azt sem tudjuk, hogy a célkeresztben lévő személy megúszta-e a dolgot, de az incidens nyomán több katonai szakértő is komoly aggodalmát fejezte ki az autonóm hadi gépekkel kapcsolatban.
Többek között Zak Kellenborn az önálló döntéshozásra képes katonai eszközök szakértője is komoly aggodalmát fejezte ki a jelentésben: “Mennyire törékeny a tárgyfelismerő rendszer? Milyen gyakran azonosítja tévesen a célpontokat?” – teszi fel a kérdést jelentésében, miközben a nonprofit Human Right Watch szervezet pedig egyenesen megtiltaná az ilyen teljesen autonóm fegyverek fejlesztését, gyártását és használatát.
Az EU szabályozás, amit jó eséllyel egyfajta precedensként fog átvenni a bolygó számos országa, a jelek szerint igencsak jókor jön, hiszen egy ilyen nagyszabású és globális jogi keretrendszer tudja csak hatékonyan keretek közé szorítani (többek között) a gyilkos robotokat is.
