Globális fenyegetés vagy az emberiség jövője a mesterséges intelligencia

Aki a mesterséges intelligencia területén vezető szerepet kap, az a világot is uralhatja – mondta nemrég Vlagyimir Putyin, az orosz elnök. Mi lehet e kijelentés mögött? Egy kellően okos gép gazdasági érőt, hatalmat adhat? Vagy a gonosz és nagy hatalmú gép csak a science-fiction filmekben létezik?

Nemrégiben Elon Musk, Tesla vezér twitterezett egy „erőset”. Szerinte a mesterséges intelligencia az emberiségre leselkedő legnagyobb fenyegetést jelenti, ami akár a harmadik világháborút is kirobbanthatja. Egész pontosan azt mondta, hogy a harmadik világháború esélyét jelentősen növeli, hogy Kína és Oroszország is mindenre kiterjedően foglalkozik a mesterséges intelligencia rendszerek tökéletesítésével.

Igaz, Elon Musk nem csak gondolt egyet, és kiposztolta a Twitterre mindezt, hanem Vlagyimir Putyinnak arra a  nyilatkozatára reagált, miszerint bárki, aki vezetővé válik a mesterséges intelligencia területén, az uralhatja majd a világot”. Musk ennyit írt először: elkezdődött. Ezzel a Terminátor filmszéria egyik újabb epizódjának emlékezetes mondatára utalt, ami Skynet, az öntudatára ébredt mesterséges intelligencia munkálkodásának kezdetét jelzi. Aki nem tudná: Skynet pusztító, globális atomháborút szít, hogy elpusztítsa az emberiséget.

Miért lehet veszélyes a mesterséges intelligencia?

Az ijedtség nem újdonság: két és fél éve a mesterséges intelligencia veszélyeire felhívó közös nyilatkozatot adott ki Noam Chomsky nyelvész, Steve Wozniak Apple alapító, Elon Musk Tesla tulajdonos, Stephen Hawking sztárfizikus, és további kétezer szakértő. Nyilván nem őrültek meg, nem a terminátor eljövetelét jósolják, sokkal inkább attól tartanak, hogy rossz kezekbe kerülve az MI olyan stratégiai tanácsokat, tőzsdei tippeket és egyebeket adhat, ami egy-egy embert, vagy csoportot a szokásosnál jóval nagyobb hatalomhoz segíthet.

Szerencsére azért a jövőkutatás, vagy egy-egy sikeres stratégia kialakítása olyannyira összetett feladat, hogy azzal még jó ideig nem tudnak mit kezdeni a gépek. Jóval inkább célfeladatokra alkalmasak. Igaz a hadászati tervezésben ma is igen nagy szerepet kapnak. Jóföldi Endre, a Precognox nevű, öntanuló keresőszoftvert fejlesztő cég vezetője szerint például könnyen előfordulhat, hogy egy esetleges háborút részben az MI segítségével terveznek meg, a harci cselekményekben pedig önálló döntésekre képes drónok, harci robotok, vagy épp önvezető tankok vesznek majd részt. Ezeknek előképei már a mai hadászati műveletekben is megvannak, mint például a célpontok keresése okos algoritmusokkal. Igaz a végső kiválasztást ember végzi, ahogyan a gombot is mi nyomjuk – reméljük még jó ideig.

Ennek ellentmondó példa lehet az önvezető autók fejlődése. Ha robot vezet, és féktávolságon belül hirtelen elé ugrik egy labda után szaladó gyerek, akkor lehet, hogy a vezető vagy a gyerek élete közt morális döntést kell például hoznia a szoftvernek. Az MIT kutatói éppen azon gondolkodnak, hogy az ilyen helyeteket milyen elvek mentén lehessen kezelni.

Szerencsére nem a sötéten tapogatóznak, mert az ötvenes évek óta népszerű sci-fi író, Isaac Asimov már lefektette a fő elveket, a robotika három törvényét:

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2.  A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

Ez persze nem végső szabályrendszer, de jó kiindulási alap a fenti dilemma kapcsán. Arra azonban nem ad választ, hogy milyen morális vagy tudományos megközelítéssel döntsön egy robotsofőr élet és élet közt.

Hol is tart a mesterséges intelligenciák fejlesztése, fejlődése?

Valóban képesek ezek olyan stratégiát javasolni, olyan gyenge pontokat találni az ellenséges országok kapcsán, amelyet egy rossz szándékú vezető egy háború megindítására használhat fel?

Egy brit fejlesztésű mesterséges intelligencia, az Alpha Go 2015 októberében egy világbajnokot is megvert. Olyan, intuitív játékról van szó, ahol egyszerű számítási teljesítménnyel lehetetlen nyerni, muszáj a logikus gondolkodást használni. Az IBM Watson pedig használható például a rák gyógyításban. Hogyan? Úgy, hogy több százezer oldalnyi orvosi tudásanyagot képes kontextusában is értelmezni, miközben a legjobb emberi orvos is legfeljebb pár ezer oldalnyi tudást lát át, ám a rákgyógyításban havonta sok ezer oldalnyi új publikáció születik. A nagy kérdés persze nyitott: mit talál fel, mit javasol egy jól programozott orosz, kínai vagy akár japán, amerikai MI, ha az erős kezű, háborúzni kívánó vezetők tesznek fel a gépeknek kérdéseket. Például a jelenlegi észak-koreai konfliktus megoldása kapcsán.

Mi is a mesterséges intelligencia, hogyan működik?

A számítógépek korábban olyan feladatokat tudtak csak megoldani, amelyek pontos, jól definiálható szabályok előzetes megadásával, tehát szoftveres, programozási műveletekkel körülírhatók voltak. Ilyen lehet egy táblázat kezelése, egy szövegszerkesztő vagy egy számlázóprogram.

Ugyanakkor az olyan feladatokkal a gépek sokáig nem tudtak mit kezdeni, amelyek nehezebben írhatók le, mint például: miként keresünk meg újságcikkek közt egy-egy számunkra érdekes, releváns tartalmat, miről szól a cikk és miért fontos. Egy öntanuló gép ma már a kulcsszavakat nem csak keresni, hanem a köztük lévő összefüggéseket, relevanciákat felfedezni, sőt, elemezni is képes. Egy gépnek tehát lehetnek „gondolatmenetei”, de csak olyanok, amiket mi beléjük táplálunk.

Jóföldi Endre szerint, amit a sci-fi filmekben látunk az az MI fejlődésének a sok évtized távlatában elképzelhető legvégső stádiuma, abból is a lehető legrosszabb verzió. „Hiszen ki nézne meg egy békés, kedves robotokról szóló akciófilmet”? Ezzel együtt természetesen érdemes foglalkozni az ilyen veszélyekkel is, de társadalmi méretekben munkaerőpiac átalakulásának feszültségeit reálisabb problémának látom – teszi hozzá a szakértő.