Az atombombák helyett a technológiai cégek hozhatják el a világvégét – a szakértők aggódnak

Mióta az első számítógépet bekapcsolták az emberiség jószerivel azóta fél, hogy a komputerek az alkotóik ellen fognak fordulni. Már 1970-ben is sikert aratott az a „Colossus: A Tiltott Projekt” című mozi, amelyben egy gépi értelem (artificial intelligence – AI) lassan rabszolgasorba kényszeríti a Föld lakosságát. Annyira behálóz mindent, hogy az emberek már alig tudnak úgy beszélni, hogy a szavaikról a gonosz gép ne szerezzen tudomást.

A téma számos klasszikusban felbukkant a 2001: Űrodüsszeiától, a Terminátor filmeken keresztül a Mátrix mozikig.

Sokáig mindez a sci-fi írók képzelgésének tűnt. Azonban újabban az emberiség létét fenyegető mesterséges intelligencia már nem csak a fikciós történetekben, hanem a szakmai írásokban is egyre többször bukkan fel. Pláne most, hogy egymást érik az új fejlesztések.

A Microsoft támogatását élvező OpenAI nevű kutatólaboratórium nyelvi szoftvere például már az adóbevallásban is segít, webszájtot is tud programozni, egy képnek pedig a mélyebb értelmét is ki tudja elemezni. Az ügyvédi vizsgát pedig kiváló eredménnyel tette le. Okkal merül fel a kérdés: ha most itt tartunk, mi lesz pár év múlva?

A vészharangot egyre többen kongatják.

Geoffrey Hinton, aki az AI egyik atyja egyenesen azt állította: megbánta a munkásságát.

Margrethe Vestager az Európai Unió digitális korszakért felelős ügyvezető alelnöke szerint eljuthatunk oda is, hogy az AI már a választások kimenetelét is befolyásolni fogja.

A sötét jóslatok közt talán a legborúsabbal a kaliforniai Gépi Intelligencia Kutatóintézet vezetője Eliezer Yudkowsky állt elő, aki szerint a robotok teljesen ki is irthatnak minket.

A szakember, aki a TIME-ban közölte a véleményét, úgy véli: a kritikus pillanat akkor fog eljönni, amikor a gépi értelem már intelligensebb lesz az embereknél.

A legvalószínűbb eredménye egy emberfeletti intelligenciájú gép értelem megalkotásának - a jelenlegi körülmények között - az, hogy a Földön szó szerint mindenki meg fog halni. Nem úgy, hogy "talán van rá némi esély", hanem úgy, hogy ez a legkézenfekvőbb dolog, ami történhet.

Mint hangsúlyozza: ha létrehozunk maguknál valami okosabbat azt elvi szinten túl lehet élni, csak ennek nincsenek meg jelenleg a feltételei. Ehhez komoly előkészületekre és új tudományos felismerésekre lenne szükség, és valószínűleg nem olyan AI-rendszerekre, amelyek tört számok óriási, kifürkészhetetlen tömbjeiből állnak.

Valamiként biztosítani kéne, hogy a mesterséges intelligencia megértse, hogy az életet tisztelni kell. Csak hogy nem tudjuk, hogy ezt milyen eszközökkel lehetne elérni egy öntanuló rendszernél,

amelynek az irányítása könnyen kicsúszhat a kezünk közül.

Félő, hogy a kiokosodott AI csak egy biológiai masszaként kezel majd minket, amelynek az alkotóelemeit fel tudja használni a saját céljaira.

Yudkowsky szerint idővel a gépi korlátokon is átléphet az AI például azzal, hogy a saját céljainak megfelelő szerves életformákat hoz létre. Már most is van olyan létező technológia, amellyel élő szerveket lehet nyomtatni.

Yudkowsky tanácsa radikális: szerinte minden AI projektet le kell kapcsolni.

Az apokaliptikus jóslatok csak PR-fogások lennének?

Van egy komoly kettősség jelenleg a technológiai iparban: renegeteg befolyásos vezető például a Tesla vezér Elon Musk, vagy a ChatGPT-t létrehozó OpenAI vezetője Sam Altman is arról beszélnek, hogy az AI kockázatos, és hosszútávon veszélyt jelenthet ránk. Mégis azon túl, hogy hangzatos nyilatkozatokat adnak ki, nem tesznek semmi érdemit azért, hogy a rohamtempóban zajló AI fejlesztést lassítsák

vagy hogy láthatóan biztonságosabbá tegyék.

A New York-i adatvédelmi csoport, a Surveillance Technology Oversight Project vezetője Albert Fox Cahn szerint sokan, akik most apokalipszisről beszélnek, valójában mindebben nem hisznek igazán. Szerinte jó PR-fogásról van szó. Azzal, hogy telekürtölik a világot azzal, hogy micsoda forradalmi változásokat hoz az AI, amely annyira erőteljes, hogy még a világvégét is elhozhatja, mindenki előtt egyértelművé teszik: ennél fontosabb jövőformáló technológia jelenleg nincs.

Bolond az, aki nem ebbe fekteti a pénzét.

Az hogy az OpenAI vezetője Altman nem túl őszinte, amikor az AI szabályozásokat sürgeti azt az is jelzi, hogy amikor felmerült, hogy az EU valóban szigorúbb keretek közé szorítja a mesterséges intelligenciákat, máris megpróbálta nyomás alá helyezni az uniós döntéshozókat és jelezte, hogy a kontinensen le fogják állítani a működésüket, ha az uniós szabályok túl szigorúak lesznek.

 A hirtelen fordulat a hozzáállásában némi felháborodást is kiváltott, amely után a cég jelezte: Európát nem akarják elhagyni.