A gépek az évtized végére elég okosak lesznek szellemi munka végzésére

A mesterséges intelligenciát (MI) kutatja, tanítja – erről tart előadást tömegeknek. Mit gondol, az emberek tisztában vannak azzal mi az MI és hogy működik?

Azoknak, akik nem a médiából tájékozódnak, egész pontos elképzelésük van arról, hogy mit jelent. Az ő definíciójuk szerint

az MI a számítógépek intelligenciájának fejlesztése

, ami helytálló. Ha olvastak róla a médiában, akkor félrevezették őket, a média ugyanis összekeveri a MI-t annak egy ágával, a gépi tanulással, és annak is egy alkategóriájával, az ellenőrzött tanulással (supervised deep learning), mely során nagy hálózatokat „tanítunk” óriási adathalmazok feldolgozására és annak hasznosítására, előrejelzések készítésére. Ez azonban a MI egy igen kis szelete, a média jelentős része azonban ezzel azonosítja.

Vagyis mi vagyunk a hibásak.  

Sok ember ezt veszi alapul. Hasonló volt a helyzet a hetvenes években, amikor a MI szintén egy kis szeletét azonosították a teljes tudománnyal, ami szintén félrevezető – olyan mintha azt mondanánk, hogy a fizika és a mobiltelefonok egy és ugyanaz. A MI egy rendkívül nagy terület, ami sokfél módszert, megközelítést, kérdést magába foglal.

A fogalmak tisztázása azért fontos, hogy megértsük milyen előnyökkel és veszélyekkel járhat az MI alkalmazása. A lehetséges veszélyekre Ön is gyakran felhívja a figyelmet, s három elvet hangsúlyoz, melyeket ilyen rendszerek/robotok fejlesztéskor érdemes szem előtt tartani: önzetlenség, szerénység, és az emberiség szolgálata.

Eddig úgy fejlesztettünk ilyen rendszereket, hogy meghatároztuk a célt, a gép pedig teljesítette. A gond ezzel csak az, hogyha nem pontosan határozzuk meg a célt és átsiklunk valami felett, ami számít, akkor a gép az utasítás szerint jár el, és nem törődik a többi szemponttal, ami ellenkezhet azzal, amit szeretnénk.

Midász király legendája jól szemlélteti ezt a problémát: a király azt kívánta, hogy minden, amihez hozzáér, váljon arannyá. Így lett, és a király éhen halt. Ebben a esetben a gép az, ami a kívánságot teljesíti.

Vagyis el szeretnénk kerülni azt hogy a MI-rendszerek olyan célokat teljesítsenek, melyek pontatlanok vagy hiányosak.

A való életben borzasztóan nehéz megfogalmazni egy problémát, egy célt, még egy látszólag olyan egyszerű esetben is, mint egy önvezető autó. A cél, gondolnánk csupán annyi, hogy el akarunk jutni a reptérre. De mi történik, ha a gép 350 km/óra sebességgel haladva vinne minket oda, vagy mindenkit letolt az útról vagy elüti a zebrán áthaladó gyalogost, mert nem áll meg a lámpánál, és így tovább. Egyre több „pontosítást” kell hozzáadnunk, aminek sosincs vége; mindig lesz valami, ami kimarad. Ráadásul, ha olyan rendszerekkel dolgozunk, melyek intelligensebbek nálunk, mindent megtesznek majd azért, hogy a célt teljesítsék, nem pedig azt, amit mi szeretnénk.

Hogy alkalmazza a korábban említett elveket, hogy mindezt megakadályozza?

A legfontosabb, hogy nem határozzuk meg a konkrét célt.

És a gép tudja, hogy nincs tisztában azzal, mit kell tennie – ez a szerénység elvének alkalmazása. Ha így tervezünk gépeket, mindig óvatosan fog eljárni

és rákérdez, pontosan mit szeretnél, mert egyrészt nem biztos abban, hogy mit is kell tennie, másrészt nem szeretne nem kívánt változást, eredményt produkálni. Egy személyi asszisztenst, aki az időbeosztásomért, stb, felel, megbízok azzal, hogy foglaljon szobát nekem a konferenciahotelben. De kiderül, hogy a hotelben már csak egy szabad szoba maradt: az elnöki lakosztály. Ekkor, ahelyett, hogy automatikusan lefoglalná, rákérdez, hogy akarom-e, vagy nézzen körül a környéken más hotelekben.

Egy valamivel összetettebb példa, ha a légkörben található szén-dioxid mennyiséget szeretnénk visszaállítani. De mi van akkor, ha ezt a rendszer úgy érné el, hogy az óceánokat kén-dioxiddá alkítja. Ekkor is megkérdezné, megfelel-e nekünk ez a módszer, amire nyilván az lenne a válasz, hogy nem, találj ki valami mást. Azt szeretnénk, ha így viselkednének ezek a rendszerek, azonban ha egy gépnek előre meg kell határozni, hogy pontosan mit kell tennie, nem így fog.

Mennyivel nehezebb e módszer alkalmazása a korábban használttal szemben? Mennyire lassítja a fejlesztést?

A kezdetektől ezt a megközelítést kellett volna alkalmaznunk. De nem így tettünk, ami hiba volt. S a technológiát, amit már létrehoztunk, át kell alakítani ezen új alapok mentén. Ez rengeteg matematikai számítással, algoritmus tervezéssel és technológiai fejlesztéssel jár. 

Összeségében mit gondol az MI fejlesztések üteméről? 

Úgy vélem a fejlődés meglehetősen gyors.

Rengeteg pénz áramlik ebbe a területbe és ami még fontosabb, rengeteg okos ember dolgozik ezen.

Egyre inkább szembesülünk azzal, hogy a mélytanulás (deep learning) technológia nem az, aminek gondoltuk. Nem működik úgy, ahogy gondoltuk.

És ez meglepi?

Nem – én már jó ideje hangoztatom. A közelmúltban a Google közölt egy tanulmányt, melyben leírja, hogy a számtalan alkalmazás, amit fejlesztettek mind félrevezető. A laborban jól működtek, a való világban már nem.

A fejlődés ütemet sokak szerint nem a technológia korlátozza, sokkal inkább etikai, jogi és egyéb megfontolások. Például az, ki felel azért, ha egy önvezető autó balesetet okoz.

Ezekre is választ kell találni. Az önvezető autógyártók pedig vállalják a felelősséget az okozott kárért. De nem ez a valódi probléma, hanem maga a technológia, amely még mindig nem tart ott.

Hányan álmodoznak egy háztartási robotról, aki ki- és felmos, kitakarít, ám ma ez még nem kivitelezhető.

Még mindig nagyon sokat kell kutatni, kísérletezni, fejleszteni. Amint ezt megléptük indul majd az értékesítésük és úgy véle, ekkor kerülnek majd a felszínre a jogi problémák, a jogászok sokáig elvitatkoznak majd. De nem értek egyet azzal, hogy emiatt haladna lassabban a fejlődés.

Ha már szóba került a jog: úgy tartja, a MI terjedése több igazságot hoz majd. Ha a gépekbe az eddig összegyűlt, emberek által gyűjtött adatok táplálják, ami nyilvánvalóan elfogult, hogy hozhat az több igazságot?

Az adat, az ami. Egy részét pedig, ahogy ön is mondja, bizonyos céllal rögzítették, vagy hiányos. De sok értelme nincs ezt fejtegetni. A MI [ezzel] annyit tud kezdeni, hogy végigmegy az adatokon, és rámutat azokra a pontokra, ahol ellentmondásos. A valós információban nincsenek ellentmondások, a hamisban szinte mindig.

Hosszú távon a MI rendszerek segítenek abban, hogy kiszűrjük a félrevezető/téves információt, és a valós információt hangsúlyozzák.

Ahhoz, hogy ide eljussunk, még sokat kell dolgoznunk, ugyanis, hogy egy gép képes legyen erre, tudnia kell értelmezni az adatokat.

A hosszú táv alatt pontosan hány évet ért?

Úgy 10-15 évet. Ennyi mindenképp kell ahhoz, hogy a rendszer valóban értse, és értelmezni tudja azt, amit olvas. A rendszerek ugyan tudnak újságot olvasni ma is, de nem igazán értik, és két újságcikk közötti összefüggéseket sem értik.

Az előző évtizedben nagyot léptünk előre a vizuális és beszédfelismerés terén, ebben az évtizedben a nyelv értelmezésében várható áttörés.

És a háztartási robot, aki mos és kiviszi a szemetet, mikor érkezik? Az embereket ugyanis cseppet sem érdeklik azok az elvek, amelyeket említett, bármennyire is fontos a kutatóknak. Ők azt szeretnék tudni, elveszítik-e a munkájukat a MI miatt. Vagy mit kell tenniük ahhoz, hogy a munkaerőpiacon maradjanak.  

Azt több-kevésbé látjuk, meddig jutunk ebben az évtizedben. Több technológia áttörés várható, így „általános felhasználású” robotok lesznek az évtized végére, melyek általános emberi intelligenciával bírnak. Azt is meg kell érteni, hogy az általánosság szintjén egy robot sokkal több dologra képes mint egy ember.

Egy gép, amely megtanult olvasni, képes elolvasni mindent, amit valaha papírra vetettek - egy délelőtt alatt.

Ha pedig megtanulnak nézni, az egész világot belátják egyszerre a szatellit rendszereken keresztül. S minderre elég hamar sor kerül. Fel kell készülnünk az általános képességű robotok érkezésére.

Hogy ez érinti-e majd az emberek munkáját? Igen, elkerülhetetlenül. A fizikai munka jelentős részét már ma is gépekkel helyettesítik; a mezőgazdasági munkákat szinte teljes egészében, a gyártásban dolgozók munkájának durván felét. A többi rutinjellegű fizikai és szellemi területen is gépekkel válták ki az embert. Ha pedig se fizikai, se szellemi munkát nem végezhetünk, akkor mi lesz velünk? Nyilván lesznek új foglalkozások, melyeket a technológia szül, de a gépek ezeket is képesek lesznek elvégezni.

A helyes kérdés az, milyen gazdasági szerepe lesz az embereknek ebben az új helyzetben?

Egészen más lesz, és sokkal inkább a személyes, emberek közötti kapcsolatokra, szolgáltatásokra épül, s gyakorlatilag arról szól, hogyan tudja az egyik ember a másikat boldoggá tenni. S hogy ezt a feladatot mennyire képes jól ellátni, és mennyire képezzük jól őket, mennyire lesznek sikeresek. De a jövő ez.

Kissé rémisztő.

Az. S mi lenne, ha erre holnap kerülne sor!

Két-három milliárd munkanélküli, legtöbbjüknek elképzelése sincs arról, hogyan kell egy személyes kapcsolatokra alapuló vállalkozást vezetni

, vagy hogyan kell másokat boldoggá tenni. A kutatók sem tudják, mivel legtöbben azon dolgozunk, hogy ilyen rendszereket fejlesszünk, nem pedig azon, hogy megtudjuk mi kell a tartalmas és elégedett élethez ennyiféle embernek. Sokat kell kutatnunk ezt is, és felruháznunk az embereket az új tudással, ami évtizedekbe telik.

Mi a helyzet az érzelmekkel? A gépek képesek eljutni az általános intelligencia szintjére, és tudásuk meghaladja az emberiségét, de képesek lesznek-e érezni, vagy legalábbis érzelmeket felismerni és feldolgozni?

Nem olyan könnyen, mint mi. Nekünk embereknek van egy óriási előnyünk a gépekkel szemben: tudjuk, milyen érzés embernek lenni. A könyvemben erre a kalapács és ujj példáját hozom fel: milyen érzés, ha ráüt az ember az ujjára a kalapáccsal? Ha valaki nem tudná, könnyen kiderítheti. Tudjuk, milyen érzés, ha valaki elhagy minket, ha mesélünk a gyermekünknek, stb. A gépek viszont nem. Kikövetkeztetik az arckifejezés, a szavak, a helyzet alapján, hogy az ember nagyon boldog például. De igazából nem tudják, milyen érzés. E pillanatban nem gondolom, hogy értelmezhető lenne, ha a gépeknek lehetnének érzelmei.

Ha lennének, profitálnánk belőle? 

Ha bizonyos érzelmeket bizonyos célokhoz igazítanánk, akkor jobb társaság, jobb barátok lennének, jobb lenne velük beszélgetni, jobban megértenének. De erre jelenleg semmi esély, mivel

fogalmunk sincs arról, hogy fejleszthetnénk gépeket, melyeknek vannak érzelmeik

, vagy arról, hogy ismerjük fel, ha lennének. Ez teljesen science-fiction, körülbelül annyira, mint a fénysebességnél gyorsabban közlekedő űrhajók.

Hogy dolgozik egy MI-kutató? Mivel telik egy napja?

Manapság leginkább Zoom értekeletekkel. Egyébként sokat olvasok, sokat beszélek Phd diákjaimmal: ilyenkor sok új ötlet merül fel. Máskor csak az olvasás és a gondolkozás van. Ha az éjjel eszembe jut egy jó ötlet próbálom reggel minél hamarabb leírni, mielőtt elfelejteném. A laborunk számítógépekből áll. Most nem, de néha dolgozom robotokkal. Vannak valós életbeli alkalmazások: az elmúlt 10 évben sokat dolgoztunk az Atomcsend-szerződésen monitorozó rendszeren, ami több száz szenzorból álló globális rendszer.

Az igazi előrelépések, áttörések több évnyi gondolkodás eredményei, olyan gondolatok, melyekkel hónapokon, éveken át foglalkozom.

Aztán hirtelen megszületik a válasz a kérdésre, amit a gyakorlatban megvalósítok.

(Az élő talk showt, ahol Russel mellett Neil deGrasse Tyson asztrofizikus, Tilesch György MI-kutató, Buzsáki György agykutató és Kishonti László közgazdász ad elő, az MVM Facebook és YouTube csatornáján, és a Future Talks powered by MVM honlapján követheti bárki november 30-án 18 órától. Az esemény nyelve angol, magyar nyelvű szinkrontolmácsolással.)