Kicsúszhat az emberi ellenőrzés alól az AI - újabb techguru kongatja a vészharangot

Az OpenAI és az Anthropic nagyvállalatok után újabb figyelmeztetés érkezett a mesterséges intelligencia elszabadulásának kockázataira vonatkozóan: ezúttal a Microsoft vezérigazgatója, Satya Nadella arra sürgette a mesterséges intelligencia iparágat, hogy kezelje prioritásként a biztonságot, és tartsa fenn az emberi ellenőrzést az AI felett.Az erről szóló belső levelezést a Bussiness Insider gazdasági lap szerezte meg, ebben a Microsoft vezérigazgatója támogatja a harmadik fél általi mesterséges intelligencia tesztelését a fejlesztési ütemről szóló iparági vita közepette. A veszélyekről szóló diskurzus - amelyben egyre több szakember hallatja hangját - a mesterséges intelligencia iparág túl gyors fejlődéséről, s ennek nyomán az emberi ellenőrzés gyengüléséről szól.

A vállalat AI vezetője is megszólalt: Mustafa Suleyman szerint „azok a dolgok, amelyek miatt elméletben régóta aggódtunk, nagyon is valóságossá váltak” .

Ezen a hétvégén Dario Amodei, az Anthropic mesterségesintelligencia-fejlesztő vállalat vezérigazgatója a mesterséges intelligencia fejlesztésének lassabb lebonyolítását javasolta, és azt mondta, hogy cége lehetővé teszi a modelljük fejlődésének külső ellenőrzését. Sam Altman, az OpenAI vezérigazgatója egyetértett a harmadik fél általi monitorozással, és kifejezte támogatását a telepítés lassítása mellett, ahol az összehangolás és a biztonság biztosítása érdekében szükséges. 

Az Anthropic-nál betöltött állásáról múlt héten mondott le Jacob Coxon brit kutató, aki szerint az MI vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet.

A 27 éves kutató az X-en azt írta, hogy a közeljövőben olyan, az emberi képességeket meghaladó rendszerek jelenhetnek meg, amelyek "mindent fel tudnak törni", és valódi hatalomhoz, illetve erőforrásokhoz juthatnak.

A legfőbb problémát az úgynevezett AI-ügynökök terjedése jelenti. Ezek már nem csupán válaszolnak egy kérdésre, hanem önállóan tudnak:

• interneten keresni és műveleteket végrehajtani,
• programokat írni és módosítani,
• rendszerekhez hozzáférni,
• más digitális ügynökökkel kommunikálni,
• bizonyos esetekben hosszabb feladatokat emberi beavatkozás nélkül végigvinni.

Szakemberek arra figyelmeztetnek, hogy minél önállóbb egy rendszer, annál nehezebb előre megmondani, mit fog tenni egy váratlan helyzetben.