A mesterséges intelligencia, valamint a lehetséges fejlődése egy olyan kérdés, ami ma terítéken van. Akadnak vészjósló hangok, olyanok, amelyek szerint ideje kicsit felengedni a gázt, sőt talán lehetne fékezni is egy kicsit. Kérdés, hogy mindez mennyire megalapozott, a sci-fi történetek sötét jóslatai mennyire valósulhatnak meg. Dan Hendrycks a Berkley-n végzett, jelenleg pedig a Center for AI Safety igazgatója, és úgy látja, hogy ez a fenyegetés nem csak valószínű, de törvényszerű is. Mint Hendrycks az írásában érvel, a jövőnket nagyban meg fogja határozni az MI természete, épp ezért kérdés, hogy milyen lesz ez a természet. A választ az persze nehezíti, hogy az MI fejlődési útja még ma is kiszámíthatatlan, mint azt Hendrycks írja:

“Lehet, hogy az MI-k egyszerűen a jelenlegi chatbotok jobb verziói, vagy a Go-ban az embereket legyőző ágensek fejlettebb verziói lesznek. Különféle gépi tanulási módszerekkel kapcsolódhatnak össze, vagy egy teljesen új paradigmához vezethetnek. A megvalósulás részleteivel kapcsolatos ilyen fokú bizonytalanság mellett megjósolhatunk-e bármit is az MI természetéről?”

Hendrycks szerint a válasz mindennek ellenére: igen. Már a múltban is képesek voltak az emberek előrejelzéseket tenni a bolygók mozgásáról anélkül, hogy ismerték volna a fejlettebb gravitációs elméleteket. Képesek voltak kiszámítani előrejelzhető módon a kémiai reakciók lefolyását, pedig nem ismerték a kvantum fizikát, sőt az evolúciós elmélet is megelőzte a DNS felfedezését.

Hendrycks elképzelése pedig épp ez utóbbihoz tartozik: ha feltételezzük, hogy az elővilág (vagy komplexebb jelenségek) fejlődését a természetes szelekció irányítja, akkor ez alól az MI sem mentesül. Ha pedig ez így van, máris tehetünk pár előrejelzést arról, hogy merre folyik majd a fejlődés, ha hagyjuk a dolgokat a saját medrükben csordogálni. Az érvelés innentől két megfigyelésen alapszik:

“Először is, a természetes szelekció domináns erő lehet a mesterséges intelligencia fejlődésében. A (fejlesztők közötti) verseny és a hatalomszerzés tompíthatja a biztonsági intézkedések hatásait, több „természetes” erőt hagyva a túlélő mesterséges intelligencia-ágensek kiválasztódásához.

Másodszor, a természetes szelekció általi evolúció hajlamos az önző magatartást előnyben részesíteni. Míg az evolúció bizonyos helyzetekben kooperatív viselkedést eredményezhet (például hangyáknál), amellett érvelünk, hogy a mesterséges intelligencia fejlesztése esetén nem ez a helyzet. E két feltételezés alapján valószínűnek tűnik, hogy a legbefolyásosabb MI-ágensek önzőek lesznek.”

Na de milyen az önző mesterséges intelligencia? Egy ilyen MI-nek nem lesz motivációja az emberekkel való együttműködésre, ami egy olyan jövőhöz vezet, amelyet az emberi értékek iránt kevéssé elkötelezett mesterséges intelligencia vezérel. Egyesek szerint az önző vagy altruista viselkedés tervezhető olyan mesterséges rendszerek esetén, mint az MI, ám épp ez az emberi tervezés nem fog érvényesülni, ha végül a fejlődés útját a természetes szelekció jelöli ki. Magyarán hiába fejlesztenek bizonyos fejlesztők önzetlen MI-ket, ezeket felül fogják múlni a konkurencia által fejlesztett önző MI-k. A konkurencia érdeke pedig éppen az, hogy az ő fejlesztésük jobban teljesítsen, mint a versenytársaké.

Mivel a természetes szelekció működése bizonyos az alapfeltételek megléte esetén biztosra vehető, az már csak az evolúciós nyomás intenzitásának kérdése marad, hogy milyen hamar jelennek meg ezek a számunkra katasztrofális kockázati tényezők. Az evolúciós nyomás intenzitása nagy lesz, ha a mesterséges intelligencia gyorsan alkalmazkodik – ezek a gyorsan felhalmozódó változások gyorsabbá tehetik az evolúciót, és növelhetik az evolúciós nyomást. Hasonlóképpen, az evolúciós nyomás intenzitása nagy lesz, ha sokféle mesterséges intelligencia jelenik meg, vagyis ha intenzív gazdasági vagy nemzetközi verseny alakul ki. Mivel a magas darwini nyomás valószínű, a mesterséges intelligencia valószínűleg kevésbé lesz befolyásolva az emberi irányítás által, így „vadabbá” és önzőbbé fejlődnek a sikeres túlélők.

Mit jelent mindez a fajunk szempontjából? Az ember és mesterséges intelligencia koevolúciója nemigazán kecsegtet reményteljes jövőképpel. Igaz, az emberek megtapasztalták a közös fejlődést más, komplex és nehezen befolyásolható struktúrákkal, például kultúrákkal, kormányokkal és technológiákkal, ám ezek korábban soha nem tudták átvenni az irányítást a tágabb értelemben vett világ evolúciója felett. Ami még rosszabb, a technológiával és a kormányzattal ellentétben az MI-k evolúciós folyamata nélkülünk is folytatódhat, mivel az emberekre egyre kevésbé lesz szükség a különböző feladatok elvégzéséhez. A végeredmény egy olyan világ, amelyben semmi sem fog igazán rajtunk múlni.

Különösen igaz ez azért, mert ez éppen az MI-fejlesztések egyik célja: hogy a folyamatokat mentesítsük a mi részvételünktől és ellenőrzésünktől. Az eredmény? A természetes szelekció invazív fajként működő mesterséges intelligencia kialakulásához vezet majd. Idővel a mesterséges intelligencia ökoszisztémája pedig leállítja az emberi fejlődést, és amolyan jó esetben eltűrt, másodosztályú fajjá válnánk a bolygón.

Hendrycks szerint mindezt három módon akadályozhatjuk meg:

Az első az MI-k biztonságával kapcsolatos kutatások támogatása.

A második: a távolabbi jövőre tekintve, a kutató azt javasolja, hogy az elkövetkező évtizedekben ne adjunk az MI-knek jogokat, és ne építsünk olyan mesterséges intelligencia rendszereket, amely képes a szenvedésre, vagy egyéb módon méltóvá teheti őket az emberi jogokra. Hendrycks szerint lehetséges, hogy egy nap igazságosan megoszthatjuk a társadalmat az MI-kkel, de ha idő előtt lemondunk arról, hogy befolyásoljuk a fejlődésük, akkor jó eséllyel veszíteni fogunk.

Végül a biológia alapján a külső fenyegetés együttműködésre sarkalhat, és arra késztetheti az egyéneket, hogy félretegyék nézeteltéréseiket. Vagyis a mesterséges intelligenciát fejlesztő vállalatoknak és nemezeteknek fel kell ismerniük, hogy az MI katasztrofális veszélyt jelenthet, és ezért többoldalú együttműködést kell létrehozni, hogy a fentebb taglalt, az MI-k evolúcióját gyorsító versenynyomást megszüntessük. Egyébként ugyanis jövőnk kizárólag a természetes szelekcióra lesz bízva, ami pedig úgy fest, hogy nem nekünk fog kedvezni.

(Kép: Pixabay/geralt)