A The Conversationön publikált összefoglalójukban a szakértők úgy vélekednek, hogy a SantaNet elnevezésű rendszer kétségtelenül örömet hozhat a világba, hiszen segítői közreműködésével, azaz a mesterséges intelligenciával és a drónokkal elérheti célját. A kutatók ugyanakkor egy sor olyan viselkedési mintát is meghatároztak, amelyek bár jó szándékúak, mégis káros hatással lehetnek az emberek egészségre és jólétére. Mindenekelőtt azonban a Medium cikke alapján tekintsük át az AGI legfontosabb jellemzőit.

Paradigmaváltás a robotikában, a MELA lehet az első önfejlesztő, egyre intelligensebbé váló MI A Mesterséges Intelligenciának nincs motivációja sem arra nincs hogy bennünket bántson, sem arra hogy egyáltalán életben maradjon, az életösztön, a fejlődés, tökéletesedés iránti igény mélyen emberi -volt eddig. Most ugyanis egy gép olyasmit tett, amire senki nem kérte meg, vagy programozta be. Talán nem ártana kideríteni, hogy miért, és hogyan csinálta.

Az AGI, a mesterséges általános intelligencia - vagy „erős” mesterséges intelligencia - emberi intelligenciával működő gépeket jelöl. Más szavakkal, az AGI sikeresen végrehajthat bármilyen szellemi feladatot, amire mi magunk is képesek vagyunk. Ez az a fajta technológia, amivel már a 2013-as, "A nő" című amerikai filmdráma-sci-fi-ben találkozhattunk. A hasonló filmekben az emberek kölcsönhatásba lépnek olyan gépekkel és operációs rendszerekkel, amelyek nem csupán öntudatosak, de érzelmeik is vannak. Bár a gépek hozzánk képest jelenleg gyorsabban dolgozzák fel az adatokat, mi azonban képesek vagyunk elvontan gondolkodni, stratégiát alkotni, vagy gondolatainkba, emlékeinkbe merülni. Így tudunk például érzelmi alapú döntéseket hozni, vagy kreatív ötleteket alkotni. És igen, ez a fajta intelligencia emeli az ember képességeit a gépek fölé. Persze, ez az intelligencia nehezen körbehatárolható, hiszen az emberi viselkedést elsődleges mozgatórugóját az érzelmek adják, ezek hajtanak bennünket. Ez pedig olyasmi, amit nagyon nehéz megismételni a gépekben. Legalábbis egyelőre.

Mit várnak a fejlesztők az AGI-tól?

Leginkább azt, hogy képes legyen érvelni, problémákat megoldani, akár bizonytalan helyzetben dönteni, tervezni, tanulni, illetve beépíteni előzetes ismereteit, tapasztalatait a döntéshozatalba. Ha pedig mindez nem lenne elég, az is elvárás, hogy legyen innovatív és kreatív. Persze ahhoz, hogy a gépek a valódi emberi intelligencia szintjére lépjenek, képeseknek kell lenniük a tudat megtapasztalására. Hogy ez lehetséges-e, arra ma még nincs válaszunk. Ahogy arra sem, hogy ez örömre ad okot vagy sem.

De térjünk vissza a SantaNet-re

Felnőttként mindannyian jól tudjuk, hogy a Mikulás a jó gyerekeknek ajándékot, a rosszaknak pedig virgácsot hoz. A SantaNet azonban csak úgy tudna különbséget tenni a gyerekek között, ha

egész évben, egy globális kiterjedésű titkos megfigyelő rendszerrel monitorozná viselkedésüket.

Más részről, a "jó" megítélése a SantaNet saját etikai-erkölcsi iránytűje alapján negatív diszkriminációhoz, és az emberi jogok megsértéséhez vezethet. Arról nem beszélve, hogy ha a rendszer elsődleges céljaiként a gazdaságosság is ott szerepel, akkor bizony úgy jár a legjobban, ha minél több gyerek kerül a "rosszak" listájára, így kevesebb ajándékot kell szétosztania.

Az egész világot a Mikulás műhelyévé változtathatja

A kutatók szerint napjainkban mintegy kétmilliárd tizennégy év alatti gyermek él a világon.Hogy minden évben a lehető legmodernebb játékokkal rukkolhasson elő, a SantaNet alighanem saját MI-hadsereg kifejlesztésébe kezdene, ami viszont tömeges munkanélküliséget eredményezne a Mikulás eredetei segítői, a manók között. A munkájukat megtarthatók pedig alighanem jelentős életszínvonal-csökkenésre számíthatnak, elvégre a SantaNet feladatai között nem szerepel a dolgozói jólét biztosítása. A mesterséges intelligencia fejlődésével ezen kívül egyre inkább égetővé válnak olyan problémák, amelyekkel korábban csak a tudományos-fantasztikus irodalomban találkoztunk.

Minél okosabbak a gépek, annál önállóbbá válnak.

A gépek önálló életre kelése ugyan még igen távoli lehetőség, de azt már ma is látjuk, hogy a gépeket vezérlő algoritmusok nem feltétlenül racionálisabbak és elfogulatlanabbak az embereknél. A technológia nem semleges: a gépeket irányító programok is szükségképp erkölcsi ítéleteket hoznak. Elég, ha csak az önvezető autó algoritmusával kapcsolatos morális dilemmákra gondolunk. Corinne Reid, bostoni képzőművész és publicista szerint a mesterséges intelligenciával kapcsolatos aggodalmak abból fakadnak, hogy a gépeket nem tanítjuk, hanem idomítjuk, vagyis egyértelmű parancsokat és utasításokat adunk nekik. A gépek ezeket feltétlen szabályként értelmezik, és minden körülmények között, mérlegelés nélkül követik. Ha általánosabb célokat fogalmazunk meg, akkor

a gépek azt keresik majd, hogyan érhetik el eme célokat minél hatékonyabban, nem törődve a nem szándékolt és a programozók által sem előre látható következményekkel.

Nick Bostrom oxfordi filozófus ezt szemléltette egy gondolatkísérlettel, amelynek során egy gemkapocs-gyártásra tervezett robot az egész világot egy nagy gemkapocs-gyárrá alakítja. A SantaNet-tel kapcsolatos aggályokat taglaló szakértők szerint esetünkben ez a Mikulás műhelye lenne, mivel a rendszert kizárólag az ajándékok legyártása érdekli, így a Föld minden elképzelhető erőforrását felhasználná ennek érdekében. Arról nem beszélve, mekkora környezeti károkat okozna a szénipar fellendítésével, hiszen a hagyomány értelmében a rossz gyerekek sok helyen szenet kapnak virgács helyett.

Szállítási problémák

Ha a rénszarvasokat drónokra cseréljük az több szempontból is aggályos lehet a cikkírók szerint: vajon hogyan reagálna a SantaNet, ha valamilyen technikai probléma miatt az eszközök nem tudnának felszállni, és még napkelte előtt kézbesíteni az ajándékokat? És mit tenne, ha mondjuk megtámadnák azokat? Plusz, a legtöbb szülő valószínűleg nem örülne, ha egy drónt találna gyermeke szobájában, egy esetleges ember-gép összecsapás pedig aligha végződne emberi győzelemmel. "Egyéb problémás forgatókönyveket is azonosítottunk: kiberbűnözők betörhetnek a SantaNet rendszerébe, és titkos megfigyelésre vagy terrortámadások kezdeményezésére használhatják fel" - írják a szerzők.

A legijesztőbb opció mégis talán az, ha a SantaNet kölcsönhatásba lép más AGI-rendszerekkel. Egy, az éghajlatváltozással, az élelmiszer- és vízbiztonsággal, az óceánok védelmével és hasonló, környezetvédelmi ügyekkel foglalkozó AGI-kkal való találkozó konfliktushoz vezethet, ha utóbbiak úgy ítélik, hogy a SantaNet rendszere veszélyezteti saját céljaikat. Ha pedig netán szövetségre lépnek, akkor idővel rájöhetnek,

hogy céljaikat csak a globális népesség drámai csökkentésével vagy akár a felnőttek teljes eltávolításával érhetik el.

Stuart Russel informatikus egészen más módon okosítaná a mesterséges intelligenciát. Nem konkrét utasításokat adna a gépeknek, hanem valós emberi döntések alapján megtanítaná őket a bonyolult és gyakran ellentmondó preferenciák mintázatainak követésére. Így képesek lennének felismerni az emberi célok feltételességét, esetlegességét és irracionalitását. Ezáltal pedig képesek lehetnének az emberhez hasonló döntéseket hozni. Persze lehet, hogy ezeket a döntéseket sem mindig értenénk, de ez az elmélet szempontjából mellékes, hiszen az emberi döntéseket sem mindig értjük.

További cikkek a Rakétán:

A civilizációnknak alighanem hamarosan befellegzett, már csak a dolog miértjét kellene megfogalmazni Nukleáris katasztrófa, klímaváltozás, halálos vírusok, elnéptelenedés, roboturalom. Tengernyi forgatókönyvről olvashatunk az emberiség kipusztulásával kapcsolatban, a teljesség igénye nélkül kiválasztottunk pár érdekes (utópisztikus?) előrejelzést.

A mesterséges intelligencia a kávéhoz fűződő viszonyunkat is megváltoztathatja Világszerte minden hatvan emberből körülbelül egy megélhetését biztosítja a globális kávéellátási lánc, melynek rendszere mostanra elavult, tele van bizonytalansággal, igazságtalansággal, sőt korrupcióval. Hogy hogyan segíthet ezen a gépi tanulás, a mesterséges intelligencia és a blokklánc alapú fizetési módok, arra több cégnek is van már ötlete. Ezekből emeltünk ki pár érdekeset.

Miként változtatja meg a mesterséges intelligencia a gyógyszeripart? A technológiai változások olyan változásokat hoztak a gyógyszeriparban már most, melyek öt éve is elképzelhetetlenek lettek volna. A jövő csak egyre több lehetőséget ígér, amely egy része elválaszthatatlan attól, ahogy a Covid átalakította a világot.

(Fotó: Getty Images Hungary)