Nem attól kell tartanunk, hogy az MI kiirtja az emberiséget, hanem inkább attól, hogy manipulációval bármire rávesz bennünket

2023 / 11 / 14 / Bodnár Barna
Nem attól kell tartanunk, hogy az MI kiirtja az emberiséget, hanem inkább attól, hogy manipulációval bármire rávesz bennünket
Tényleg a mesterséges intelligencia korunk atombombája? Egyáltalán mi az MI, tudomány vagy technológia? Beszélhetünk-e kreativitásról az ilyen rendszereknél, illetve kell-e félnünk tőlük? Többek között ezekről a kérdésekről is beszélt Szegedy Balázs matematikus az MTA Magyar Tudomány Ünnepén tartott előadásában.

Az emberi agy, mint számítógép

A mesterséges intelligencia vizsgálata előtt beszéljünk egy kicsit a természetes intelligenciáról, kezdte előadását Szegedy Balázs matematikus. Nézzünk az emberi agyra úgy, mint egy számítógépre, mégpedig egy nagyon furcsa számítógépre, amelynek hatalmas a számítási képessége, 86 milliárd neuront tartalmaz. Emellett azonban egy digitális számítógéphez képest nagyon alacsony az agy energiaigénye, az emberi testéhez képest viszont nem annyira: agyunk az emberi test energiájának 20 százalékát az agy használja fel. A klasszikus komputerektől abban is különbözik ez a szervünk, hogy rengeteg művelet párhuzamos elvégzésére képes, illetve, hogy néhány, egyszerű dolog, például egzakt számítások viszont nehézséget okoznak számára. Nagyon kevés ember tudja rávágni a választ arra a kérdésre, hogy mennyi gyök 3.5, és aki képes is ezt fejben kiszámolni, az is sokkal lassabban hajtja végre, mint mondjuk egy 70-es évekbeli zsebszámológép, emelte ki Szegedy. Más feladatokban agyunk viszont rendkívüli teljesítményre képes, ilyen például képek, hangok valós idejű feldolgozása, kreatív feladványok megoldása, illetve a komplikált érvelés is. Ezeken a területeken testünk természetes „számítógépe” jobban teljesít, mint sok, jelenleg elérhető digitális rendszer.

A mesterséges intelligencia eredete

Az MI története egészen 1957-ig nyúlik vissza, amikor Frank Rosenblatt, amerikai pszichológus épített egy 400 fotocellából és mesterséges neuronokból álló látókérget. Bár az emberek és a sajtó már akkor azt vizionálta, hogy ez a rendszer képes lesz reprodukálni önmagát, illetve öntudatra is ébred majd, ez nem történt meg. Olyannyira nem, hogy az ezt követő évtizedekben csak nagyon lassan fejlődött a mesterséges neurális hálózatok elmélete, és a gyakorlati eredmények sem voltak túl meggyőzőek.


Frank Rosenblatt 1957-ben kifejlesztette a perceptront, az első mesterséges neurális hálózatot, amiről akkor úgy tartották, hogy öntudatra is ébredhet. (Fotó: Cornell University)

Az igazán nagy ugrás az elmúlt tíz évben történt meg ezen a területen, a mesterséges intelligencia „forradalmának” kezdete Szegedy szerint 2015-re tehető, az áttörést a mélytanulással kapcsolatos módszerek és az ezt lehetővé tevő hardverek fejlődése tette lehetővé. Itt érdemes tisztázni, hogy az MI óriási gyűjtőfogalom, amelyen belül van a gépi tanulás, annak pedig része a mélytanulás. Annak ellenére, hogy a neurális hálózatok csak egy kis szeletét adják ennek az egész rendszernek, mégis a mélytanulás váltotta ki az MI robbanásszerű fejlődését, hangsúlyozta Szegedy.

Mi történt 2015-ben, ami kiváltotta ezt a forradalmat? Az egyik fontos tényező az AlphaGo nevű, hagyományos kínai társasjátékot játszó automatizált rendszer, amely ekkor verte meg először Fan Huj, kínai származású 2 danos profi európai bajnokot, nem sokkal később pedig Lee Sedolt is legyőzte, aki akkor a világ legerősebb játékosa volt. Ezzel összefüggésben 2015-ben lett valódi tényező a gépek emberi szintű képfelismerőképessége. Érdekesség, hogy a go játékra való képesség, és a képfelismerés egyaránt azokra a neurális hálózatokra támaszkodik, amelyek a gépi látáshoz lettek kifejlesztve. Ilyen értelemben tehát a gépek előbb tanultak meg látni, mint beszélni, erre ugyanis még néhány évet várni kellett.

Egészen 2017-ig, ekkor publikáltak ugyanis egy tudományos cikket, amely egy újszerű, figyelmi mechanizmusokra épülő hálózatarchitektúrát (transformert) mutatott be, amely megdöbbentően jól teljesített nyelvvel kapcsolatos feladatok megoldásában. A több szakértő által írt „Attention is all you need”, vagyis „Csak figyelemre van szükséged” című tanulmányt széles körben a mai chatbotok kulcsaként emlegetik, például a jól ismert ChatGPT is a transformereken alapul. A tanulmány Szegedy szerint azonban messze túlmutat az emberi nyelveken, hiszen a világon szinte minden dolog értelmezhető nyelvként is, ami tulajdonképpen jelek sorozata, csak úgy, mint például a hanghullámok, DNS-bázispárok. Nem elhanyagolható előnye, illetve felhasználási területe a ChatGPT-hez hasonló nyelvi modelleknek a programkód-generálás, amely jelentősen megkönnyíti és meggyorsítja a programozók munkáját.

Tudomány vagy technológia?

Szegedy szerint a számítástechnika technológia, ami a számítástudomány elméletén, vagyis az algoritmuselméleten alapul. Így, mivel a neurális hálók számítógépeken futnak, bizonyos értelemben ezek alapját is a számítástechnika adja, a mélytanulás viszont jóval több ennél, másféle gondolkodásmódot igényel, mint a sima algoritmuselmélet.
Magát a programozást is hívhatjuk gépnek, hiszen a művelet során az ember utasításokat ad, amit aztán a számítógép végrehajt. A program működési elvét az ember érti, hiszen ő írja. A mélytanulás azonban jelentősen különbözik ettől, mivel ott az ember létrehoz egy gépet, amely viszont már önmagától fejlesztget egy újabb rendszert, és az hajtja végre a feladatot. Ráadásul a tanulás folyamata függ egy hatalmas adatgyűjteménytől, az úgynevezett tanuló halmaztól is, amelyet mi emberek nem látunk át, hangsúlyozta Szegedy. Ettől aztán távolabb kerülünk a végeredménytől is, sokkal kevesebb kontrollunk van a mélytanulási rendszer viselkedése felett, mint a sima programozás esetében, gyakran nem tudjuk, hogy a gép mit, miért csinál, megjelenik az úgynevezett Feketedoboz-szerű viselkedés. Ebből következik, hogy ezeknek a rendszereknek a működésével együtt jár egyfajta tökéletlenség, megtéveszthetőség. Szegedy itt egy vizuális példát mutatott be, amelyben az látható, hogy egy sertés képét bizonyos mértékű – emberi szemnek láthatatlan – zajjal komibnálva a képfelismerő MI-rendszer az állatot repülőgépként azonosította. Könnyen belátható, hogy például kritikus feladatokat ellátó rendszerek esetén miért okozhat nagy gondot egy hasonló tévedés.


Szegedy Balázs egy példán azt mutatta be, hogy egy sertés képét bizonyos mértékű – emberi szemnek láthatatlan – zajjal komibnálva a képfelismerő MI-rendszer az állatot repülőgépként azonosította (Fotó: MTA YoutTube)

Egy másik probléma az interpretálhatóság kérdése, vagyis, hogy nehezen visszafejthetőek ezek az MI-rendszerek, amely sok esetben kulcsfontosságú lenne, például egy önvezető autó meghibásodása esetén fontos megérteni, mi okozta a problémás működést.
Szegedy szerint összességében elmondható, hogy a mesterséges intelligencia területe olyan, mint a „vadnyugat”, nem kötik olyan erős matematikai és elméleti alapok, törvények, mint például anno a számítástechnikát.

Jelenleg az MI 90 százalékban technológia és csak 10 százalékban tudomány, az egyik legfontosabb feladat pedig éppen az, hogy ez az arány minél inkább a tudomány irányába mozduljon el.

Magyarországon egyébként épp ezen dolgozik a Rényi Alfréd Matematikai Kutatóintézet MI-csoportja is, amelynek Szegedy Balázs is tagja.

Kreatív-e az MI, illetve öntudatra ébred-e?

Szegedy szerint a kreativitás nem csupán új dolgok létrehozása, sokkal inkább új nézőpontok felfedezése a minket körülvevő óriási mennyiségű információt tartalmazó világban. A mesterséges intelligenciának pedig eredendően erőssége, hogy nagymennyiségű adatnak megtalálja a számos különböző hasznos nézőpontját. Ilyen értelemben tehát beszélhetünk valódi kreativitásról az MI esetében.

Ami a kérdés második felét illeti, ezt nehezebb megválaszolni, hiszen mindenki csak saját magáról tudja biztosan, hogy van öntudata. Csak feltételezni tudjuk egy másik emberről, hogy rendelkezik öntudattal, mégpedig azért, mert hozzánk hasonlóak, hasonló helyzetekben ismerősen viselkednek. Ez alapján viszont, ha egy MI-rendszer számunkra ismerős módon reagál, elkezdjük azt feltételezni, hogy a gép öntudattal rendelkezik. Ahhoz azonban, hogy ebben biztosak legyünk, meg kell értenünk, hogy esszenciálisan mit jelent az öntudat, ezzel kapcsolatban azonban jelenleg egyelőre sötétben tapogatódzunk. Mivel csak a saját öntudatunkat tapasztaljuk meg közvetlenül, nagyon kicsi mintából dolgozunk ahhoz, átlássuk az öntudat fogalmát.

Van-e okunk félni a mesterséges intelligenciától?

Szegedy szerint abból baj nem lehet, ha félünk tőle, az viszont okozhat problémát, ha egyáltalán nem tartunk az MI-től. Ugyanakkor látni kell, hogy az MI fejlődését nem lehet megállítani szabályokkal, valójában még lassítani sem nagyon lehetséges. Mivel nincs pontosan definiálva, mi az az MI, ezért nem lehet törvényekkel és egyezményekkel szabályozni, mint például az atombombát. A teljes betiltására irányuló próbálkozások így könnyedén boszorkányüldözéssé válhatnak, miközben az is meglehet, hogy az MI az információ önszerveződésének a következő szintje, és olyan jelentőségű lépés, mint az élet kialakulása.

A legtöbb és legjobb dolog, amit tehetünk, hogy megértjük, mivel állunk szemben, és felkészülünk az MI által előidézett drámai változásokra,

hangsúlyozta Szegedy. Hozzátette, hogy véleménye szerint az MI térnyerésével inflálódhat az emberi gondolatok és kreativitás értéke, ahhoz hasonlóan, ahogy az ipari forradalom után a tárgyak értéke csökkent. Ennek oka főként, hogy az intellektuális tér még inkább elzajosodik majd olyan tartalmakkal, amelyek megkülönböztethetetlenek lesznek az ember által készített művektől, alkotásoktól. Ezzel együtt az emberi munka értéke is jelentősen átalakul, megváltozik majd, illetve az emberek manipulálhatósága is magasabb szintre lép, hisz az MI ebben is hatékonyabb lesz majd, mint mi. Nem annyira attól kell tartanunk, hogy az MI kiirtja az emberiséget, hanem inkább attól, hogy mindent megcsináltat velünk és bármire rávesz bennünket. Az MI-nek azonban tagadhatatlanul vannak előnyei is, hiszen sokkal gyorsabb megoldást nyújt, olyan nagy kihívásokra, mint például a növekvő energiaigény, vagy a klímaváltozás.

A technológiai szingularitás

Amennyiben a gép olyan fejlett lesz, mint az ember, akkor hozzánk hasonlóan az MI is képes lesz újabb gépeket létrehozni, bekerül egy önfejlesztő örvénybe. Szegedy Balázs szerint ezáltal bekövetkezhet egy olyan szintű, exponenciális fejlődés, amiben az emberiség behozhatatlan hátrányba kerül, ezek a rendszerek annyival lesznek felettünk az intelligenciát illetően, mint mondjuk egy hangyához képest mi vagyunk most. Ebben az esetben már a gépek által létrehozott dolgok koncepcióját sem fogjuk megérteni. Erre utal az, amit mostanában egyre többet hallhatunk, nevezetes, hogy ami az atombomba a fizikai világban, az a mesterséges intelligencia az szellemi dolgok területén, azonban az atombomba nem tud újabb atombombát építeni, míg az MI képes önmaga továbbfejlesztésére.

A Magyar Tudományos Akadémia az idén immár 20 éves Magyar Tudomány Ünnepén kiemelt figyelmet szentel mind a mesterséges intelligenciának, mind más olyan technológiáknak, amelyek megértésében a tudomány magyar művelőinek meghatározó szerepük van. A jubileumi tudományünnepen is több száz rendezvényt szervez az Akadémia a határon túl, vidéken és a fővárosban is, ahol most az MTA Székház felújítása miatt a Humán Tudományok Kutatóházába várják az érdeklődőket, de számos előadás az MTA YouTube csatornáján is megtekinthető.

(Borítókép: Getty Images/Westend61)

Az emberek akkor képesek társadalmat építeni, ha bíznak egymásban, a deepfake pedig ezt a bizalmat ássa alá Milyen hatással van a deepfake, vagyis a mélyhamisítás a társadalmunkra? A témát részletesen körüljáró, frissen megjelent könyv bemutatóján 14 szakértő vitatta meg a jelenséget különböző szempontok alapján.


memoQ Lányok napja: a pályaválasztásról – nem csak lányoknak
Véget ért a memoQ Lányok napja, ami 2019 óta segíti a pályaválasztás előtt álló lányokat, hogy igazán kiteljesedjenek karrierjükben.
Itt tart ma a szexipar, nézz körül a Vágyaim.hu-nál, milyenek 2024-ben az okos-szexeszközök!
memoQ Lányok napja: a pályaválasztásról – nem csak lányoknak
memoQ Lányok napja: a pályaválasztásról – nem csak lányoknak
Véget ért a memoQ  Lányok napja, ami 2019 óta segíti a pályaválasztás előtt álló lányokat, hogy igazán kiteljesedjenek karrierjükben. Szenzitíven és nyitottan álltak a fiatalokhoz, kérdezték őket a digitális trendekről is: a TikTok az új YouTube, a Facebook régóta a boomereké, chatelni pedig már csak Instagramon szokás – beszámoló
Őrület: mindössze negyedóra alatt növesztettek gyémántot
Őrület: mindössze negyedóra alatt növesztettek gyémántot
És ehhez sem magas nyomásra, sem kiinduló gyémántmagra nem volt szükség.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.