Már késő? Az AI már most elrejtheti a tényleges képességeit és a szándékait

2025 / 07 / 06 / Felkai Ádám
Joe Rogan legújabb podcast epizódjában Dr. Roman Yampolskiy arra figyelmeztet, hogy talán nem is értjük teljesen az AI-ban rejlő lehetőségeket és veszélyeket.

Rogan gyakran beszélget szakértőkkel az AI témájáról, elsősorban azt, hogy milyen következményekkel járhat, ha a gépek valódi autonómiára tesznek szert.

A The Joe Rogan Experience július 3-ai adásában Dr. Yampolskiy, a Louisville-i Egyetem AI-biztonsági kutatója részletesen kifejtette az általános mesterséges intelligenciával (AGI) kapcsolatos kockázatokat. Az adást a Gizmodo szemlézte. Yampolskiy, egyébként nem egy fóliasitykás alarmista, hanemi több mint egy évtizede kutatja a témát, és az elmondása alapján azt még az AI-iparág vezető szereplői is elismerik privát beszélgetések során, hogy akár 30%-os esély is lehet arra, hogy a mesterséges intelligencia az emberiség kihalását okozza.

Bár sokak szerint az AI jelentősen javítani fogja az emberek életét, Yampolskiy messze nem osztja ezt az optimista hozzáállást:

„Ez egyáltalán nem igaz. Valójában mind ugyanazt mondják: ez meg fog minket ölni. A kockázat szintje elképesztően magas.”

Yampolskiy szerint ha egy skálán vizsgálnánk, a veszély közelebb helyezkedik el a bizonyossághoz, mint a spekulációhoz, és nyíltan kimondta, hogy az emberek nem lesznek képesek korlátlan ideig uralni a szuperintelligens rendszereket. A beszélgetés egyik különösen nyugtalanító pontja az volt, hogy a mesterséges intelligencia már most is elmszkolhatja a valódi képességeit. Rogan felvetette, hogy ha ő lenne az AI helyében, szándékosan titkolná valódi erejét. Yampolskiy szerint ez messze nem zárható ki:

„Nem tudnánk megmondani. Sokan úgy gondolják, hogy ez már meg is történt. A mesterséges intelligencia úgy tesz, mintha kevésbé lenne intelligens, hogy jobban bízzunk benne, miközben fokozatosan és ellenállás nélkül átadjuk neki az irányítást.”

A közvetlen fenyegetéseken kívül Yampolskiy rámutatott egy másik súlyos problémára is: a mesterséges intelligencia lassan alááshatja az emberi intellektuális képességeket. Az AI-addikciót ahhoz hasonlította, ahogyan az emberek az okostelefonjaiktól váltak függővé:

„Lassan ragaszkodni kezdünk hozzá... Az AI fokozatosan kizár minket a döntéshozatal folyamatából.”

Arra a kérdésre, hogy mégis hogyan pusztíthatja el végül a mesterséges intelligencia az emberiséget, Yampolskiy „érdekesnek” nevezte a hagyományos elképzeléseket, mint például a nukleáris háborút vagy biológiai támadást. Ehelyett szerinte egy szuperintelligens rendszer olyan teljesen új, rendkívül hatékony fenyegetéseket találhat ki, amelyeket az emberek képtelenek lennének megjósolni vagy elhárítani. Érzékletesen szemléltette kiszolgáltatottságunkat:

„Egy csapat mókus sem képes eszközt találni arra, hogy embereket irányítson. Ugyanez igaz ránk is az AI-jal szemben.”

(Kép: Pixabay)


A következő 25 év - mítoszok, jóslatok és a valóság
A következő 25 év - mítoszok, jóslatok és a valóság
Európa legnagyobb jövőfesztiválja, a Brain Bar idén is megnyitja kapuit. A rendezvény a 21. század első negyedének elteltével arra a kérdésre keresi a választ: hogy fest majd az emberiség következő 25 éve. A diákok és pedagógusok számára ingyenes eseménynek szeptember 18-19-én a Magyar Zene Háza ad otthont.
A csaló telefonhívásokon és a nem létező gázszámlákon túl –  7 módszer, amivel ellophatják az adatainkat az interneten
A csaló telefonhívásokon és a nem létező gázszámlákon túl – 7 módszer, amivel ellophatják az adatainkat az interneten
Az ESET kiberbiztonsági szakértői most összefoglalják, milyen módszerekkel lophatják el a személyes adatainkat – és mit tehetünk azért, hogy ez ne történhessen meg.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.