Egyes kutatók ezt nemcsak fiktív forgatókönyvnek tartják, hanem fenyegető valóságnak: épp ezért több száz kutató írt alá egy 2024-es nyilatkozatot, amely azt sürgeti, hogy a „mesterséges intelligencia okozta kihalás kockázatának enyhítését” a világjárványokhoz vagy a nukleáris háborúhoz hasonló komolysággal kezeljük. A RAND egyik kutatócsoportja azonban épp az ellenkező következtetésre jutott: az MI hiába is próbálkozna, nem tudna bennünket kiirtani.

A RAND Corporation egy amerikai, pártsemleges, nonprofit kutatóintézet (think tank), amelyet 1948-ban, a második világháború után alapítottak, eredetileg az Egyesült Államok haderejének kutatási és elemzési igényeire. Ma széles közpolitikai területeken — többek között védelem és nemzetbiztonság, egészségügy, oktatás, igazságügy, környezet és technológia — végez elemzéseket.

A RAND vizsgálata azt térképezte fel, hogyan használhatná ki az MI a három gyakran emlegetett egzisztenciális kockázatot: a nukleáris fegyvereket, a mesterségesen előállított kórokozókat és az éghajlatot.

A nukleáris háború kétségtelenül katasztrofális volna, de nem feltétlenül végezne a teljes emberi fajjal. Még ha egy MI-rendszer nagyjából 12 000 robbanófejet is indítana, a robbanások, a radioaktív kihullás és a nukleáris tél jó eséllyel nem pusztítanának el mindenkit: az emberiség túl népes és földrajzilag túl széttagolt.

A biológiai út ezzel szemben komolyabb kockázatot hordozna: bár egy önmagában 99,99%-os letalitású kórokozó is nagyjából 800 ezer túlélőt hagyna, a kiegészítő kórokozók MI-támogatású tervezése és célzott terjesztése elvben a teljes kipusztulás közelébe vihetne — feltéve persze, hogy a legelszigeteltebb közösségek is elérhetők lennének.

A szén-dioxid által hajtott klímaváltozás önmagában szintén nem valószínű, hogy pontot tenne a Homo sapiens szomorú sztorijának végére, mert maradnának túlélési „rések”. Ha azonban az MI titokban több száz megatonnányi, erősebb és hosszú élettartamú üvegházhatású gázt tudna előállítani, ezek a rések bezárulhatnának.

A lényeg: „az MI általi kihalás egyik forgatókönyve sem történhetne meg véletlenül”.

Egy, a végzetünket valóban elhozó rendszernek négy apokaliptikus képességre volna szüksége: a kihalás célként való kitűzésére; a kulcsfontosságú fizikai rendszerek feletti irányításra; az emberek megtévesztésének vagy meggyőzésének képességére; valamint az emberi támogatástól való függetlenségre. A szerzők ezért nem az MI teljes leállítását szorgalmazzák, hanem az alapvető kockázatok csökkentését — kevesebb nukleáris fegyver, a nagy hatású üvegházhatású gázok szigorúbb kontrollja, erősebb világjárvány-felügyelet —, valamint az MI-biztonság következetes finanszírozását.

(Forrás: RAND, lép: Pixabay)