A Center for AI Safety nevű, magánforrásokból finanszírozott civil szervezet weboldalán olvasható "Állásfoglalás a mesterséges intelligencia biztonságáról" összesen egyetlen mondatból áll: "A mesterséges intelligencia okozta kipusztulás veszélyének enyhítése globális prioritás kell, hogy legyen, olyan társadalmi méretű kockázatok mellett, mint a világjárványok és az atomháború". Az aláírók között megtaláljuk Geoffrey Hintont, aki a modern MI-k keresztapja, és nemrég azért hagyta ott az állását a Google-nél, hogy nyíltan beszélhessen a terület veszélyeiről. Rajta kívül a tajvani digitális miniszter, a volt észt elnök, illetve egyetemi tanárok hosszú sora is ott van a listában, de ami még különösebb: a Microsoft technológia vezetője, a Google felelős MI-ért dolgozó igazgatója, a DeepMind operatív vezetője, sőt, a ChatGPT-t kifejlesztő OpenAI vezérigazgatója, Sam Altman is.

De miért jó az iparág prominens alakjainak, ha az emberiség pusztulásával riogatnak?

A TechCrunch-on olvasható hír hosszasan sorolja, hogy hány nyílt levél és nyilatkozat született az MI-ről az elmúlt fél évben, hol fejlesztési moratóriumot, hol nagyobb törvényhozói szigort kérve, követelve. És ahogyan felmerült, hogy Elon Musk azért szeretné, hogy lassabban történjenek a szektorban a dolgok, hogy ő maga is meghatározó szereplő lehessen abban - hiszen ott volt az OpenAI alapítói közt, sőt, állítólag a vezetői posztot is meg akarta szerezni -, a lap szerint a mostani üzenet esetében is felvethető, hogy hasznot húznak belőle az aláírók képviselte vállalatok.

Egyrészt minél távolabbi kockázatokról zajlik a társadalmi párbeszéd, annál kevésbé marad hely, idő, figyelem a közvetlen problémákra. Például arra, hogy a generatív rendszerek nehezen megjósolható módon hallucinálnak, azaz "kitalálnak" olyan dolgokat, amelyek nem történtek meg - akár egy ügyvédnek jogi eseteket. Vagy hogy a képeket alkotó szoftverek helyenként egy az egyben lemásolnak meglévő anyagokat, arról nem is beszélve, hogy perek zajlanak arról, hogy jogszerűen trenírozták-e azokat alkotók, képügynökségek szellemi termékein.

Emellett nem csak a híreket, a törvényeket is meghatározhatja egy ilyen apokaliptikus állítás. Sam Altman OpenAI vezérigazgató korábban ugyan jelezte, hogy örülne, ha megszületnének az iparágat irányító jogszabályok, amit Amerikában nagy örömmel fogadtak a politikusok - ám a tengeren innen az üzletember már azzal fenyegetőzött, hogy kivonulnak Európából, ha az itteni szabályokat túl nehéz lenne betartani. Tim Wu technológia-kutató, Biden elnök korábbi tanácsadója a The Washington Postnak nyilatkozva felsorolta, hogy szerinte valójában mire kéne figyelnie a törvényhozóknak. Wu szerint azért veti fel a Microsoft vagy az OpenAI, hogy licenszhez kössék az MI-rendszerek üzemeltetését, hogy kevesebb konkurensük legyen, így ennek a kérésnek nem tenne eleget. Külön hatóság létrehozása helyett a meglévő törvényeket alkalmazná, illetve robotokra írt jogszabályokat alkotna. Nem elégedne meg pusztán az MI-k átláthatóságával, nem támogatná az óriásvállalatok MI-fókuszú kutatási projektjeit, viszont gondoskodna arról, hogy az érintett alkotók, akiknek a műveit felhasználják a szoftverek, megkapják a jussukat. Ám amikor a végítélet napjáról zajlik épp a beszélgetés, nehéz ilyen árnyaltan gondolkodni egy témáról.

(Borítókép: Win McNamee/Getty Images)