Miles Brundage, az OpenAI AGI készenlétért felelős vezetője lemondott, és szerinte sem a vállalat, sem a társadalom nem áll készen a mesterséges általános intelligencia (AGI) megjelenésére – írja a Futurism. Brundage egy Substack-bejegyzésben jelentette be távozását, és ebben kitért arra is, hogy a döntés nehéz volt, mivel “álmai állásáról” van szó, de ettől független szükséges volt ezt meghoznia. Brundage azonban továbbra is szeretné befolyásolni az AI jövőjét, de már az iparágon kívülről.

Posztjában egész pontosan úgy ír a kérdés kapcsán, hogy sem az OpenAI, sem a világ nincs felkészülve erre a technológiára. Az egyértelműség kedvéért hozzáteszi azt is, hogy nem csak az OpenAI, egyetlen más intézet vagy cég sem készült fel erre. Brundage hozzáteszi, hogy megállapítása a vállalaton belül sem számít vitatottnak, azonban a nagy kérdés az, hogy ez a felkészültség elérhető-e addig, amíg a technológia ténylegesen megjelenik.

Mégis mit értünk azonban felkészültségen? Brundage szerint az AGI-ra felékszüléshez összetett út vezet, és a siker számos tényezőtől függ. Fontos szerepet játszik a biztonsági és védelmi kultúra fejlődése, amelyben az OpenAI igazgatótanácsának a legutóbbi bővítése egyébként a meglátása szerint például előrelépést hozott. Emellett a szabályozás hatása a szervezeti ösztönzőkre is fontos.

Brundage ugyanakkor már azt is problémának látja, hogy szerinte maga a “mesterséges általános intelligencia” (AGI) kifejezés is gyakran túlságosan leegyszerűsítő módon inkább egy bináris váltásra utal, nem pedig egy folyamatra – tehát hogy egyszerre csak előpattan az AGI, mintegy a semmiből, holott ezen technológia fejlődésének több szintje van. Brundage és a csapata épp ezért nemrégiben ki is dolgozott egy “AI szintek” keretrendszert, amelyet hamarosan tanulmány formájában is szeretnének közzétenni. Végül hozzáteszi, hogy felkészültség alatt végső soron azt érti, hogy kialakuljon az a képességünk, hogy egyre fejlettebb AI rendszereket biztonságosan, megbízhatóan és a közösség számára hasznosan fejlesszünk, alkalmazzunk és irányítsunk.

Mivel szerinte azonban az AGI-hoz vezető úton még számos hiányosság van, így valószínű, hogy karrierjének hátralévő részét az AI-val kapcsolatos politikai munkának szenteli majd.

Brundage összességében tehát reméli, hogy az AGI hasznos lehet az emberiség számára, de figyelmeztetett, hogy a felelősségteljes fejlődés elengedhetetlen. Szerinte az AGI szándékos és etikus irányításának felelőssége azokra hárul, akik fejlesztik és szabályozzák azt, és némileg arra is utal, hogy úgy érzi, az OpenAI nem tesz meg mindent ezen felelősség teljesítéséért.

Brundage távozásával egyébként az OpenAI az AGI készenléti csoport tagjait más csoportokhoz irányította át. Ez a szervezeti átalakítás követi a vállalat mesterséges intelligencia-biztonsági csapatának közelmúltbeli feloszlatását, ami a Futurism cikke szerint a cégen belül a “megváltozott prioritások” eredménye lehet.