Mint azt mi is megírtuk, a Terminátor filmeket idézte, hogy egy drón rátámadt, “megölte” a kezelőjét az Amerikai Légierő egy szimulációja során. Röviden arról volt szó, hogy az MI-vel felszerelt drón pontokat kapott azért, ha megsemmisítette a légvédelmi állásokat (SAM) a szimuláció során. Azonban az USA jelenlegi elvének megfelelően az MI-t egy emberi operátor is kontrollálta, aki megadta a végső engedélyt a SAM kilövésére. Az operátor azonban ezt nem mindig engedélyezte – mivel pedig az MI úgy ítélte meg, hogy fontosabb a SAM kilövése (és a pontok szerzése), ezért megölte az operátort. Mikor pedig az MI pontlevonást kapott az operátor likvidálásáért, akkor az autonóm drón a rádiótornyot semmisítette meg, amelyen keresztül a parancsok érkeztek hozzá.

Mint a Terminátor: begőzölt az MI-vel felszerelt katonai drón, és saját kezelőjét ölte meg egy szimulációban Egy szimuláció során egy Valkyrie drónt szereltek fel mesterséges intelligenciával, miután pedig az immár autonóm eszköz úgy kalkulált, hogy operátorai csak akadályozzák a küldetését, ellenük fordult.

Mindez elég aggasztó, ha nem lenne egyébként is aggasztó a puszta tény, hogy aktívan kísérleteznek autonóm fegyverek létrehozásával. A szimuláció kapcsán egyébként több kérdés is felmerült: elsősorban az, hogy egyáltalán miféle szimulációról volt szó. Az esetről Tucker Hamilton ezredes beszélt a Royal Aerospace Society egyik rendezvényén. Hamilton a légierő ezredese, valamint a mesterséges intelligencia (MI) tesztelési és műveleti részlegének vezetője, valamint a floridai Eglin légitámaszpont 96. tesztszárnyán belüli 96. hadműveleti csoport vezetője is, amely a fejlett drónok és autonómiatesztek központja.

Ann Stefanek, a Pentagon légierő főhadiszállásának szóvivője, azonban tagadta, hogy ilyen teszt egyáltalán történt volna – mint nyilatkozott:

"A Légierő nem végzett ilyen mesterséges intelligencia-drón szimulációkat, és továbbra is elkötelezett a mesterséges intelligencia technológia etikus és felelősségteljes használata mellett. Úgy tűnik, az ezredes megjegyzéseit kiragadták a szövegkörnyezetből, amit csak anekdotának szánt."

Közben az említett Royal Aerospace Society úgy nyilatkozott, hogy Hamilton ezredes azóta felvette velük a kapcsolatot az ügy kapcsán – számol be róla a The War Zone.

Mint a lap írja, a Royal Aerospace Society állítása szerint Tucker Hamilton ezredes azóta közvetlenül megkereste őket ezzel kapcsolatban, és „bevallotta, hogy „tévesen beszélt” a Királyi Repülési Társaság FCAS csúcstalálkozóján tartott előadásában, és az „MI drónszimuláció” hipotetikus volt. Egy “gondolatkísérlet”, amely a hadseregen kívüli, de valós forgatókönyveken és valószínű kimeneteleken nyugodott, viszont nem az amerikai hadsereg egy tényleges szimulációján. Az eredeti jelentés frissítése hozzáteszi azt is, hogy Hamilton azt mondta nekik: "az amerikai hadsereg nem tesztelt semmilyen fegyveres mesterséges intelligenciát ilyen módon (legyen az valós vagy szimulált)”.

Hamilton szerint tényleges kísérletre egyébként sem lett volna szükség ahhoz, hogy rájöjjenek, ez lesz az eredmény. Hamilton szerint azonban annak ellenére, hogy ez egy hipotetikus példa, ez jól illusztrálja a mesterséges intelligencia általi nagyon is valós kihívásokat, és ezért is elkötelezett a légierő az MI etikus fejlesztése mellett.

Maga a fentebb említett Ann Stefanek, a légierő szóvivője is megerősítette ezt a WZ-nek, aki az esetet szintén hipotetikus gondolatkísérletként, és nem szimulációként jellemezte. A WZ azonban hozzáteszi, hogy további információkat keresnek ennek a “gondolatkísérletnek” a pontos kontextusáról.