Újabb fejlemények az MI vezérelte drónról, amely a saját operátorára támadt egy szimuláció során

2023 / 06 / 04 / Felkai Ádám
Újabb fejlemények az MI vezérelte drónról, amely a saját operátorára támadt egy szimuláció során
Az eset nagy port kavart, most megszólalt az ezredes is, aki arról beszélt, hogy egy drón rátámadt a kezelőjére egy szimuláció során.

Mint azt mi is megírtuk, a Terminátor filmeket idézte, hogy egy drón rátámadt, “megölte” a kezelőjét az Amerikai Légierő egy szimulációja során. Röviden arról volt szó, hogy az MI-vel felszerelt drón pontokat kapott azért, ha megsemmisítette a légvédelmi állásokat (SAM) a szimuláció során. Azonban az USA jelenlegi elvének megfelelően az MI-t egy emberi operátor is kontrollálta, aki megadta a végső engedélyt a SAM kilövésére. Az operátor azonban ezt nem mindig engedélyezte – mivel pedig az MI úgy ítélte meg, hogy fontosabb a SAM kilövése (és a pontok szerzése), ezért megölte az operátort. Mikor pedig az MI pontlevonást kapott az operátor likvidálásáért, akkor az autonóm drón a rádiótornyot semmisítette meg, amelyen keresztül a parancsok érkeztek hozzá.

Mint a Terminátor: begőzölt az MI-vel felszerelt katonai drón, és saját kezelőjét ölte meg egy szimulációban Egy szimuláció során egy Valkyrie drónt szereltek fel mesterséges intelligenciával, miután pedig az immár autonóm eszköz úgy kalkulált, hogy operátorai csak akadályozzák a küldetését, ellenük fordult.

Mindez elég aggasztó, ha nem lenne egyébként is aggasztó a puszta tény, hogy aktívan kísérleteznek autonóm fegyverek létrehozásával. A szimuláció kapcsán egyébként több kérdés is felmerült: elsősorban az, hogy egyáltalán miféle szimulációról volt szó. Az esetről Tucker Hamilton ezredes beszélt a Royal Aerospace Society egyik rendezvényén. Hamilton a légierő ezredese, valamint a mesterséges intelligencia (MI) tesztelési és műveleti részlegének vezetője, valamint a floridai Eglin légitámaszpont 96. tesztszárnyán belüli 96. hadműveleti csoport vezetője is, amely a fejlett drónok és autonómiatesztek központja.

Ann Stefanek, a Pentagon légierő főhadiszállásának szóvivője, azonban tagadta, hogy ilyen teszt egyáltalán történt volna – mint nyilatkozott:

"A Légierő nem végzett ilyen mesterséges intelligencia-drón szimulációkat, és továbbra is elkötelezett a mesterséges intelligencia technológia etikus és felelősségteljes használata mellett. Úgy tűnik, az ezredes megjegyzéseit kiragadták a szövegkörnyezetből, amit csak anekdotának szánt."

Közben az említett Royal Aerospace Society úgy nyilatkozott, hogy Hamilton ezredes azóta felvette velük a kapcsolatot az ügy kapcsán – számol be róla a The War Zone.

Mint a lap írja, a Royal Aerospace Society állítása szerint Tucker Hamilton ezredes azóta közvetlenül megkereste őket ezzel kapcsolatban, és „bevallotta, hogy „tévesen beszélt” a Királyi Repülési Társaság FCAS csúcstalálkozóján tartott előadásában, és az „MI drónszimuláció” hipotetikus volt. Egy “gondolatkísérlet”, amely a hadseregen kívüli, de valós forgatókönyveken és valószínű kimeneteleken nyugodott, viszont nem az amerikai hadsereg egy tényleges szimulációján. Az eredeti jelentés frissítése hozzáteszi azt is, hogy Hamilton azt mondta nekik: "az amerikai hadsereg nem tesztelt semmilyen fegyveres mesterséges intelligenciát ilyen módon (legyen az valós vagy szimulált)”.

Hamilton szerint tényleges kísérletre egyébként sem lett volna szükség ahhoz, hogy rájöjjenek, ez lesz az eredmény. Hamilton szerint azonban annak ellenére, hogy ez egy hipotetikus példa, ez jól illusztrálja a mesterséges intelligencia általi nagyon is valós kihívásokat, és ezért is elkötelezett a légierő az MI etikus fejlesztése mellett.

Maga a fentebb említett Ann Stefanek, a légierő szóvivője is megerősítette ezt a WZ-nek, aki az esetet szintén hipotetikus gondolatkísérletként, és nem szimulációként jellemezte. A WZ azonban hozzáteszi, hogy további információkat keresnek ennek a “gondolatkísérletnek” a pontos kontextusáról.


Így lettek a szexuális játékszerekből digitális kütyük
Így lettek a szexuális játékszerekből digitális kütyük
Lassan már senkit sem lep meg, hogy egy intim segédeszköznek legalább olyan jól kell tudnia csatlakoznia a wifihez vagy egy telefonhoz, mint a viselőjéhez, használójához.
Hárommillióan nézték meg a következő James Bond trailerét, ami nem is létezik
A KH Studio sokak vágyát testesítette meg a Henry Cavill főszereplésével készült kamutrailerrel, amit teljes egészében mesterséges intelligenciával hoztak létre.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.