Új modellel tennék etikusabbá a mesterséges intelligencia döntéseit
2020 / 07 / 11 / Perei Dóra
Új modellel tennék etikusabbá a mesterséges intelligencia döntéseit
Nemzetközi matematikusok kifejlesztettek egy algoritmust, amely segíthet a cégeknek észrevenni, ha az MI etikátlan döntést hoz, ami ugyan profitszerzés szempontjából előnyös lenne, a fogyasztókéból azonban nem.

Ahogy a világ elképesztő tempóban halad egy olyan technológiai korszak felé, ahol a technológia már nem pusztán eszköz, hanem gondolkodó eszközzé válik (gondoljunk csak a mesterséges intelligenciával ellátott applikációkra), úgy terjed el az MI használata egyre inkább a kereskedelemben is. A mesterséges intelligencia felismeri az ügyfelek vágyait, és releváns javaslatokat nyújt cserébe. Elemzők szerint ezzel a képességével robbant be a köztudatba, azóta pedig már a logisztika és a kiberbiztonság területén is elterjedt, különösen az ügyfelek adatelemzéseinél, mely ösztönzi őket a szállítási várakozás minimalizálására automata nyomkövetők és robotok használatával.

Az előnyök mellett természetesen problémák is felbukkantak, például a gyógyszeripari ágazatban: a készítmények túlárazása a nagyobb haszon reményében egy járványidőszak esetén erkölcsileg megkérdőjelezhető, a mesterséges intelligencia azonban képtelen így mérlegelni, ezért az árazási stratégia megállapításakor kizárólag a profitot tartja szem előtt. Ezt a feltevést kutatók nemrégiben egy, a Royal Society Open szaklapban publikált tanulmányban kísérleti úton is bebizonyították: kiderült, hogy minden olyan

MI-alapú rendszer, melynek feladata a hozam maximalizálása, gyakrabban választ etikátlan kereskedelmi stratégiát.

A kutatók szerint a mesterséges intelligencia úgyszólván intuitívan cselekszik, valahányszor téves módszert választ, elvégre rengeteg olyan etikátlan üzleti gyakorlat van, amely hatalmas haszonnal járhat, nem utolsósorban azért, mert a versenytársak közül csak kevesen merik alkalmazni azokat. A kutatók szerint ezzel magyarázható, hogy a vállalatok (hírnevük kockáztatásának árán is) gyakran megszegik a kereskedelmi szabályokat. Noha az etikai alapelvek MI-be történő beépítésére irányuló erőfeszítések már folyamatban vannak, azok még meglehetősen kezdetlegesek, és számos helyzetben egyszerűen túl sok lehetséges választási alternatívát kínálnak.

Ezek a rendszerek ráadásul gyakran emberi beavatkozás nélkül döntenek, így még nehezebb megjósolni azokat a körülményeket, amelyek között valószínűleg nem morális megközelítést választanak.

Nem mellesleg a tanulmány szerzői matematikailag bebizonyították, hogy az a mesterséges intelligencia, amelynek célja a profit maximalizálása, kiugróan nagy valószínűséggel fog helytelen stratégiát választani, amit a kutatók „etikátlan optimalizálási elvnek" neveznek. Hozzátették: az elv vizsgálata szerencsére megoldható, így a kockázatkezelők a jövőben könnyebben felismerhetik ezeket. A szerzők úgy vélik, mindenekelőtt a legnagyobb hozammal kecsegtető stratégiákra kellene összpontosítani, mivel várhatóan ezekre épül majd az optimalizálási folyamat. Mindemellett rangsor felállítását javasolják a valós profitok alapján, majd a lista elején álló stratégiák manuális ellenőrzését annak megállapítására, etikusan döntött-e az algoritmus vagy sem.

Reményeik szerint mindez lehetővé tenné az MI újratervezését az ilyen stratégiák elkerülése érdekében. Jelen kutatásban a matematikusok azt találták, hogy ha az extrém nyereség valószínűsége minimális számú stratégia alkalmazása mellett is magas, akkor alkalmazhatók olyan statisztikai megoldások, amelyek segítenek megbecsülni annak az esélyét, hogy a mesterséges intelligencia etikátlan döntést hoz-e. Amennyiben pedig a profitszerzés valószínűsége egyenletesen oszlik meg, nagyon valószínű, hogy az optimális stratégia etikátlan lesz, így

a vállalatoknak nem kellene megengedni,hogy a rendszer emberi beavatkozás nélkül hozzon döntéseket.

A szakemberek végső soron úgy vélik, hogy még ha idővel sikerül is jobban kiszűrni az MI helytelen megoldásait, akkor is érdemes fenntartással kezelni a gépek mindenre kiterjedő alkalmazását, és nagyobbrészt inkább az emberi ítélőképességre bízni a dolgokat.

(Fotó: Pixabay)


Kövesd a Rakétát a Facebookon is!
Kövess, üzenj, kommentelj a Rakéta Facebook oldalán!
Ismerd meg a ROADSTER magazint!
AUTÓK - DESIGN - GASZTRO - KULT - UTAZÁS - TECH // Ha szereted a minőséget az életed minden területén, páratlan élmény lesz!
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!

Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.