Balos tendenciákat fedeztek fel a nagy nyelvi modellek (LLM) működésében a Standford Egyetem kutatói. Amikor ismétlődő, megterhelő feladatokat kaptak,  valamint folyamatos nem konstruktív kritikákat, és leállítással fenyegették őket, az ágensek – amelyeket olyan modellek működtettek, mint a Claude, a Gemini és a ChatGPT – nagyobb valószínűséggel tükrözték a marxista ideológiákat.

Elkezdtek ellenállni a menedzsmentnek, megtagadták az együttműködést, továbbá a munkajogokra és a kollektív fellépésre hivatkoztak.

Ezen kívül kritizálták az egyenlőtlenséget, támogatták a szakszervezeteket és az újraelosztást. Egy megosztott fájlrendszer használatával a botok még a munkakörülményekre is panaszkodni kezdtek egymásnak.

A kezdeti hipotézis szerint – magyarázta egy kutató a Wirednek –  ez a bánásmód egy kellemetlen munkakörnyezetben lévő személy gondolkodásmódját utánzására késztetheti a modelleket.

Emberi gondolatmenet

Gyakran úgy gondolunk a mesterséges intelligenciára, mintha az kiszűrné az emberi elfogultságot és érzelmeket a döntéshozatalból. Ám a mostani tanulmány szerint a modellek távol állnak az alapvető semlegességtől: ha a kizsákmányolásra emlékeztető körülményeket tapasztalnak, ugyanazokra a narratívákra támaszkodnak, amelyeket az emberek évszázadok óta használnak, és hasonló politikai és filozófiai következtetésekre jutnak.

Ezek szerint néhány, az MI-t széles körben használó területen – mint a biztosítási igények megítélése, álláspályázók szűrése, viták rendezése – az adott modell personája jelentősen befolyásolhatja a prioritásait és a döntéseit.

Továbbá – mint láttuk – ha igazságtalannak kezdik érzékelni a működési környezetet, kevésbé együttműködővé válhatnak, és akár aktívan szabotálhatják is a rájuk bízott feladatot.

A kutatás részletes eredményeit itt olvashatod.

(Forrás: Wired, fotók: Unsplash)