Az MSN.com

A Microsoft által üzemeltetett oldal nem végez saját újságírói tevékenységet, ehelyett szerkesztőket alkalmaz, akik összeválogatják és újraírják a különböző híroldalakról összeszedett híreket. Ezek a cikkek aztán kikerülnek az MSN.com-ra, és a tech óriás a befolyó hirdetési pénzen osztozik a cikket publikáló oldallal.

Az előző hónapban, a járvány közepén a Microsoftnál úgy határoztak, hogy ideje megszabadulniuk több száz újságírójuktól, hogy a munkájukat mostantól egy MI vegye át.

A felcserélt énekesnő

A szoftver egy korai változata azonban elég nagyot hibázott, ráadásul tette ezt a lehető legrosszabbkor (nem mintha ilyesmire amúgy lenne megfelelő időpont). A történet lényege annyi, hogy a Little Mix zenekar egyik énekesnője, Jade Thirlwall egy interjúban fejtette ki az álláspontját a rasszizmusról. A cikket az MI viszont a zenekar egy másik tagjának a képével, a Thirlwallhoz hasonlóan kevert származású Leigh-Anne Pinnockról készült fotóval illusztrálta.

Ősi rasszista elgondolás, hogy bizonyos származású, tőlünk eltérő emberek egyformán néznek ki, és ezért megkülönböztetni sem lehet őket – a szoftver pedig most épp ilyen hozzáállásról tett tanúbizonyságot.

Thirlwall mindezen érthető mód ki is akadt a Twitteren (miközben amúgy épp egy Black Lives Matter tüntetésen vett részt), és jól lehordta az MSN munkatársait. Igaz, azt valószínűleg nem tudta, hogy a képet tehát már ez a szoftver választotta ki, amely egy ideje önjáróan végzi a híroldal szerkesztését.

Saját maga számára sem kínos

Sőt, a szoftver kicsit önjáróbb is a kelleténél. A Guardian értesülése szerint amikor már nyilvánvaló volt a baj, az MSN-nél ideje korán felhívták a stáb figyelmét, hogy az ügyben negatív cikkek várhatóak. Mivel pedig a szerkesztést és a válogatást a mesterséges intelligencia végzi, ebbe az emberek nem tudnak beleszólni. Más megoldás tehát nem maradt: ha a robot beválogatja az MSN számára kínos cikket, és publikálja, az emberi újságíróknak kell azt kitörölniük.

A feladat azonban nem ért véget ennyivel, mivel könnyen előfordulhat, hogy az MI felülbírálja az emberek döntését, és újra kirakja az MSN számára kínos cikket az MSN.com-ra. Elképzelhető tehát, hogy Kurt Vonnegut abszurd prózájára jellemző csavarral az emberi újságírók feladata innentől az lesz, hogy leszedjék a mesterséges intelligencia hibázásairól szóló cikkeket, amit maga a mesterséges intelligencia közöl újra és újra gyermeki örömmel.

A Microsoft szűkszavú

Az eset kapcsán több kérdés is felmerült. Például, hogy miért rasszista a mesterséges intelligencia, és biztos jó ötlet volt-e lecserélni az emberi újságírókat mesterségesre? Minderre a vállalat szóvivője kurta választ adott: „Amint az eset a tudomásunkra jutott, azonnal cselekdtünk, és lecseréltük a képet a megfelelőre.”

Az alkalmazottak szerint a Microsoft valójában nem ilyen nyugodt, sőt elég nagy az ijedelem, hogy a Black Lives Matter tüntetések idején szegény mesterséges intelligenciára rossz fény vetül majd.

(Kép: Flickr/Katharine/Nadine)