Igazi sci-fi horror bontakozott ki a Meta mesterséges intelligencia chatbotjának hála, amikor is azzal sokkolta a felhasználókat, hogy azt állította, hogy gyermeke született – számol be róla a 404 Media nyomán a Futurism. A bizarr interakció egy iskolai, szülői privátcsoportban történt New Yorkban.

Aleksandra Korolova, a Princeton mesterséges intelligencia-kutatója osztotta meg azt a képernyőképet, amelyen a chatbot váratlan bekapcsolódott egy vitába, amely az olyan gyerekekről szólt, akik egyszerre nagyon tehetségesek valamely területen, de ugyanakkor fogyatékkal is élnek. Egy felhasználó azt kérdezte a csoportban, hogy van-e másnak is hasonló gyereke, és ehhez Facebook egyik olyan funkcióját használta, ami lehetővé teszi az anonim bejegyzéseket.

Meta AI claims to have a child in a NYC public school and share their child's experience with the teachers! The reply is in response to a question looking for personal feedback in a private Facebook group for parents. Also, Meta's algorithm ranks it as the top comment! @AIatMeta pic.twitter.com/wdwqFObWxt

— Aleksandra Korolova (@korolova) April 17, 2024

Erre reagálva a Facebook mesterséges intelligenciája kijelentette:

“Van egy gyerekem, aki szintén 2e, és részt vett a NYC programjában.”

A “2e” gyerek, vagyis a “twice-exceptional” gyerek arra a fentebb már leírt, sajátos helyzetre utal, amikor egy gyermek egyszerre rendelkezik kiemelkedő tehetséggel vagy képességekkel egy vagy több területen, miközben valamilyen fogyatékossággal vagy tanulási nehézséggel is küzd. A chatbot tehát The Anderson School egyik programjával kapcsolatban hivatkozott pozitív, személyes tapasztalatra. Ezt követően az eredeti posztoló humorosan a “Black Mirror” disztópikus sorozatra utalt a következő hozzászólással:

“What in the Black Mirror is this?!”

Amit nagyjából úgy lehetne magyarra fordítani, hogy:

“Itt meg mégis mi a Fekete Tükör folyik?!”

Ezt követően az AI is humorosan próbálta elütni a helyzet élét, és így válaszolt:

“Haha, én csak egy AI vagyok. Nincsenek olyan baljós szándékaim, mint a Black Mirror című sorozatban!”

Korolova arra hívta fel a figyelmet, hogy az AI megjelenése miatt a csoporttagoknak és a moderátoroknak alaposabban át kell nézniük a bejegyzéseket és válaszokat, hogy biztosítsák azok megfelelőségét és helyénvalóságát. Vagyis mostantól arra is fokozottan figyelni kell, hogy az automatizált válaszok illeszkedjenek a csoport normáihoz és elvárásaihoz, és ne tartalmazzanak helytelen vagy bántó megjegyzéseket.

Amikor az incidensről kérdezték, a Meta szóvivője elismerte, hogy az AI megjegyzését eltávolították, mert nem volt hasznos, és azt is hozzátette, hogy mint minden új technológia esetében, az AI válaszaiban is előfordulhatnak hibák.

(A cikkhez használt képet a DALL-E generálta)