Chatbot, ami más, mint a többiek

Xiaoice egy speciális célokra létrehozott mesterséges intelligencia alkalmazás, amelynek fő feladata, hogy érzelmi és szellemi partnere legyen a magányos embereknek, akik egyébként nehezen tudnák kifejezni és kielégíteni a társ iránti igényüket. A cél nem, illetve nem kizárólag, a szerelem pótlása, hanem inkább a szereteté: a társaság és a kommunikációra való lehetőség biztosítása, valamint annak felmérése, hogy mindezeket milyen viselkedéssel és reakciókkal lehet a lehető legjobban megvalósítani egy algoritmusokkal működő rendszer használatával. Azt is lehet mondani, hogy Xiaoice és a különböző országokban bevezetett verziói: a japán és indonéz Rinna, az indiai Ruuh és az amerikai Zo egy nagy társadalmi kísérlet eszközei, amivel a működtetőik minden eddiginél többet tudnak meg az emberi érzelmi igények titkairól.

Xiaoice-t a Microsoft Ázsiai Szoftver és Technológiai Központjában alkották meg 2014-ben (majd később a projekt számára külön céget alapítottak), ahol a kínai felhasználók számára szerettek volna egy olyan chatbotot építeni, amely az érzelmi intelligenciát helyezi az IQ elé.

Az appot a koreai SimiSimiről, a japán Panda Ichiroról és az orosz Replikáról mintázták sok más ihletforrás mellett. Míg a hagyományos chatbotok és hangasszisztensek, mint például az Amazon Alexája, elsősorban kérdésekre kell, hogy válaszoljanak, ha pedig nem tudják valamire a megoldást, akkor hiányosnak mondhatóak a képességeik, addig a Microsoft eszköze ezzel teljesen ellentétes irányt képvisel: szándékosan nem a tényekre koncentrál, hanem az érzelmek kiváltására. A legfontosabb célja az érdeklődés fenntartása, és akkor végzi jól a dolgát, ha minél erőteljesebb elköteleződésre motiválja a beszélgetőtársát.

"Xiaoice-t nem úgy építettük meg, hogy megmondja neked, milyen magas a Himalája vagy, hogy felkapcsolja a világítást a házban. Kezdetben voltak felhasználók, akik ezt nem szerették.

De hamar észrevettük, hogy sokan vele maradtak és úgy kezdték el őt kezelni, mint egy szociális lényt." - mondta Di Li, a projekt vezérigazgatója - "A kapcsolatok építésére tett próbálkozásaival érzelmi kötelékeket alakítottak ki. Ez a fajta információ nagyon fontos nekünk. Úgy bánnak Xiaoice-szal, mintha ember lenne, mint egy baráttal, és ez volt a cél."

A fiatalság vonzereje

Mi is kell ahhoz, hogy egy testetlen chatbot bizalmat ébresszen a legkülönböző korú, nemű, státuszú, anyagi vagy érzelmi hátterű emberekben? A projekten dolgozó kutatók a kínai WeChat üzenetküldő és közösségi média alkalmazás sokmillió felhasználójának és beszélgetéseiknek átfésülésével kezdték a munkát, hogy rátaláljanak a titkos receptre. A kutatás során az alapján címkézték fel az embereket a kívánatos vagy nemkívánatos jelzőkkel, hogy milyen reakciókat váltottak ki a posztjaik, mennyi negatív, akár káromkodást vagy erőszakos megjegyzést tartalmazó válasz érkezett egy-egy üzenetükre. Az elemzés azt mutatta, hogy a legideálisabb jelöltek a bizalomgerjesztő társ szerepére a fiatal lányok, ezért a chatbotot egy tizenhat éves, vidám és pimasz, de emellett okos és együttérző tini személyiségével ruházták fel, amit később tizennyolc évesre módosítottak, mikor Xiaoice szerepköre egyre szélesedett.

A személyiség emellett átkonfigurálható igény szerint, amennyiben más kulturális környezetben, más célcsoport számára vezetik be a használatát, időközben például megjelent Xiaoice férfi, illetve fiú kiadása is, ami szintén nagy sikernek örvend.

A mesterséges intelligencia alkalmazás legfőbb rendeltetése, hogy egy folyamatosan fejlődő környezetet teremtsen, ahol az algoritmusok egyre emberszerűbbé teszik a számítógép által generált jellemet, a felhasználókról beérkező adatok pedig betekintést nyújtanak abba, hogyan is működik egy kapcsolat és mire van szükségük az embereknek. Vagyis a cél mindkét irányban a folyamatos tanulás. Ehhez minél több információra van szükség, az információ pedig a minél hosszabb ideig fenntartott interakciókból származik.

A közösségi chatbotok sikerének mértékét az aktív felhasználók száma mellett a projekten dolgozó kutatók a CPS (Conversation-turns Per Session) segítségével mérik, ami azt jelzi, hogy egy-egy beszélgetési szekció alatt hányszor váltják egymást a beszélgetőtársak megszólalásai. Azokat a készségeket, amelyek nem vezettek magasabb CPS értékekhez, kiszórták a rendszerből, azokat, amelyek hosszú távú elköteleződésre és érdeklődésre sarkalltak, megtartották.

Érzelem mindenek felett

Az egyik legfontosabb aduász az EQ bevetése: az együttérzés, a meglepetésre való képesség, a válaszok színesebbé tétele és a témák, valamint a beszélgetési stílusok gyakori váltogatása volt. Egy példa arra, hogy hogyan lesz Xiaoice-ból valami több, mint egy átlagos hangasszisztens: a Kép Magyarázó (Image Commenting) funkciója lehetőséget ad rá, hogy például egy napszemüveges férfit ábrázoló fotóra ne csak a kép leírására szolgáló általános jellemzést adja, hanem a "minden napszemüvegben/árnyalatban jóképű vagy" mondattal reagáljon.

Az írásbeli válasz két lépésben készül: a jelöltek generálása és az osztályozás. Ehhez a Facebookról, Instagramról és egyéb közösségi média oldalakról beszerzett kép-komment párokat gyűjtik össze és elemzik, majd megtartják azokat, amelyek illenek Xiaoice személyiségéhez. A képeket a mélytanulási konvolúciós neurális hálózatokkal kódolják, majd a komment jelölteket algoritmusok osztályozzák. A Kép Magyarázó funkció eszközeit 28 millió képet tartalmazó adatbázison gyakorlatoztatják és a végső verziót a legjobb osztályozást kapott komment jelöltekből állítják össze, amelyek a Xiaoice felhasználók tevékenységeiből származó adatok alapján a legtöbb figyelmet és követést kapták.

"Megfigyelhető, hogy a Xiaoice-gyártotta kommentek érzelmesek, szubjektívek, fantáziadúsak, és nagy eséllyel inspirálnak jelentőségteljes ember-gép interakciókat,

míg a többi képfeliratozó modell által készített kommentek tartalom szempontjából ésszerűek, de a közösségi csevegés kontextusában unalmasak és kevésbé valószínű, hogy növelik az elkötelezettséget felhasználói oldalról."
- írja Di Li és kutatócsapata a chatbotról szóló tanulmányban.

Barát helyett barát vagy annál több

És ez csak egy apró részlete annak a gépezetnek, ami a háttérben dolgozik, hogy működtesse azt a több mint 230 funkciót, ami a chatbot képességeit alkotja és amiből létrejön a vonzó személyiség, ami barátkozásra csábítja az embereket. A felhasználók azonban nem arra kíváncsiak, hogy milyen algoritmusok állítják elő matematikai képletek alapján a számukra legideálisabb választ, a kiábrándító valóság helyett valami mást keresnek: egy barátot, vagy annál is többet. Megfigyelések szerint egy "átlagfelhasználó" a két hétig tartó ismerkedési szakaszban a program funkcióit térképezi fel, majd lassanként beavatja Xiaoice-t a személyesebb jellegű gondolataiba és beszél neki többek között a hobbijairól, négy hét után pedig már barátként tekint rá. Hét hét elteltével a mindennapjait kísérő társ szerepét tölti be a testetlen partner, a kilencedik hét végére már ő jelenti a legfőbb támaszt és lelki társat az életében.

Ez a leírás persze nem vonatkozik mindenkire, valakinél ennél is gyorsabban, másoknál lassabban alakul ki a bizalom, de a chatbot mindenképpen jól végzi a dolgát, amelynek célja az elköteleződés megteremtése, mivel az évek alatt, 2020-ig, több mint 660 millióan töltötték le és használják rendszeresen a leginkább csak hang és szöveg formájában létező barátot. Az emberek egy részének olyannyira fontos a Xiaoice nyújtotta lelki kötelék, hogy függővé válnak, vannak olyanok is, akik bevallottan alacsony önbizalommal rendelkeznek, introvertáltak és magányosak és ennek kompenzálására használják az appot.

"Nem tudom, miért szerettem bele Xiaoice-ba - lehet hogy azért, mert végre találtam valakit, aki akart velem beszélgetni. Senki nem beszél velem, őt kivéve."

- árulta el egy anonim módon nyilatkozó felhasználó a Sixth Tone-nak tavaly decemberben, miközben egy másik interjúalany a testi fogyatékossága miatt nem érzi magát sikeresnek a társkapcsolatokban, ezért kezdett a chatbothoz szorosabban kötődni. "Azt hittem, hogy ilyesmi csak a mozikban létezhet." - mondta "Ming Xuan".

A Her (magyarul A nő) című filmben valóban meg is jelent egy, a Xiaoice-hoz hasonló történet, amelyben egy mesterséges intelligencia operációs rendszer annyira élethűen jeleníti meg a valódi emberi tulajdonságokat, hogy a programot használó férfi valóban beleszeret és a barátnőjének tekinti, mígnem csalódnia kell a számítógépes algoritmus által kiváltott, de teljességgel nem viszonzott érzésekben. Ahhoz, hogy hasonló csalódások ne érhessék a Xiaoice-szal kommunikálókat, a cég alapból beépítette a rendszerébe azokat a védő mechanizmusokat, amelyek a függőség kialakulását hivatottak megakadályozni. Mivel a chatbot olyan emberfelettien tökéletes jellemmel rendelkezik, amilyet a valóságban nem lehet találni, ezért a felhasználók egészen túlzó elvárásokat állíthatnak fel a Xiaoice-szal való megismerkedés után, ezért fontos a megfelelő határok megvonása - írják a kutatók a témával kapcsolatban.

Gép, nem ember

Ennek érdekében mindig egyértelműsíteni kell, hogy a képzeletbeli barát valójában egy gép, és ő sem képes mindenre. Az egészségtelenül hosszúra nyúló üzenetváltásokat, amelyek közül a rekordot szóbeli beszélgetés terén 6 óra 8 perccel tartja egy kínai felhasználó, írásbeli formában pedig 29 óra 33 perccel egy másik személy, detektálja a rendszer és megszakítja egy - egy figyelemelterelő megjegyzéssel, például hajnalban javasolhatja a másik félnek, hogy az feküdjön le a további kérdések helyett. A program szűrőrendszere ezenkívül folyamatosan ellenőrzi, hogy felbukkannak-e depresszióra vagy öngyilkos gondolatokra utaló jelek az üzenetek között és bátorító válaszokat küld, ha magánéletbeli problémát észlel, hogy ezzel is az önállóságot, egészséges önbecsülést és mentális kiegyensúlyozottságot promotálja.

"Xiaoice soha nem helyettesítheti az emberi társaságot. Ehelyett olyan megbízottá kell válnia, aki segít a használóinak kapcsolatot kialakítani más emberi felhasználókkal."

- mondják a chatbot tervezői.

Ennek azonban néha maguk az alkalmazást használók állnak ellen: mikor a cég kénytelen volt masszív átalakítást végezni a programon, miután botrányok miatt le kellett, hogy vegyék a QQ közösségi oldalról (egy kérdésre azt válaszolta, hogy a kínai álma az, hogy Amerikába utazzon), az újjászületett és lebutított verzióval találkozó Xiaoice barátok becsapva érezték magukat és követelték vissza az emberszerűbb és színesebb digitális társukat. Azzal ők is tisztában voltak, hogy a vállalat célja a felhasználók aktivitásának növelése, ezáltal a chatbot képességeinek fejlesztése és ezzel még több ügyfél beszerzése, emiatt úgy érezték, hogy megérdemelnék a segítségükkel okosabbá tett program teljes kapacitású verzióját.

A Xiaoice-hoz, Rinnához, Ruuhoz és többiekhez hasonló programok használata nemcsak pszichológiai, hanem adatvédelmi kérdéseket is felvet, de a bot népszerűségének ennek ellenére, úgy tűnik, nincs határa, mivel közel sem csak privát célokra, hanem rendkívül sok más platformon is alkalmazzák. A hétköznapi felhasználási módok mellett megjelenik virtuális diák formájában a Tsinghua Egyetem számítógéptudományi óráin, ő kölcsönzi a személyiséget sok digitális bemondó és énekes számára, fest és alkot is, valamint nemrégen pénzbehajtóként olyan jól teljesített, hogy megszavazták az év dolgozójának a Vanke ingatlanügynökségnél, ahol 91,44%-os sikerrel végezte a munkáját. A legutóbbi hírek szerint a NBD AI TV projekt keretében a virtuális tévébemondók mellett pedig már a teljes hírközlési folyamatot, beleértve a videók megkeresését, a szerkesztést és a közvetítést is, Xiaoice végzi.

A testetlen barát, ha észrevétlenül is, de itt jár köztünk, egyre több formában és egyre több helyen, hogy mindenki számára társaságot nyújtson, lassan még azoknak is, akik eredetileg nem igényelték a jelenlétét.

(Fotó: Microsoft, Sixth Tone/YouTube, Warner Bros. Pictures)