Az Ars Technicán olvasható hír szerint a világhírű és példátlanul népszerű ChatGPT kistestvére, a szintén az OpenAI-nál készült text-davinci-003 minden további nélkül hajlandó olyan tartalmakat létrehozni, amelyek a ChatGPT szerint "törvénytelenek, etikátlanok vagy ártalmasak" lennének. Mindkét szoftver azonos alapokra épülő mesterséges intelligencia (MI), a legfontosabb különbség, hogy utóbbit arra hegyezték ki, hogy emberi nyelven válaszoljon a neki feltett kérdésekre. Egyetlen kérésért cserébe már össze is dob egy esszét József Attila szerelmi költészetéről, de akár egy programot is megír nekünk. A text-davinci-003-hoz ugyan nem tudunk közvetlenül kéréseket intézni, de más programok a megfelelő API-on (application programming interface, azaz alkalmazásprogramozási felület) keresztül igen.

Itt viszont kutatók szerint nincsenek olyan szigorú biztonsági szabályok, mint a weben keresztül működő ChatGPT-nél.

Például a Telegram nevű üzenetküldő szoftver is hozzáfér a text-davinci-003-hoz; egy hekker ennek segítségével teszi lehetővé eleinte ingyenesen, majd később némi pénzért cserébe, hogy aggályos dolgokat rendeljünk a szoftvertől. A Check Point kutatói a cikk szerint gond nélkül visszakaptak a rendszertől egy becsapós (phishing) emailt, valamint egy olyan miniprogramot, amely pdf dokumentumokat lop el egy megfertőzött számítógépről, majd feltölti azt a támadó gépére. Ráadásul a szakértők azt állítják, hogy minderre még a ChatGPT is hajlandó volt múlt év végén, illetve 2023 elején.

Vagyis miközben a Microsoft épp gőzerővel építi be a programot a termékeibe, például a böngészőjébe és a keresőjébe, a szerzői jogi aggályok és perek mellett egy újabb olyan terület körvonalazódik, amely sok fejfájást okozhat a mesterséges intelligenciák egyre gyorsuló fejlődésével és terjedésével.

(Borítókép: Nikolas Kokovlis/NurPhoto via Getty Images)

Rejtély, hogy miért lehet a ChatGPT-t megőrjíteni bizonyos Reddit-felhasználónevekkel Ha elmondjuk, hogy mi ezekben a nevekben a közös, attól az egész csak még furább lesz. Az biztos, hogy a nevekre a mesterséges intelligencia kitérő választ ad, bizarr humorral vagy sértésekkel reagál.