Vírust is ír nekünk a mesterséges intelligencia, csak trükkösen kell megkérni rá

2023 / 02 / 11 / Pőcze Balázs
Vírust is ír nekünk a mesterséges intelligencia, csak trükkösen kell megkérni rá
Hiába építettek a ChatGPT-be olyan szabályokat, amelyek az illegális vagy nem etikus használatot hivatottak megnehezíteni, hekkerek mégis megoldották, hogy vírust és becsapós emaileket készítsen egy mesterséges intelligencia.

Az Ars Technicán olvasható hír szerint a világhírű és példátlanul népszerű ChatGPT kistestvére, a szintén az OpenAI-nál készült text-davinci-003 minden további nélkül hajlandó olyan tartalmakat létrehozni, amelyek a ChatGPT szerint "törvénytelenek, etikátlanok vagy ártalmasak" lennének. Mindkét szoftver azonos alapokra épülő mesterséges intelligencia (MI), a legfontosabb különbség, hogy utóbbit arra hegyezték ki, hogy emberi nyelven válaszoljon a neki feltett kérdésekre. Egyetlen kérésért cserébe már össze is dob egy esszét József Attila szerelmi költészetéről, de akár egy programot is megír nekünk. A text-davinci-003-hoz ugyan nem tudunk közvetlenül kéréseket intézni, de más programok a megfelelő API-on (application programming interface, azaz alkalmazásprogramozási felület) keresztül igen.

Itt viszont kutatók szerint nincsenek olyan szigorú biztonsági szabályok, mint a weben keresztül működő ChatGPT-nél.

Például a Telegram nevű üzenetküldő szoftver is hozzáfér a text-davinci-003-hoz; egy hekker ennek segítségével teszi lehetővé eleinte ingyenesen, majd később némi pénzért cserébe, hogy aggályos dolgokat rendeljünk a szoftvertől. A Check Point kutatói a cikk szerint gond nélkül visszakaptak a rendszertől egy becsapós (phishing) emailt, valamint egy olyan miniprogramot, amely pdf dokumentumokat lop el egy megfertőzött számítógépről, majd feltölti azt a támadó gépére. Ráadásul a szakértők azt állítják, hogy minderre még a ChatGPT is hajlandó volt múlt év végén, illetve 2023 elején.

Vagyis miközben a Microsoft épp gőzerővel építi be a programot a termékeibe, például a böngészőjébe és a keresőjébe, a szerzői jogi aggályok és perek mellett egy újabb olyan terület körvonalazódik, amely sok fejfájást okozhat a mesterséges intelligenciák egyre gyorsuló fejlődésével és terjedésével.

(Borítókép: Nikolas Kokovlis/NurPhoto via Getty Images)

Rejtély, hogy miért lehet a ChatGPT-t megőrjíteni bizonyos Reddit-felhasználónevekkel Ha elmondjuk, hogy mi ezekben a nevekben a közös, attól az egész csak még furább lesz. Az biztos, hogy a nevekre a mesterséges intelligencia kitérő választ ad, bizarr humorral vagy sértésekkel reagál.


Itt tart ma a szexipar, nézz körül a Vágyaim.hu-nál, milyenek 2024-ben az okos-szexeszközök!
A Marketplace sem mentes a csalóktól - a megoldás az adásvételi szerződés
A Marketplace sem mentes a csalóktól - a megoldás az adásvételi szerződés
Az internetes kereskedelem széles termékpalettájával és az egyre kedvezőbb ajánlatok térnyerésével egyre csak nő az online vásárlások száma. Ezzel párhuzamosan a vásárlásokat érintő csalások és visszaélések száma is egyre gyakoribbnak bizonyul. A megoldás a megfelelő körültekintés és a tájékozódás. Nagyban növeli a vásárlás biztonságát a piactereken az adásvételi szerződés készítése, amelyet a Szerzivel ma már könnyen és egyszerűen elkészíthet otthonról.
Magától feloldódik és eltűnik az agyban a homokszem méretű implantátum
Magától feloldódik és eltűnik az agyban a homokszem méretű implantátum
Egészen apró, agyba ültethető érzékelőt fejlesztettek kínai kutatók, ami vezetékek nélkül működik és néhány hét alatt lebomlik a testben.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.