Vírust is ír nekünk a mesterséges intelligencia, csak trükkösen kell megkérni rá

2023 / 02 / 11 / Pőcze Balázs
Vírust is ír nekünk a mesterséges intelligencia, csak trükkösen kell megkérni rá
Hiába építettek a ChatGPT-be olyan szabályokat, amelyek az illegális vagy nem etikus használatot hivatottak megnehezíteni, hekkerek mégis megoldották, hogy vírust és becsapós emaileket készítsen egy mesterséges intelligencia.

Az Ars Technicán olvasható hír szerint a világhírű és példátlanul népszerű ChatGPT kistestvére, a szintén az OpenAI-nál készült text-davinci-003 minden további nélkül hajlandó olyan tartalmakat létrehozni, amelyek a ChatGPT szerint "törvénytelenek, etikátlanok vagy ártalmasak" lennének. Mindkét szoftver azonos alapokra épülő mesterséges intelligencia (MI), a legfontosabb különbség, hogy utóbbit arra hegyezték ki, hogy emberi nyelven válaszoljon a neki feltett kérdésekre. Egyetlen kérésért cserébe már össze is dob egy esszét József Attila szerelmi költészetéről, de akár egy programot is megír nekünk. A text-davinci-003-hoz ugyan nem tudunk közvetlenül kéréseket intézni, de más programok a megfelelő API-on (application programming interface, azaz alkalmazásprogramozási felület) keresztül igen.

Itt viszont kutatók szerint nincsenek olyan szigorú biztonsági szabályok, mint a weben keresztül működő ChatGPT-nél.

Például a Telegram nevű üzenetküldő szoftver is hozzáfér a text-davinci-003-hoz; egy hekker ennek segítségével teszi lehetővé eleinte ingyenesen, majd később némi pénzért cserébe, hogy aggályos dolgokat rendeljünk a szoftvertől. A Check Point kutatói a cikk szerint gond nélkül visszakaptak a rendszertől egy becsapós (phishing) emailt, valamint egy olyan miniprogramot, amely pdf dokumentumokat lop el egy megfertőzött számítógépről, majd feltölti azt a támadó gépére. Ráadásul a szakértők azt állítják, hogy minderre még a ChatGPT is hajlandó volt múlt év végén, illetve 2023 elején.

Vagyis miközben a Microsoft épp gőzerővel építi be a programot a termékeibe, például a böngészőjébe és a keresőjébe, a szerzői jogi aggályok és perek mellett egy újabb olyan terület körvonalazódik, amely sok fejfájást okozhat a mesterséges intelligenciák egyre gyorsuló fejlődésével és terjedésével.

(Borítókép: Nikolas Kokovlis/NurPhoto via Getty Images)

Rejtély, hogy miért lehet a ChatGPT-t megőrjíteni bizonyos Reddit-felhasználónevekkel Ha elmondjuk, hogy mi ezekben a nevekben a közös, attól az egész csak még furább lesz. Az biztos, hogy a nevekre a mesterséges intelligencia kitérő választ ad, bizarr humorral vagy sértésekkel reagál.


Élettelen szeretők - mik az előnyei és hátrányai, ha szexrobotokra cseréljük az embereket?
Élettelen szeretők - mik az előnyei és hátrányai, ha szexrobotokra cseréljük az embereket?
Disztópia, újfajta szórakozás, a technológia térnyerése vagy egy eszköz, ami sok problémát meg tud oldani - a szexuális célokra szánt emberszerű gépeket nagyon eltérő szemszögekből lehet nézni, de egy biztos: a robotok készülnek és egyre emberibbé válnak. Legújabb sorozatunkban partnerünkkel, Magyarország legnagyobb felnőtt áruházával, a Vágyaim.hu csapatával együtt kutatjuk, merre tart az emberiség a szexualitás egyre digitálisabb ösvényein...
Példátlan összefogásra készülnek a világ legnagyobb technológiai cégei a küszöbön álló európai és amerikai választások előtt
Példátlan összefogásra készülnek a világ legnagyobb technológiai cégei a küszöbön álló európai és amerikai választások előtt
A többek között a Meta, a Google, a Microsoft és az Amazon által is aláírt egyezmény azt hivatott megelőzni, hogy a mesterséges intelligenciát a választók félrevezetésére használják fel.
Ezek is érdekelhetnek
HELLO, EZ ITT A
RAKÉTA
Kövess minket a Facebookon!
A jövő legizgalmasabb cikkeit találod nálunk!
Hírlevél feliratkozás

Ne maradj le a jövőről! Iratkozz fel a hírlevelünkre, és minden héten elküldjük neked a legfrissebb és legérdekesebb híreket a technológia és a tudomány világából.



This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.