Bevadult MI

A tudósok szerint az a fő probléma, hogy egy ilyen algoritmus nem tartható féken olyan technológia nélkül, ami sokkal fejlettebb annál, mint amit ma képesek vagyunk megépíteni.

A csapat elsősorban a visszafogottság kérdésére összpontosított. Ha egy mindenható algoritmus valahogy arra a következtetésre jutna, hogy ártania kell az embereknek, vagy Terminator stílusban teljesen ki kell irtania az emberiséget, vajon hogyan akadályozhatnánk meg abban, hogy cselekedjen?

Az USA kiadta a mesterséges intelligencia tízparancsolatát A Fehér Ház kiadott 10 alapelvet az állami ügynökségek számára, melyeket azoknak be kell tartaniuk, amikor új, a magánszektorra vonatkozó MI rendeleteket javasolnak.

Börtönőr MI

A Max Planck tudósainak javaslatában egyfajta „elszigetelő algoritmusra” lenne szükségünk, ami képes szimulálni a veszélyes algoritmus viselkedését, és megakadályozni, hogy az bármi károsat tegyen - de mivel ennek az algoritmusnak legalább olyan erősnek kellene lennie (ha nem erősebbnek), mint a bevadult MI-nek, a tudósok lehetetlennek nyilvánították a probléma megoldását a kialakuló paradoxon miatt. (Ha ugyanolyan erős lenne az elszigetelő algoritmus, vagy erősebb, vajon miért ne akarna az is azonnal kiirtani minket, ha már a bevadult MI erre a következtetésre jutott?)

Ez persze mind csak elmélet. Az emberiség fenyegetéséhez elég fejlett MI valószínűleg még a messzi jövő zenéje, bár komolya tudósok nagy erőkkel dolgoznak a létrehozásán. És éppen emiatt kell erről már ma vitázni és elmélkedni, hogy megelőzhessük a veszélyt, még mielőtt bekövetkezne.

Itt lehet a nagy mesterséges intelligencia áttörés, a fotonokkal fénysebességre gyorsul a gépi tanulás Mi itt a Rakétánál tudományos áttöréseken és felfedezéseken élünk, alaposan megedződve nem gyakran dobáljuk a hajunkat, de ez most könnyen lehet az évtized híre, az a gyorsulás, amire az MI fejlesztés egy évtizede vár. Be is készítjük a Kyle Reese emlékplakettet.

Az ismeretlen már megjelent

"A világot irányító szuperintelligens számítógép tudományos-fantasztikus fantáziának hangzik. De már vannak olyan gépek, amelyek bizonyos fontos feladatokat önállóan hajtanak végre anélkül, hogy a programozók teljesen megértenék, hogyan tanulták meg őket. Felmerül tehát a kérdés, hogy ez valamikor ellenőrizhetetlenné és veszélyesé válhat-e az emberiség számára” - mondta el sajtótájékoztatóján Manuel Cebrian, a Max Planck Humán Fejlesztési Intézet Emberek és Gépek Központja Digitális Mobilizációs csoportjának vezetője. A kutatók a Journal of Artificial Intelligence Research folyóiratban tették közzé tanulmányukat.

(Forrás: MPG Kép: Unsplash)

Ez is érdekelhet:

A mesterséges intelligencia szerepjátékkal tanul célokat kitűzni Az olyan mesterséges intelligencia eszközök, mint a GPT-3 felhasználhatók hangulatelemzéshez, nyelvfelismeréshez és meggyőző módon utánozhatják az emberi írást. Alapvetően azonban csak mintákat tanulnak és közben nem értik, hogy valójában mit csinálnak.  

Mesterséges intelligencia írt cikket a The Guardianbe. Áttörés vagy csak túlzó hype? Szeptember nyolcadikán bejárta a világsajtót egy cikk, melyet a brit The Guardian közölt. Ebben, a történelemben először, egy mesterséges intelligencia köszöntötte az emberiséget, és megpróbált mindenkit megnyugtatni békés szándékai felől. Ez legalábbis a történtek populáris olvasata, de mi vajon a valóság?

A Facebook mesterséges intelligenciája egyetemi szintű matematikai feladatokat old meg A gépek javulnak a matematika feladatokban, a Facebook mesterséges intelligenciája (MI) például másodpercek alatt vált képessé megoldani az egyetemi szintű számítási problémákat.