Brazíliában Porto Alegre város törvényhozói elfogadták az ország első olyan jogszabályát, amelyet teljes egészében mesterséges intelligencia (MI) írt – bár erről egészen mostanáig nem tudtak. Ramiro Rosário tanácsos, a javaslatot benyújtó tisztviselő ugyanis csak az után árulta el, hogy a jogszabályt a ChatGPT fogalmazta meg, hogy azt a városi tanács elfogadta. Rosário az Associated Pressnek azt mondta, egyszerűen megkérte az OpenAI chatbotját, a ChatGPT-t, hogy készítsen egy javaslatot annak megakadályozására, hogy a város az adófizetőkre terhelje a vízfogyasztásmérők cseréjét, ha azokat ellopják.

Mindössze 250 karakterből állt a képviselő ChatGPT-nek adott utasítása, amire az másodperceken belül visszaküldte a teljes javaslattervezetet, indoklással együtt.

Ez a chatbot nélkül legalább három napig tartott volna.

Ezt követően bemutatta a tervezetet a 35 tagú tanácsnak anélkül, hogy egyetlen változtatást is eszközölt volna rajta, vagy, hogy tájékoztatta volna őket a fogalmazvány eredeti szerzőjéről. A jogszabályt a testület egyhangúlag hagyta jóvá, és a rendelet november 23-án hatályba is lépett.

Sokak szerint a szóban forgó helyzet veszélyes precedenst teremtett. Bár az alig több mint egy évvel ezelőtt megjelent ChatGPT számos vélemény szerint ígéretes és hasznos eszköz, mások azonban rendkívül aggályosnak, sőt, ijesztőnek tartják annak hatását, hogy egy gép jelenleg emberek által végzett feladatokat lát el. A másfél milliós Porto Alegre városi tanácsának elnöke, Hamilton Sossmeier veszélyesnek nevezte az esetet, miután értesült róla Rosário tanácsos közösségi médiában közzétett bejegyzéséből.

Az egyik legfőbb érv a chatbotok felhasználása ellen, hogy a nagy nyelvi modellek, amelyek a ChatGPT-hez hasonló chatbotokat működtetik, hajlamosak hamis információkat tényként közölni, amit a mesterséges intelligencia hallucinációjának is neveznek. Ez nagyrészt abból adódik, hogy az algoritmus nem ellenőrzi a felhasznált tartalom hitelességét, csupán a mondatokban szereplő szavak sorrendjének valószínűségét számítja ki a szövegalkotáshoz.

A Vectara technológiai vállalat nemrég közzétett kutatása szerint minden chatbot hajlamos a téves információk közlésére például egy adott szöveg, vagy dokumentum összegzésekor. A ChatGPT-nél a tévedés aránya körülbelül 3 százalék, míg a Google Bard nevű chatbotja esetében ez jóval több, mintegy 27 százalék.

Egy ügyvéd a ChatGPT-vel íratott bírósági beadványt, ami tele volt hamis információval Az ügyvéd azt nyilatkozta, „nem volt tudatában annak a lehetőségnek, hogy a chatbot által generált tartalom hamis lehet”. A bíró ezután meghallgatást rendelt el, ahol majd a ChatGPT-t használó ügyvéd büntetését mérlegelik.

A brazil eset különleges, azonban nem teljesen egyedülálló. Az egyesült államokbeli Massachusetts államban Barry Finegold demokrata szenátor szintén a ChatGPT-hez fordult segítségért egy törvényjavaslat megírása során, amelynek célja épp a mesterséges intelligencia-rendszerek, köztük a ChatGPT szabályozása. Az idén benyújtott törvényjavaslatról még nem szavaztak. A szenátor azt mondta, a ChatGPT segíthet a jogalkotási folyamat néhány elemében, beleértve a már meglévő törvények helyes és gyors keresését és idézését, fontos azonban, hogy mindenki tisztában legyen azzal, hogy a ChatGPT-t vagy egy ahhoz hasonló eszközt használtak a folyamat során. Finegold szerint a mesterséges intelligencia használata az új törvények kidolgozásában elkerülhetetlen, de a ChatGPT által generált szövegeket mindenképp vízjelekkel kell ellátni, hogy egyértelmű legyen, MI-t használtak a jogszabály megfogalmazása során.

(Borítókép: Getty Images/Dragon Claws)