Megdöbbentő mire használták a mesterséges intelligenciát Brazíliában! Elkezdődött?

A kísérleti rendeletet októberben fogadták el a déli Porto Alegre városában, és Ramiro Rosário városi tanácsos a héten felfedte, hogy azt egy chatbot írta, ami ellenvetéseket váltott ki, és kérdéseket vet fel a mesterséges intelligencia közpolitikában betöltött szerepével kapcsolatban. Rosário azt mondta az Associated Pressnek, hogy felkérte az OpenAI chatbotját, a ChatGPT-t, hogy dolgozzon ki egy javaslatot annak megakadályozására, hogy a város díjat számítson fel az adófizetőktől a vízfogyasztásmérők cseréjéért, ha azokat ellopják. Ezután bemutatta 35 társának a tanácsban anélkül, hogy egyetlen változtatást is végrehajtott volna a szövegben, vagy tudatta volna velük “példátlan” eredetét. “Ha korábban felfedtem volna, a javaslatot biztosan nem is szavazták volna” – mondta Rosário az AP-nak.  A 36 tagú tanács egyhangúlag elfogadta, és a rendelet november 23-án lépett hatályba. “Méltánytalan lenne a lakossággal szemben megkockáztatni, hogy a projektet egyszerűen azért nem hagyják jóvá, mert mesterséges intelligencia írta” – tette hozzá.

A ChatGPT alig egy évvel ezelőtti megjelenése a piacon globális vitát váltott ki a potenciálisan forradalmi AI-alapú chatbotok hatásairól. Noha egyesek ígéretes eszköznek tartják, aggodalmakat is váltott ki a jelenleg emberek által végzett gépkezelési feladatok nem szándékos vagy nem kívánt hatásai miatt. Porto Alegre 1,3 millió lakosával Brazília déli részének második legnagyobb városa. A városi tanács elnöke, Hamilton Sossmeier rájött, hogy Rosario a ChatGPT-t kérte fel a javaslat megírására, amikor a tanácstag szerdán a közösségi médiában kérkedett az eredménnyel. Sossmeier először azt mondta a helyi sajtónak, hogy szerinte ez „veszélyes precedens”.

Az AI nagy nyelvi modellek, amelyek a chatbotokat, például a ChatGPT-t működtetik, úgy működnek, hogy ismételten megpróbálják kitalálni a következő szót egy mondatban, és hajlamosak hamis információk kitalálására, ezt a jelenséget néha hallucinációnak nevezik. A Vectara technológiai vállalat közelmúltban közzétett kutatása szerint minden chatbot néha hamis információkat közöl a dokumentumok összefoglalásakor, a legfejlettebb GPT-modellek esetében az esetek 3%-ától a Google egyik modelljénél körülbelül 27%-ig terjedő arányig. Andrew Perlman, a Suffolk University Law School dékánja a Harvard Law School Center of Legal Profession honlapján az év elején megjelent cikkében azt írta, hogy a ChatGPT „még jelentőségteljesebb elmozdulást jelezhet, mint az internet megjelenése”, de figyelmeztetett esetleges hiányosságaira is. „Lehet, hogy nem mindig tudja figyelembe venni a törvény árnyalatait és bonyolultságát. Mivel a ChatGPT egy gépi tanulási rendszer, előfordulhat, hogy a jogi elvek és precedensek értelmezésében nem rendelkezik ugyanolyan szintű megértéssel és ítélőképességgel, mint egy emberi jogász. Ez problémákhoz vezethet olyan helyzetekben, amikor mélyebb jogi elemzésre van szükség” – írta Perlman.

Nem a porto Alegre Rosario volt az első törvényhozó a világon, aki tesztelte a ChatGPT képességeit. De mások ezt korlátozottabb kapacitással vagy kevésbé sikeres eredménnyel tették. Massachusettsben Barry Finegold demokrata állam szenátora a ChatGPT-hez fordult, hogy segítsen megírni a mesterséges intelligencia modelljei, köztük a ChatGPT szabályozását célzó törvényjavaslatot. Ez év elején nyújtották be, de még nem szavaztak róla. Finegold szerdán telefonon közölte, hogy a ChatGPT segíthet a törvényalkotási folyamat néhány unalmasabb elemében, beleértve a már a könyvben szereplő törvények helyes és gyors keresését és idézését. “Fontos azonban, hogy mindenki tudja, hogy a folyamat során ChatGPT-t vagy hasonló eszközt használtak” – tette hozzá. “Azt akarjuk, hogy a ChatGPT által generált munka vízjeles legyen” – mondta, hozzátéve, hogy a mesterséges intelligencia használata az új törvények kidolgozásában elkerülhetetlen. “Támogatom, hogy az emberek a ChatGPT-t használják számlák írásához, amíg az egyértelmű.“

Nem volt ilyen átlátható Rosario javaslata Porto Alegrében. Sossmeier szerint Rosario nem tájékoztatta a tanács tagjait arról, hogy a ChatGPT írta a javaslatot. A javaslat eredetének titokban tartása szándékos volt. Rosario azt mondta az AP-nek, hogy célja nem csupán egy helyi probléma megoldása, hanem vita kirobbantása is. Azt mondta, hogy egy 49 szavas felszólítást írt be a ChatGPT-be, és másodperceken belül visszaküldte a teljes javaslattervezetet, beleértve az indoklást is. “Meggyőződésem, hogy az emberiség új technológiai forradalmat fog megtapasztalni” – mondta. „Minden civilizációnk által kifejlesztett eszköz felhasználható rosszra és jóra. Ezért meg kell mutatnunk, hogyan lehet jóra használni.” A módszert kezdetben helytelenítő tanácselnök pedig máris úgy tűnik, megingott. „Meggondoltam magam” – mondta Sossmeier. “Elkezdtem alaposabban olvasni, és láttam, hogy sajnos vagy szerencsére ez egy trend lesz.“