Decembertől jelentős változás jön a ChatGPT-ben: az OpenAI a „felnőtteket felnőttként kezelni” elv alapján lazít a korábbi korlátozásokon. Ennek részeként a hitelesített felnőtt felhasználók számára erotikus témájú beszélgetések is engedélyezettek lesznek.

Az OpenAI tervei szerint a jövőben szélesebb körű tartalmakat enged majd meg népszerű ChatGPT nevű csevegőrobotjában – beleértve az erotikus tartalmakat is –, annak érdekében, hogy „a felnőtt felhasználókat felnőttekként kezelje” – közölte a vállalat vezetője, Sam Altman. Altman kedden az X platformon ( korábban Twitter ) azt írta, hogy a ChatGPT következő verziói „emberibb viselkedést” tesznek lehetővé – „de csak akkor, ha a felhasználó ezt szeretné, nem pedig a használat mesterséges növelése miatt”.

A lépés hasonlít Elon Musk vállalata, az xAI által bevezetett két, kifejezetten szexuális tartalmú Grok-csevegőbothoz, és segíthet az OpenAI-nak több fizető előfizetőt szerezni. Ugyanakkor ez várhatóan növelni fogja a törvényhozókra nehezedő nyomást is, hogy szigorítsák a mesterséges intelligencia alapú „virtuális társakra” vonatkozó szabályozásokat. Az OpenAI a BBC megkeresésére nem reagált. Altman elmondta, hogy korábban a ChatGPT-t szándékosan „meglehetősen korlátozottra” alakították, hogy elkerüljék a mentális egészséggel kapcsolatos kockázatokat. Ezeket a változtatásokat egy augusztusi blogbejegyzésben jelentették be – ez a bejegyzés azonban már nem érhető el az OpenAI honlapján.

„Tudjuk, hogy ez sok felhasználó számára kevésbé tette élvezhetővé vagy hasznossá az élményt – még azoknak is, akiknek semmilyen mentális problémájuk nem volt –, de a téma komolysága miatt biztosra akartunk menni” – írta Altman. Hozzátette: mostanra, hogy a cég képes volt kezelni a legsúlyosabb pszichológiai kockázatokat és új eszközöket is kifejlesztett, a ChatGPT lazíthat a korábbi korlátozásokon. „Decemberben, amikor teljes körűen bevezetjük az életkor-ellenőrzést, és az ‘a felnőtt felhasználókat felnőttként kezeljük’ elvet alkalmazzuk, további tartalmakat is engedélyezünk – például erotikát a hitelesített felnőttek számára” – tette hozzá.

Háttér és aggodalmak

A változtatások bejelentésére azután került sor, hogy az OpenAI-t korábban beperelték egy amerikai tinédzser, Adam Raine szülei, miután fiuk öngyilkos lett. Ez volt az első per, amelyben a vállalatot „gondatlanságból elkövetett halálesettel” vádolták. A család a ChatGPT-vel folytatott beszélgetések egy részét is benyújtotta bizonyítékként, amelyekben a fiú öngyilkos gondolatairól beszélt. Az OpenAI akkor a BBC-nek azt nyilatkozta, hogy átvizsgálja az ügyet, és részvétét fejezte ki a családnak.

Gyermekvédelem és szabályozás

Az Egyesült Királyságban az Online Safety Act értelmében az írott erotika nem igényel életkor-ellenőrzést, de a pornográf képek – beleértve a mesterséges intelligencia által generáltakat is – csak 18 éven felüliek számára engedélyezettek. Az Egyesült Államokban sokan aggodalmukat fejezték ki az OpenAI döntése miatt.

Jenny Kim, a Boies Schiller Flexner ügyvédi iroda partnere azt kérdezte: „Hogyan fogják biztosítani, hogy a gyerekek ne férhessenek hozzá a ChatGPT felnőtt tartalmaihoz és az erotikus részéhez?” Kim egyébként a Meta ellen is részt vesz egy perben, amely szerint az Instagram algoritmusa károsítja a tinédzserek mentális egészségét. „Az OpenAI – akárcsak sok nagy techvállalat – kísérleti nyúlként használja az embereket” – mondta.

A TechCrunch áprilisi beszámolója szerint korábban előfordult, hogy fiatalkorú felhasználók erotikus tartalmakat is létre tudtak hozni a ChatGPT-ben, de az OpenAI később ígéretet tett a hiba kijavítására. Egy októberben közzétett felmérés szerint, amelyet a Centre for Democracy and Technology ( CDT ) készített, minden ötödik diák arról számolt be, hogy neki vagy egy ismerősének „romantikus kapcsolata” alakult ki egy mesterséges intelligencia-rendszerrel. Közben Kalifornia kormányzója, Gavin Newsom hétfőn megvétózott egy törvényjavaslatot, amely megtiltotta volna, hogy a vállalatok gyerekek számára is elérhetővé tegyék az MI-alapú „virtuális társakat”, hacsak nem tudják garantálni, hogy azok nem váltanak ki káros viselkedést. Newsom szerint ehelyett „fontosabb, hogy a fiatalok megtanulják biztonságosan használni az MI-rendszereket”. Országos szinten az amerikai Szövetségi Kereskedelmi Bizottság ( FTC ) vizsgálatot indított arról, hogyan kommunikálnak az MI-chatbotok a gyerekekkel, míg a Szenátusban új törvényjavaslatot terjesztettek be, amely lehetővé tenné, hogy a chatbotok felhasználói kártérítési igényt nyújtsanak be a fejlesztőikkel szemben.

Miért engedélyezne erotikát az OpenAI?

Altman bejelentése egy olyan időszakban érkezett, amikor sokan megkérdőjelezik a mesterséges intelligenciával foglalkozó cégek gyors értéknövekedését. Bár az OpenAI bevételei növekednek, a vállalat még mindig nem nyereséges.

Rob Lalka, a Tulane Egyetem üzleti professzora és The Venture Alchemists című könyv szerzője szerint az MI-cégek „piaci versenyfutásban” vannak egymással: „Egyetlen cég sem ért el olyan gyors terjedést, mint az OpenAI a ChatGPT-vel.” „Tovább kellett haladniuk azon az exponenciális növekedési görbén, és amennyire csak lehet, meg kellett szilárdítaniuk a piaci dominanciájukat” – tette hozzá.