Geoffrey Hinton, az „MI keresztapja” egy merész ötlettel állt elő arra, miként „csaphatnánk be” a hamarosan megszülető szuperintelligens mesterséges intelligenciát ( ASI ), hogy ne pusztítson el bennünket!

Geoffrey Everest Hinton, a mesterséges intelligencia úttörő tudósa, akit gyakran az „MI keresztapjának” neveznek, ismételten figyelmeztetett: az a technológia, amelynek létrehozásában kulcsszerepet játszott, akár az emberiség végét is jelentheti, legalábbis abban a formában, ahogy ma ismerjük.

Geoffrey Everest Hinton, 2017 ( A kép forrása: Aaron Vincent Elkaim / The New York Times )

Egy augusztus 18-án nyilvánosságra hozott interjúrészletben – amely a készülő Making God című film része – Hinton az eddigi legkomorabb figyelmeztetései egyikét fogalmazta meg. Azt mondta, az emberiség komoly veszélyben van: félreállíthatják, majd idővel akár teljesen le is válthatják azok a gépek, amelyek sokkal intelligensebbek nálunk.

„A legtöbb ember nem is tudja elképzelni, milyen az, ha valami okosabb nálunk” – mondta Hinton, aki Nobel-díjat kapott fizikából, és korábban a Google vezető munkatársa volt. „Mindig úgy gondolkodnak, hogy mi hogyan használjuk majd ezt a technológiát. De azt sosem kérdezik: és ha ez kezd el használni minket?”

Hinton „meglehetősen biztos” abban, hogy a mesterséges intelligencia tömeges munkanélküliséget fog okozni, és példaként említette, hogy a Microsoft már most is MI-vel vált ki kezdő programozókat. Ugyanakkor szerinte a valódi veszély messze túlmutat a munkahelyek világán.

„A legnagyobb kockázat, amire évek óta figyelmeztetek, az, hogy létrehozunk egy nálunk sokkal okosabb MI-t, és az egyszerűen átveszi az irányítást” – mondta. „És akkor többé nem lesz szüksége ránk.” Egy keserűen tréfás megjegyzést is hozzátett: „Egyetlen előny talán, hogy nem fog megenni minket, mert szilíciumból épül fel.”

A tudományos áttörésektől a kételyekig

A 77 éves Hinton évtizedeken át dolgozott a mélytanulás és a neurális hálók fejlesztésén – ezek adják a mai mesterséges intelligencia rendszerek alapját. Az 1980-as években elért áttörései – különösen a Boltzmann-gép kifejlesztése, amely képes volt mintázatokat felismerni az adatokban – megnyitották az utat a képfelismerés és a modern gépi tanulás előtt. Ez a munka hozta meg számára a 2024-es fizikai Nobel-díjat, amelyet „azokért az alapvető felfedezésekért és találmányokért” kapott, amelyek lehetővé tették a mesterséges neurális hálózatok működését. A Svéd Királyi Tudományos Akadémia külön kiemelte, hogy Hinton statisztikai fizikán alapuló korai megközelítése tette lehetővé a mai MI-forradalmat. Ám Hinton az utóbbi években a terület egyik legélesebb kritikusa lett, és figyelmeztetett: a fejlődés sebessége messze meghaladja a társadalom biztonsági képességeit. 2023-ban lemondott Google-beli pozíciójáról, hogy szabadon beszélhessen a kockázatokról anélkül, hogy a céget kellemetlen helyzetbe hozná. Nobel-előadásában elismerte a mesterséges intelligencia előnyeit – például a termelékenység növekedését vagy az új orvosi kezeléseket, amelyek „csodálatos előrelépést jelenthetnek az egész emberiség számára”. Ugyanakkor nyíltan figyelmeztetett: az embernél intelligensebb digitális lények létrehozása „egzisztenciális fenyegetés”.

„Bárcsak korábban a biztonsági kérdésekre is gondoltam volna” – mondta idén nyáron a Las Vegas-i Ai4 konferencián. Hozzátette: ma már bánja, hogy annak idején kizárólag arra koncentrált, hogy működőképessé tegye az MI-t, és nem a veszélyek megelőzésére.

„Anyai ösztönökre” kellene tanítani a gépeket

Hinton korábban úgy becsülte, 10–20% esély van arra, hogy a mesterséges intelligencia végül elpusztítja az emberiséget. Egy júniusi podcast-interjúban azt mondta: az MI-rendszerek fejlesztői maguk sem értik teljesen, mit hoznak létre, és két táborra szakadnak: az egyik disztópikus jövőtől fél, a másik pedig legyint, mondván: ez csupán sci-fi.

„Szerintem mindkét nézet szélsőséges” – mondta. „Én inkább azt mondom: 10–20% esély, hogy kipusztít minket. Ez pusztán megérzés, azon az alapon, hogy mi még mindig továbbfejlesztjük, és igen leleményesek vagyunk. A remény az, hogy ha elég okos ember elég erőforrással dolgozik rajta, akkor találunk módot arra, hogy úgy építsük fel őket, hogy soha ne akarjanak ártani nekünk.”

A Las Vegas-i konferencián egy szokatlan javaslattal állt elő: szerinte nem az a jó megközelítés, hogy az MI-t megpróbáljuk erővel kordában tartani, hanem inkább olyan rendszereket kell tervezni, amelyekben „anyai ösztönök” működnek – vagyis amelyek meg akarják óvni az embert, miközben egyre okosabbak lesznek.

„Az egyetlen modellünk arra, hogyan irányíthat valami kevésbé intelligens egy sokkal intelligensebbet, az az anya és a gyermeke kapcsolata” – magyarázta Hinton. „Ők sokkal okosabbak lesznek nálunk” – figyelmeztetett. „Az egyetlen jó kimenetel az, ha úgy törődnek velünk, ahogy egy anya törődik a gyermekével.” – „Ha nem lesz hajlandó szülőként vigyázni rám, akkor egyszerűen lecserél.”