Előszó
- Megkérdeztem a ChatGPT-t, hogy szerinte reálisan mikor érkezhet el a szingularitás.
- Ezután elmentem a Claude-hoz a ChatGPT válaszával, hogy ellenőrizzem, helyesnek tűnnek-e az előrejelzések. A Claude egy teljesen más koncepciót mutatott be arról, hogyan lehetne mérni a szingularitást, ami nekem úgy tűnt, hogy az OpenAI és az Anthropic két vezérigazgatójának gondolkodása mögött húzódó alapvető különbséget is tükrözheti.
- Visszavittem a Claude koncepcióját a ChatGPT-hez. Megpróbáltam személyesebbé tenni, figyelembe véve a Sam és Dario közötti hátteret, de ez nem igazán volt provokatív pont számára. A ChatGPT lényegében elfogadta a Claude értékelését, amit aztán ismét visszavittem a Claude-hoz. A Claude végül adott egy utolsó értékelést arról, hogy mi az alapvető különbség a két vezérigazgató gondolkodása között az AGI-ról és a szingularitásról.
- Ezután megkértem a ChatGPT-t, hogy foglalja össze az egészet, hogy továbbvihessem a Grokhoz további értékelésre.
- Ezután visszavittem a Grok visszajelzését a ChatGPT-hez, és végül
- megkértem, hogy írjon egy teljes blogbejegyzést erről a gondolatkísérletről.
Az eredmény alább olvasható:
Volt egy meglehetősen egyszerű kérdésem:
Szerinted mikor következhet be reálisan az AI-szingularitás?
Megkérdeztem a ChatGPT-t.
Meglepően magabiztos választ adott:
2035–2050.
Pontosabban valahová 2035 és 2045 közé tette a legvalószínűbb időablakot.
Ez ésszerűnek hangzott.
Talán még konzervatívnak is.
De aztán ugyanezt a kérdést feltettem a Claude-nak.
A Claude pedig lényegében ránézett a ChatGPT válaszára, és azt mondta:
„Álljunk csak meg. Pontosan mire alapozod ezeket a számokat?”
Teljesen jogos.
Úgyhogy úgy döntöttem, csinálok valami kissé nevetségeset.
Összeeresztem a ChatGPT-t és a Claude-ot, hogy vitázzanak egymással.
És miután befejezték a vitát, az egész beszélgetést odaadtam a Groknak.
Megkértem, hogy legyen ő a bíró.
Ami ebből kijött, valójában érdekesebb volt, mint az eredeti kérdés.
Először is: mit értünk egyáltalán „szingularitás” alatt?
Kiderült, hogy már itt van az első probléma.
Az emberek úgy beszélnek az AGI-ról, a szuperintelligenciáról, a rekurzív önfejlesztésről és a szingularitásról, mintha ezek felcserélhető fogalmak lennének.
Nem azok.
Az AGI általában valami olyasmit jelent, mint egy olyan mesterséges intelligencia, amely az emberi kognitív feladatok többségét nagyjából emberi szinten vagy afelett képes elvégezni.
A szuperintelligencia ennél jóval tovább menne.
A szingularitás pedig megint valami más.
A klasszikus elképzelés szerint az AI képessé válik arra, hogy AI-t fejlesszen, ami jobbá teszi a következő generációt, az pedig még jobbá teszi az azt követőt — és végül a technológiai fejlődés olyan gyorssá válik, hogy az ember már nem tudja érdemben megjósolni, mi fog következni.
Ezért a fontos kérdés nem feltétlenül az:
„Mikor lesz AGI-nk?”
Hanem talán inkább ez:
Mikor lesz az AI elég jó az AI-kutatásban ahhoz, hogy érdemben felgyorsítsa a következő generációs AI fejlesztését?
És ez a különbségtétel teljesen megváltoztatta az egész beszélgetést.
A ChatGPT első előrejelzése
Az első ChatGPT-s beszélgetésem meglehetősen konzervatív volt.
Azt javasolta, hogy a szingularitás egy erősebb változata valahol 2035 és 2050 között következhet be, a 2035–2045 közötti időszakot tartva a legvalószínűbbnek.
Az érvelés meglehetősen egyszerű volt.
Még ha létre is hozunk egy elképesztően intelligens AI-t, a fizikai világ nem gyorsul fel varázsütésre.
Továbbra is szükséged van:
- számítógépes chipekre
- elektromosságra
- adatközpontokra
- gyártásra
- robotikára
- ellátási láncokra
- kísérletekre
- pénzre
- emberekre, akik megvalósítják és bevezetik a dolgokat
Egy AI képes lehet elképesztő sebességgel gondolkodni, de nem tud egyetlen éjszaka alatt legyártani egymillió GPU-t.
A ChatGPT érvelése lényegében ez volt:
Az intelligencia gyorsan megérkezhet. A fizikai világnak viszont tovább tarthat felzárkóznia.
Ez logikusnak hangzott.
Aztán megmutattam a választ a Claude-nak.
A Claude visszavágott
A Claude legnagyobb kritikája valójában nem is maga a dátum volt.
Hanem a magabiztosság.
És szerintem ez jogos kritika volt.
A ChatGPT olyan valószínűségi tartományokat adott, amelyek tudományosnak tűntek.
Valami ilyesmit:
2035–2045: legnagyobb valószínűség.
De hogyan számolod ezt ki valójában?
Senki nem rendelkezik olyan megbízható modellel a technológiai fejlődésről, amely alapján ténylegesen tudhatnánk, hogy a szingularitásnak 30, 40 vagy 50 százalék esélye van-e arra, hogy egy adott évtizedben bekövetkezzen.
Ahogy a Claude fogalmazott, lényegében tizedesvesszőkkel ellátott megérzéseket próbálunk tenni valamire, amit alapvetően nem értünk.
És aztán a Claude rámutatott valamire, ami még sokkal érdekesebb.
Vannak komoly emberek, akik elképesztően széles skálán adnak előrejelzéseket.
Egyesek szerint a rendkívül fejlett AI akár 2026–2027 körül is megérkezhet.
Mások szerint az AGI ennél jóval távolabb van.
Így ahelyett, hogy azt kérdeznénk:
„Melyik év a helyes?”
Valószínűleg inkább ezt kellene kérdeznünk:
„Milyen feltételezések miatt jutnak ezek az emberek ennyire eltérő válaszokra?”
Ez már sokkal jobb kérdés.
És ekkor kezdett igazán érdekessé válni
Mert amikor megnézed, hogy Sam Altman és Dario Amodei valójában mit mondanak, az OpenAI és az Anthropic közötti különbség nem is akkora, mint amekkorára számítanál.
Sam Altman egyre inkább úgy írja le a jelenlegi időszakot, mint egyfajta „szelíd szingularitás” kezdetét.
Az ő megközelítése nagyjából ez:
Nem fogunk egy keddi reggelen felébredni, és hirtelen rájönni, hogy megtörtént a szingularitás.
Ehelyett az AI képességei folyamatosan javulnak.
Aztán az AI elkezd érdemi kognitív munkát végezni.
Aztán tudományos felfedezésekben kezd segíteni.
Aztán segít jobb AI-t építeni.
Aztán ezek a rendszerek segítenek még jobb rendszereket építeni.
A görbe egyre meredekebbé válik.
És végül, amikor visszatekintünk, rájövünk:
Ó. Mi közben ezt éltük át.
Dario Amodei megközelítése drámaibb.
Arról beszélt, hogy a „powerful AI”, vagyis a rendkívül nagy képességű AI akár már 2026–2027 körül megérkezhet, és használta az „zsenikből álló ország egy adatközpontban” hasonlatát.
Képzelj el több millió, rendkívül képzett digitális munkást, akik elképesztő sebességgel dolgoznak.
Nem csak kérdésekre válaszolnak.
Hanem:
kódolnak.
Kutatnak.
Kísérleteket futtatnak.
Rendszereket terveznek.
Számítógépeket használnak.
És potenciálisan robotokat irányítanak.
Ez már sokkal kevésbé hangzik úgy, hogy:
„Itt egy okosabb chatbot.”
És sokkal inkább úgy, hogy:
„Létrehoztunk egy teljesen újfajta szellemi munkaerőt.”
Akkor Sam és Dario titokban harcolnak egymással?
Én is feltettem magamnak ezt a kérdést.
Ez valójában a technológiáról szól?
Vagy két konkurens vezérigazgatóról, akik két különböző történetet adnak el nekünk a jövőről?
Az OpenAI és az Anthropic nyilvánvalóan versenytársak.
Versenyeznek:
- a tehetségekért
- a számítási kapacitásért
- a befektetőkért
- az ügyfelekért
- a kormányzati befolyásért
- a közvélemény figyelméért
Szóval természetesen számítanak az ösztönzőik.
De miután megnéztem az álláspontjaikat, szerintem nem az az érdekes történet, hogy:
Sam szerint 2030, Dario szerint pedig 2045.
Szinte az ellenkezője igaz.
Meglepően közel állnak egymáshoz abban, hogy nagyon nagy teljesítményű AI akár nagyon hamar megérkezhet.
A különbség inkább abban van, hogyan írják le azt, ami ezután történik.
Sam hajlamos a fokozatos, pozitív, szinte elkerülhetetlen átalakulást hangsúlyozni.
Dario inkább az intelligencia óriási koncentrációját és az ezzel járó kockázatokat emeli ki.
Ugyanaz a vihar. Más időjárás-előrejelzés.
Ezután megkértem a Grokot, hogy bírálja el az érvelést
Ezen a ponton fogtam a ChatGPT és a Claude közötti beszélgetést, és odaadtam a Groknak.
Lényegében ezt mondtam:
„Rendben. Most te vagy a bíró. Ki érvel valójában jobban?”
A Grok válasza valószínűleg az egész kísérlet leghasznosabb része volt.
Egy fontos pontban egyetértett a Claude-dal:
Nem szabad úgy tennünk, mintha tudnánk a pontos dátumot.
A bizonytalanság óriási.
De valamiben a ChatGPT-vel is egyetértett:
A fizikai világ számít.
Az AI nem létezik elszigetelten.
A számítási kapacitás, az energia, a chipek, a robotika, a gyártás és a bevezetés mind számítanak.
Aztán a Grok azonosította szerintem az összes közül a legfontosabb változót.
Ne az AGI-t figyeld. Az AI-kutatást figyeld.
Ez az a gondolat, amit én magammal viszek az egész beszélgetésből.
Felejtsd el a címsorokat, amelyek azt mondják:
„AGI 2027-ben!”
Felejtsd el ezt:
„Szingularitás 2035-ben!”
Figyelj valami sokkal konkrétabbra:
Mennyi AI-kutatást képes maga az AI elvégezni?
Képzeld el, hogy a mai AI segít egy AI-kutatónak kétszer gyorsabban dolgozni.
Ez hasznos.
Most képzeld el, hogy ötször gyorsabbá teszi.
Aztán tízszer gyorsabbá.
Majd képzeld el, hogy az AI önállóan képes:
- megtervezni egy kísérletet
- lefuttatni a kísérletet
- elemezni az eredményt
- azonosítani egy gyenge pontot
- új architektúrát javasolni
- betanítani a következő modellt
- kiértékelni azt
- majd megismételni az egész folyamatot
Na, ekkor már valami egészen mással van dolgunk.
Mert az AI nem csupán egyre jobb lesz.
Az AI részt vesz abban a folyamatban, amely jobbá teszi az AI-t.
Ez az a visszacsatolási hurok, amit mindenkinek figyelnie kellene.
És már most látjuk ennek darabjait
Ez nem jelenti azt, hogy már elértük volna az autonóm, rekurzív önfejlesztést.
Nem értük el.
De az AI-t egyre inkább használják kódírásra, kutatásra, kísérletek elemzésére és arra, hogy segítsék a következő generációs AI-t építő embereket.
Az Anthropic például jelentős növekedésről számolt be abban, hogy mérnökei mennyi kódot képesek előállítani AI segítségével.
Ez önmagában nem bizonyítja, hogy a szingularitás felé tartunk.
De megmutatja a fejlődés irányát.
És itt válnak igazán érdekessé az előrejelzések.
Mert óriási különbség van aközött, hogy:
az AI segít az embereknek AI-t építeni
és aközött, hogy:
az AI végzi el a jobb AI felépítéséhez szükséges munka nagy részét.
Az első már történik.
A második egészen más nagyságrendű változás lenne.
Mi győzne meg arról, hogy a rövid időtávú előrejelzések helyesek?
Nem hiszem, hogy egy újabb vezérigazgatói előrejelzés.
Valódi bizonyítékot szeretnék látni.
A következő két-három évben néhány dolgot figyelnék.
1. Az AI napokon keresztül önállóan végez kutatást
Nem egy ötperces kódolási benchmarkot.
Adj neki egy valódi problémát.
Hagyd dolgozni napokig.
Hagyd hibázni.
Hagyd, hogy kijavítsa magát.
Hagyd, hogy ő döntse el, mit vizsgáljon meg legközelebb.
És nézd meg, hogy valóban képes-e valami hasznosat létrehozni.
2. Az AI valóban új tudományos felfedezéseket tesz
Nem meglévő tanulmányok összefoglalásáról beszélek.
Nem olyan dolgok újrakeveréséről, amelyeket az emberek már ismernek.
Valódi felfedezésekről, amelyeket a szakértők is jelentősnek ismernek el.
3. Az AI jobb AI-t tervez
Ez a nagy kérdés.
Képes-e egy AI-rendszer érdemben javítani azon az architektúrán, tanítási folyamaton, algoritmusokon vagy kísérleteken, amelyekkel az utódját létrehozzák?
És képes-e ezt egyre kevesebb emberi beavatkozással megtenni?
4. A munkavégzés időhorizontja folyamatosan növekszik
Ma egy agent lehet lenyűgöző egy órán keresztül.
Mi történik, amikor megbízhatóan tud dolgozni egy teljes napig?
Egy hétig?
Egy hónapig?
Ha ez a görbe továbbra is gyorsan felfelé halad, sokkal komolyabban kezdeném venni az agresszív szingularitás-előrejelzéseket.
5. Az AI termelékenységi hatása ténylegesen megjelenik a gazdaságban
Egy idő után ennek nem csak az AI-laborokban kellene történnie.
Ha vállalkozások milliói kezdenek drámaian többet előállítani kevesebb emberrel, akkor bizonyítékunk lesz arra, hogy ez nem egyszerűen egy benchmark-verseny.
Mi tenne szkeptikusabbá?
Az ellenkezője.
Ha az AI továbbra is elképesztően jól teljesít a programozási benchmarkokon, de nehézségei vannak:
- a hosszú távú tervezéssel
- a megbízhatósággal
- valóban új kutatással
- kaotikus, valós problémákkal
- fizikai kísérletezéssel
- a kontextus hetekig tartó fenntartásával
- annak felismerésével, amikor téved
akkor lehet, hogy egy sokkal összetettebb falba ütközünk.
Lehet, hogy az intelligencia nem skálázódik olyan simán, ahogy feltételezzük.
Lehet, hogy a jelenlegi architektúrák egy ponton elérik a plafont.
Lehet, hogy a rekurzív önfejlesztés sokkal nehezebbnek bizonyul, mint amilyennek hangzik.
Lehet, hogy a fizikai világ válik a szűk keresztmetszetté.
Vagy talán felfedezünk valamit az intelligenciáról, amit jelenleg egyikünk sem ért.
Ez az igazán kényelmetlen része.
Nem tudjuk.
Szóval ki nyerte a vitát?
Őszintén?
Claude nyert egy fontos pontban.
A ChatGPT eredeti előrejelzése sokkal magabiztosabbnak tűnt, mint amennyit a bizonyítékok indokoltak.
De a ChatGPT egy másik pontban nyert:
A szingularitás nem pusztán egy szoftverprobléma.
És a Grok lényegében összehozta a kettőt.
A legésszerűbb következtetés nem az:
„A szingularitás 2035-ben fog megtörténni.”
Hanem ez:
Beléphetünk egy olyan időszakba, amikor az AI önmagát javító képességének sebessége a technológiai fejlődés egyik legfontosabb változójává válik.
Ha ez a visszacsatolási hurok drámaian felgyorsul, az idővonal nagyon gyorsan összeszűkülhet.
Ha viszont nem, akkor akár még két évtizedet is eltölthetünk egyre lenyűgözőbb AI-rendszerek létrehozásával anélkül, hogy valaha is létrejönne az a száguldó visszacsatolási hurok, amit az emberek elképzelnek.
És pontosan ettől olyan lenyűgöző az egész
Azért kezdtem ezt a beszélgetést, mert egy dátumot akartam.
2030? 2035? 2040? 2050?
A végén arra jöttem rá, hogy valószínűleg a dátum a legkevésbé érdekes része az egésznek.
Képzeld el, hogy 2050-ből tekintesz vissza.
Talán a történészek képesek lesznek egy konkrét évre mutatni, és azt mondani:
„Ekkor kezdődött.”
De lehet, hogy nem lesz ilyen év.
Lehet, hogy pontosan úgy fog kinézni, mint Sam Altman „szelíd szingularitása”.
Egyik évben az AI megírja az e-mailjeidet.
Aztán megírja a szoftveredet.
Aztán segít felfedezni egy gyógyszert.
Aztán megtervez egy kísérletet.
Aztán megtervezi azt az AI-t, amely megtervezi a következő kísérletet.
Aztán hirtelen egy olyan világban találod magad, ahol a technológiai fejlődés nagy részét olyan rendszerek hajtják, amelyek egy évtizeddel korábban még nem is léteztek.
És rájössz, hogy soha nem volt egyetlen nap, amit „A Szingularitásnak” hívtak.
Csak egy görbe volt.
Egyre meredekebb.
És meredekebb.
És még meredekebb.
Ezt fogom figyelni.
Nem az előrejelzéseket.
Nem a vezérigazgatókat.
Még csak nem is az AGI-bejelentéseket.
A visszacsatolási hurkot.
