Dekáda AI agentov: Karpathy o časovej osi AGI

Úvod

Andrej Karpathy, jedna z najvplyvnejších osobností v oblasti umelej inteligencie a bývalý riaditeľ AI v Tesle, nedávno vzbudil pozornosť vyhlásením, že umelá všeobecná inteligencia (AGI) je stále približne 10 až 15 rokov vzdialená. Tento pohľad je v ostrom kontraste s prevládajúcim optimizmom v Silicon Valley a medzi AI nadšencami, ktorí často deklarujú, že prelomové schopnosti AI sú už za rohom. Namiesto toho, aby bagatelizoval pozoruhodný pokrok, ktorý sme zaznamenali s veľkými jazykovými modelmi od konca roka 2022, Karpathy ponúka nuansované a realistické zhodnotenie, kde sa naozaj nachádzame na ceste vývoja AI. Jeho analýza odhaľuje zásadnú priepasť medzi pôsobivými schopnosťami dnešných AI systémov a rozsiahlym množstvom práce, ktorá je potrebná na dosiahnutie skutočnej umelej všeobecnej inteligencie. V tomto komplexnom rozbore sa pozrieme na Karpathyho podrobné odôvodnenie časového horizontu AGI, rozdiel medzi “rokom agentov” a “dekádou agentov,” fundamentálne odlišnosti v tom, ako sa LLM a biologické systémy učia, a prečo ostáva skeptický voči niektorým populárnym prístupom, ako je reinforcement learning, ako hlavnej ceste vpred. Pochopenie týchto poznatkov je kľúčové pre každého, kto chce pochopiť realistickú trajektóriu vývoja AI a výzvy, ktoré nás čakajú.

Pochopenie umelej všeobecnej inteligencie: Za hranicami súčasných schopností

Umelá všeobecná inteligencia predstavuje teoretický stav, v ktorom AI systém dokáže chápať, učiť sa a aplikovať vedomosti v akejkoľvek intelektuálnej oblasti s rovnakou flexibilitou a prispôsobivosťou ako človek. Na rozdiel od úzko zameraných AI systémov, ktoré vynikajú v špecifických úlohách – ako je hranie šachu, rozpoznávanie obrázkov či generovanie textu – by AGI mala schopnosť prenášať učenie z jednej oblasti do druhej, riešiť nové problémy bez explicitného tréningu a preukazovať skutočné schopnosti uvažovania. Rozdiel medzi dnešnými veľkými jazykovými modelmi a skutočnou AGI nie je len otázkou rozsahu alebo výkonových metrík; je to zásadný rozdiel v tom, ako tieto systémy fungujú a čo dokážu dosiahnuť. Súčasné LLM, aj napriek svojej schopnosti generovať súvislý text, odpovedať na zložité otázky či písať kód, sú v podstate systémy na rozpoznávanie vzorov, trénované na obrovských množstvách internetových dát. Vynikajú v interpolovaní v rámci dát, na ktorých sa učili, ale majú problémy so skutočnou extrapoláciou a riešením nových problémov spôsobom, ktorý by bol pre človeka s všeobecnou inteligenciou triviálny. Cesta k AGI si vyžaduje nielen lepšie modely, ale úplne nové prístupy k učeniu, uvažovaniu a interakcii so svetom. Preto je Karpathyho odhad 10+ rokov významný – uznáva skutočný pokrok aj zásadné zostávajúce výzvy, ktoré nemožno prekonať len inkrementálnym vylepšovaním.

Prečo AI priemysel podceňuje časový vývoj

Technologický priemysel má dlhodobú tendenciu preceňovať krátkodobý pokrok, no podceňovať dlhodobú transformáciu. V kontexte AI sa to prejavuje ako nesúlad medzi pôsobivými schopnosťami, ktoré ukazujú špičkové modely, a skutočným nasadením týchto schopností do ekonomicky hodnotných systémov. Keď OpenAI, Google a ďalšie laboratóriá ohlásia nové modely s pozoruhodnými schopnosťami, médiá a investičná komunita často tieto schopnosti extrapolujú do okamžitého reálneho dopadu. Avšak cesta od schopného modelu k nasadeniu, spoľahlivému a ekonomicky hodnotnému systému zahŕňa množstvo výziev, ktoré sa v nadšení z technických prelomov často prehliadajú. Patria sem budovanie robustnej infraštruktúry, integrácia AI do existujúcich podnikových procesov, riešenie otázok bezpečnosti a ochrany, vývoj vhodných používateľských rozhraní a najmä vyriešenie “scaffolding problem” – priepasti medzi surovými schopnosťami modelu a praktickými aplikáciami. Karpathyho pohľad odráža zrelé pochopenie tejto priepasti, vychádzajúce z jeho skúseností s budovaním AI systémov vo veľkom meradle. Uvedomuje si, že tí, ktorí sú najviac ponorení do vývoja AI – či už v laboratóriách, technologických firmách alebo AI komunitách – bývajú najoptimistickejší ohľadom časových odhadov, často až päť- až desaťnásobne. Tento optimistický sklon pramení z blízkosti k špičkovým schopnostiam a tendencie podceňovať integračné výzvy. Naopak, skeptici a popierači AI často ignorujú skutočný pokrok, ktorý sa dosiahol, a nedokážu oceniť, ako ďaleko sa pole posunulo. Karpathy sa zámerne umiestňuje do stredu – uznáva reálne prelomové momenty aj množstvo práce, ktorá ešte ostáva.

Rozlíšenie medzi rokom agentov a dekádou agentov

Jedno z Karpathyho najdôležitejších upresnení sa týka terminológie ohľadom AI agentov. Keď lídri priemyslu vyhlasujú, že “2025 je rokom agentov”, spravidla tým myslia, že AI agenti sa stanú hlavným predmetom pozornosti, investícií a prvých implementácií. To je takmer určite pravda – už teraz vidíme výrazný záujem o agentné systémy, pričom spoločnosti ako OpenAI uvádzajú nástroje ako Operator, ktoré dokážu ovládať webový prehliadač a vykonávať úlohy v mene používateľa. Karpathy však tvrdí, že hoci rok 2025 môže byť skutočne rokom, keď agenti získajú hlavný mediálny ohlas, skutočný vývoj a rozšírenie skutočne užitočných, spoľahlivých a ekonomicky hodnotných agentov bude trvať celú dekádu. Toto rozlíšenie je kľúčové, pretože oddeľuje hype cykly od skutočného technologického dozrievania. “Dekáda agentov” predstavuje obdobie, počas ktorého sa vyvinie a zlepší infraštruktúra, osvedčené postupy, bezpečnostné mechanizmy a integračné vzory pre agentné systémy. Počas tejto dekády sa agenti posunú od pôsobivých demonštrácií k spoľahlivým nástrojom, na ktoré sa podniky a jednotlivci budú spoliehať pri kľúčových úlohách. Tento časový plán zodpovedá historickým vzorom adopcie technológií – internet sa stal stredobodom pozornosti v 90. rokoch, no až v 2000-2010 rokoch skutočne transformoval ekonomiku. Podobne, AI agenti možno získajú pozornosť v roku 2025, ale ich skutočný ekonomický vplyv sa rozvinie v nasledujúcej dekáde.

Ako sa AI agenti porovnávajú s humanoidnými robotmi: Digitálna verzus fyzická automatizácia

Karpathy robí zaujímavú paralelu medzi AI agentmi v digitálnom svete a humanoidnými robotmi vo svete fyzickom. Obe skupiny predstavujú snahy vytvoriť univerzálne systémy, ktoré dokážu vykonávať ľubovoľné úlohy prostredníctvom rozhrania navrhnutého človekom – v prípade agentov je to webový prehliadač a klávesnica/myš, v prípade robotov ľudské telo so senzormi a pohonmi. Toto porovnanie ukazuje, prečo môžu digitálni agenti dosiahnuť praktickú užitočnosť skôr ako fyzickí roboti, hoci fyzický svet môže ponúkať väčšie trhové príležitosti. Kľúčovým poznatkom je, že manipulácia s digitálnymi informáciami je približne tisíckrát lacnejšia než manipulácia s fyzickou hmotou. AI agent dokáže vykonať milióny úloh na internete s minimálnymi výpočtovými nákladmi, zatiaľ čo humanoidný robot sa musí fyzicky pohybovať v priestore, manipulovať s objektmi a prekonávať fyzikálne obmedzenia. Tento rozdiel v nákladoch znamená, že digitálni agenti pravdepodobne dosiahnu ekonomickú životaschopnosť a rozšírené nasadenie oveľa skôr ako humanoidní roboti. Karpathy však dodáva zaujímavý protiargument: trhová príležitosť vo fyzickom svete môže byť napokon väčšia než v digitálnom. Znalostná práca – doména, kde pôsobia digitálni agenti – je síce významný trh, no fyzická automatizácia by mohla transformovať výrobu, stavebníctvo, logistiku a množstvo ďalších odvetví. Súčasné zameranie na digitálnych agentov odráža nielen technickú uskutočniteľnosť, ale aj okamžitú ekonomickú príležitosť v automatizácii znalostnej práce. Ako budú digitálni agenti dozrievať a stávať sa ekonomicky hodnotnými, získané zdroje a poznatky pravdepodobne urýchlia pokrok aj vo fyzickej robotike, čím vytvoria svet zmiešanej autonómie, v ktorom sa ľudia čoraz viac stávajú vysokopostavenými supervízormi nízkoúrovňovej automatizácie v digitálnej aj fyzickej oblasti.

FlowHunt a budúcnosť orchestrácie AI agentov

Ako organizácie začnú implementovať AI agentov, stáva sa čoraz kritickejšou výzva orchestrácie viacerých agentov, riadenia ich interakcií a zabezpečenia spoľahlivého výkonu. Tu zohrávajú platformy ako FlowHunt zásadnú úlohu v rozvíjajúcej sa AI infraštruktúre. FlowHunt umožňuje tímom budovať, testovať a nasadzovať komplexné AI pracovné toky, ktoré využívajú viac agentov a modelov v súčinnosti. Namiesto toho, aby každú AI schopnosť brali izolovane, FlowHunt umožňuje organizáciám vytvárať sofistikované automatizačné toky, ktoré spájajú výskum, generovanie obsahu, analýzu a rozhodovanie do koherentných systémov. Platforma rieši mnohé zo scaffolding výziev, ktoré Karpathy identifikuje ako kľúčové pre dekádu agentov. Poskytovaním nástrojov na návrh, monitoring a optimalizáciu pracovných tokov pomáha FlowHunt preklenúť priepasť medzi pôsobivými AI schopnosťami a praktickými, ekonomicky hodnotnými aplikáciami. Ako sa bude dekáda agentov rozvíjať, platformy, ktoré dokážu efektívne orchestrujovať agentné systémy, budú čoraz hodnotnejšie, keďže umožnia organizáciám vyťažiť maximum z AI investícií pri zachovaní kontroly, transparentnosti a spoľahlivosti.

Rámec zvieratá verzus duchovia: Ako sa LLM učia

Jedným z najpodnetnejších príspevkov Karpathyho do AI diskusie je jeho rozlíšenie spôsobu, akým sa učia zvieratá a ako sa učia veľké jazykové modely. Tento rámec poskytuje kľúčový vhľad do schopností aj limitov dnešných AI systémov. Zvieratá, vrátane ľudí, sa rodia s obrovským množstvom vrodenej inteligencie zakódovanej v DNA prostredníctvom miliónov rokov evolúcie. Napríklad novonarodená zebra dokáže vstať a chodiť v priebehu niekoľkých hodín po narodení – čo si vyžaduje sofistikované pochopenie rovnováhy, motoriky a priestorového vnímania. Toto poznanie nie je naučené; je zdedené evolučnými procesmi. Učenie, ktoré zvieratá naozaj vykonávajú, je v porovnaní s obrovským množstvom vrodených vedomostí relatívne malé. Učia sa zdokonaľovať inštinkty, prispôsobovať sa svojmu prostrediu a rozvíjať zručnosti v rámci rámca evolučného dedičstva. Naopak, veľké jazykové modely sa učia úplne iným spôsobom. Namiesto dedenia evolučných vedomostí sú LLM trénované na obrovských dátach z internetu pomocou predikcie ďalšieho tokenu – v podstate sa učia predpovedať ďalšie slovo v sekvencii. Tento prístup sa ukázal ako mimoriadne efektívny pri zachytávaní vzorcov v ľudskom poznaní a jazyku, no funguje mechanizmom, ktorý Karpathy opisuje ako bližší “duchom či spiritom” než biologickému učeniu. LLM nemajú vtelené, evolučné poznanie, ktoré majú zvieratá; namiesto toho absorbovali vzorce z ľudských textov. Tento rozdiel má zásadné dôsledky pre pochopenie silných aj slabých stránok dnešných AI systémov.

Problém memorovania: Prečo LLM ešte negeneralizujú

Zásadným obmedzením súčasných LLM je podľa Karpathyho ich tendencia skôr memorovať než generalizovať. Hoci tieto modely vykazujú pôsobivý výkon v benchmarkoch aj v praxi, veľká časť ich úspechu pramení z toho, že počas tréningu videli podobné vzory, a nie zo skutočného porozumenia a generalizácie. Skutočná generalizácia by znamenala schopnosť aplikovať nadobudnuté princípy v nových situáciách, ktoré sa významne líšia od tréningových dát. Tu prichádzajú na rad benchmarky ako ARC Prize (Abstraction and Reasoning Corpus) – tie testujú práve generalizáciu, nie memorovanie. Rozdiel medzi memorovaním a generalizáciou nie je len akademickou otázkou; je zásadný pre dosiahnutie AGI. Systém, ktorý memoruje, môže byť úspešný v úlohách podobných tým, na ktorých bol trénovaný, no katastroficky zlyhá pri skutočne nových problémoch. Dosiahnutie skutočnej generalizácie si vyžaduje zásadne odlišné učebné mechanizmy, než sa používajú pri tréningu LLM. Karpathyho skepticizmus k dnešnej ceste k AGI pramení čiastočne z uvedomenia, že sme vybudovali pôsobivé memorovacie stroje, ale zatiaľ sme neodhalili zákonitosti skutočnej generalizácie. Modely sú “duchovia” v zmysle, že absorbovali vzorce z ľudského poznania, no chýba im hlboké porozumenie a flexibilné uvažovanie charakteristické pre biologickú inteligenciu. Posun od memorovania k generalizácii si vyžiada nielen lepšie dáta či väčšie modely, ale nové prístupy k učeniu, ktoré sa viac približujú spôsobu, akým biologické systémy rozvíjajú porozumenie prostredníctvom interakcie so svetom.

Reinforcement learning: Sľuby a limity

Reinforcement learning (RL) sa stal centrálnym bodom pre mnohé AI laboratóriá, ktoré sa usilujú o AGI, pričom spoločnosti ako OpenAI, DeepMind a ďalšie do RL investujú masívne. Karpathy však vyjadruje významnú skepsu voči RL ako hlavnej ceste k AGI, hoci uznáva jeho potenciál. Jeho kritika sa sústreďuje na niekoľko základných limitov dnešných RL prístupov. Po prvé, identifikuje problém “nasávania supervízie slamkou” (sucking supervision through a straw) – teda, že signál v RL je mimoriadne slabý vzhľadom na množstvo šumu. Inak povedané, množstvo skutočného učenia na jednotku výpočtu je veľmi nízke. Táto neefektivita sa s narastajúcou komplexnosťou domén ešte zhoršuje. Po druhé, Karpathy zdôrazňuje problém odmien založených na výsledku. Ak model dostáva spätnú väzbu len na základe toho, či je jeho finálna odpoveď správna, ťažko sa učí z medzikrokov, ktoré k tej odpovedi viedli. Predstavte si jednoduchý príklad: ak model rieši matematický problém cez niekoľko nesprávnych medzistupňov, ale nakoniec správne odpovie, celá séria krokov je odmenená, vrátane chybných úvah. To vytvára šum, ktorý môže posilňovať zlé vzorce uvažovania. Procesné odmeny sa snažia tento problém riešiť poskytovaním spätnej väzby na medzikroky, no prinášajú vlastné problémy. Ak model prejde piatimi správnymi krokmi, ale nakoniec odpovie zle, signál je kontradiktórny – medzikroky boli dobré, ale výsledok zlý. Táto nejednoznačnosť sťažuje efektívne učenie. Karpathyho skepticizmus k RL neznamená, že ho považuje za zbytočný; skôr neverí, že je hlavnou pákou na dosiahnutie AGI. Vyjadruje sa, že je “dlho za agentnou interakciou, ale krátko za reinforcement learningom”, čo naznačuje, že alternatívne učebné paradigmy budú účinnejšie. Tento postoj, hoci je v protiklade s nadšením priemyslu pre RL, odráža hlboké pochopenie technických výziev spojených so škálovaním RL pre skutočnú všeobecnú inteligenciu.

Agentná interakcia a modely sveta: Alternatívna cesta

Ak je Karpathy skeptický k reinforcement learningu ako hlavnej ceste k AGI, čo považuje za nádejnejšie? Jeho odpoveď smeruje k agentnej interakcii a modelom sveta. Namiesto učenia sa zo statických datasetov alebo odmien za výsledky by sa agenti mohli učiť interakciou so simulovaným alebo skutočným prostredím, pričom by si rozvíjali stále sofistikovanejšie modely toho, ako svet funguje. Tento prístup má historický precedens vo výskume AI. Úspech DeepMind pri vytváraní AI systémov, ktoré ovládli komplexné hry ako Go, stál na tom, že agenti hrali proti sebe v simulovanom prostredí a postupne sa zlepšovali interakciou, nie učiac sa na základe ľudských ukážok. Modely sveta predstavujú obzvlášť nádejný smer. Model sveta je v podstate naučená reprezentácia toho, ako svet funguje – fyziky, kauzality a dynamiky, ktoré určujú výsledky. Agent vybavený modelom sveta dokáže rozmýšľať o dôsledkoch svojich činov ešte predtým, než ich vykoná, plánovať viacero krokov dopredu a efektívnejšie prenášať poznatky z jednej domény do druhej než systémy bez modelu sveta. Nedávna práca spoločností ako DeepMind (Genie), NVIDIA (Cosmos), Meta (V-JEPA) a Wayve (GAIA-2) ukazuje narastajúce investície do výskumu modelov sveta. Tieto systémy sa učia predpovedať, ako sa vizuálne scény budú vyvíjať na základe akcií agenta, čím vytvárajú akési pieskovisko, v ktorom agenti môžu experimentovať a učiť sa. Výhodou tohto prístupu je, že viac odráža spôsob, akým sa učia biologické systémy – interakciou s prostredím a rozvíjaním kauzálneho porozumenia. Namiesto memorovania vzorcov z textu sa agenti učia aktívnym experimentovaním a pozorovaním dôsledkov. Tento prístup tiež priamo rieši problém generalizácie, pretože pochopenie kauzálnych vzťahov a dynamiky sveta sa prenáša do nových situácií lepšie než memorované vzorce.

Učenie systémových promptov: Nová hranica vo vývoji AI

Karpathy odkazuje na svoju skoršiu prácu o “učení systémových promptov” (system prompt learning), čo je pojem predstavujúci dôležitý posun v tom, ako rozmýšľame o trénovaní a adaptácii AI. Učenie systémových promptov znamená, že veľkú časť správania a schopností AI systému možno formovať starostlivým dizajnom systémového promptu – teda inštrukcií a kontextu poskytnutého modelu na začiatku interakcie. Namiesto nákladného pretrénovania alebo doladenia modelov sa učenie systémových promptov opiera o optimalizáciu promptov, ktoré riadia správanie modelu. Tento koncept má zásadné dôsledky pre dekádu agentov. Ako budú organizácie nasadzovať agentov na rôzne úlohy, budú potrebovať mechanizmy, ako týchto agentov prispôsobiť špecifickým doménam, odvetviam a prípadom použitia bez nutnosti plného pretrénovania. Učenie systémových promptov poskytuje škálovateľný prístup k tejto adaptácii. Starostlivým navrhovaním systémových promptov, ktoré zahŕňajú doménové znalosti, špecifikácie úloh a správania, môžu organizácie vytvárať špecializovaných agentov z univerzálnych modelov. Tento prístup zodpovedá aj pojmu scaffolding – infraštruktúrna a nástrojová vrstva medzi surovými schopnosťami modelu a praktickými aplikáciami. Učenie systémových promptov je súčasťou tejto vrstvy a umožňuje organizáciám vyťažiť maximum z AI modelov bez nutnosti hlbokých technických znalostí o tréningu modelov. Karpathy poznamenáva, že niekoľko nedávnych vedeckých prác “ide správnym smerom” v skúmaní učenia systémových promptov a príbuzných konceptov, čo naznačuje, že tento smer získava na význame v komunite.

Problém scaffolding: Prečo je infraštruktúra dôležitejšia než schopnosti modelu

Možno najdôležitejším poznatkom Karpathyho analýzy je dôraz na “scaffolding problem” – priepasť medzi surovými schopnosťami modelu a praktickými, ekonomicky hodnotnými aplikáciami. Tento koncept, niekedy označovaný ako “model overhang”, uznáva, že dnešné špičkové modely majú schopnosti, ktoré ďaleko prevyšujú to, čo sme reálne nasadili a zmonetizovali. Inteligencia je v modeloch prítomná, ale infraštruktúra, pamäťové systémy a integračné vzory potrebné na skutočné využitie tejto inteligencie sa ešte len budujú. Scaffolding zahŕňa množstvo komponentov: robustné API a rozhrania na prístup k modelom, pamäťové systémy na udržiavanie kontextu a učenie sa zo skúseností, monitorovacie a pozorovacie nástroje na pochopenie správania agentov, bezpečnostné mechanizmy na predchádzanie zneužitiu, integračné vzory na prepojenie agentov s existujúcimi biznis systémami a používateľské rozhrania, ktoré sprístupňujú agentov aj netechnickým používateľom. Dekáda agentov bude do veľkej miery venovaná budovaniu tohto scaffoldingu. Firmy a výskumníci budú vytvárať najlepšie postupy pre nasadzovanie agentov, vyvíjať nástroje a platformy, ktoré zjednodušia vývoj agentov, zavádzať bezpečnostné štandardy a integrovať agentné systémy do širšieho technologického ekosystému. Táto práca je menej atraktívna ako vývoj nových architektúr modelov či dosahovanie prelomových schopností, no je absolútne nevyhnutná na preklopenie AI schopností do ekonomickej hodnoty. Karpathyho dôraz na scaffolding odráža zrelé pochopenie vývoja technológií – prelomové schopnosti sú nutné, ale na skutočný dopad nestačia. Firmy a platformy, ktoré úspešne vybudujú scaffolding vrstvu, budú mať v dekáde agentov významnú konkurenčnú výhodu, aj keď nevyvinú tie najpokročilejšie modely.

Zostávajúca práca: Bezpečnosť, ochrana a spoločenská integrácia

Okrem technických výziev scaffoldingu a generalizácie Karpathy identifikuje ďalšie oblasti práce, ktoré je potrebné dokončiť pred dosiahnutím AGI. Bezpečnosť a ochrana predstavujú kľúčové obavy. Ako budú AI agenti schopnejší a autonómnejší, bude čoraz dôležitejšie zaručiť ich bezpečnú a spoľahlivú prevádzku. To zahŕňa prevenciu jailbreakov (pokusov manipulovať agentov tak, aby ignorovali svoje smernice), obranu proti poisoning útokom (snaha poškodiť tréningové dáta alebo správanie agenta) a vývoj robustných mechanizmov zarovnania, ktoré zabezpečia sledovanie zamýšľaných cieľov. Spoločenské aspekty predstavujú ďalší dôležitý rozmer. Nasadenie čoraz schopnejších AI agentov bude mať zásadný vplyv na zamestnanosť, vzdelávanie, ekonomickú nerovnosť aj spoločenské štruktúry. Vývoj vhodných politík, regulácií a spoločenských rámcov pre integráciu AI si vyžaduje vstup od politikov, etikov, sociológov aj širokej verejnosti. Táto práca sa nedá urýchliť a pravdepodobne presiahne aj dekádu agentov. Integrácia s fyzickým svetom prináša ďalšie výzvy. Kým digitálni agenti môžu fungovať len v digitálnej sfére, množstvo hodnotných aplikácií vyžaduje interakciu agentov s fyzickými systémami – ovládanie robotov, riadenie výrobných procesov, koordináciu logistiky. To si vyžaduje nielen schopnú AI, ale aj vhodné senzory, pohony a fyzickú infraštruktúru. Taktiež zostáva množstvo výskumnej práce. Aj keď dnešné modely ukazujú pôsobivé schopnosti, ostávajú zásadné otázky: ako dosiahnuť skutočnú generalizáciu, ako budovať systémy schopné rozumieť kauzalite a kontrafaktom, ako vytvárať agentov, ktorí sa vedia neustále učiť a adaptovať, nie len počas tréningu, a ako tieto prístupy škálovať na zložitosť reálnych domén. Karpathyho horizont 10+ rokov odráža rozsah tejto zostávajúcej práce naprieč všetkými týmito rozmermi.

Umiestnenie medzi extrémami: Vyvážený pohľad na pokrok AI

Karpathyho analýza je pozoruhodná svojím zámerným umiestnením medzi dvoma extrémami: nespútaným optimizmom AI nadšencov, ktorí očakávajú príchod AGI v priebehu rokov, a skepticizmom AI popieračov, ktorí bagatelizujú skutočný pokrok. Svoje časové odhady opisuje ako “päť- až desaťkrát pesimistickejšie” než by ste počuli na bežných AI konferenciách, no “mimoriadne optimistické” v porovnaní so širším skepticizmom o potenciáli AI. Tento vyvážený pohľad je ukotvený v niekoľkých pozorovaniach. Po prvé, pokrok vo veľkých jazykových modeloch za posledné dva roky je skutočne pozoruhodný. Schopnosti,