Dekada Agentów AI: Karpathy o Harmonogramie AGI

Wprowadzenie

Andrej Karpathy, jedna z najbardziej wpływowych postaci w dziedzinie sztucznej inteligencji i były dyrektor AI w Tesli, niedawno zwrócił uwagę opinii publicznej, stwierdzając, że sztuczna inteligencja ogólna (AGI) jest wciąż oddalona o około 10 do 15 lat. To stanowisko znacząco kontrastuje z przeważającym optymizmem Doliny Krzemowej i entuzjastów AI, którzy często ogłaszają, że przełomowe możliwości AI są tuż za rogiem. Zamiast lekceważyć niezwykły postęp, jaki zaobserwowaliśmy w przypadku dużych modeli językowych od końca 2022 roku, Karpathy oferuje bardziej wyważoną i realistyczną ocenę miejsca, w którym faktycznie jesteśmy na drodze rozwoju AI. Jego analiza ujawnia kluczową lukę między imponującymi możliwościami obecnych systemów AI a znaczną pracą, która jeszcze pozostała do osiągnięcia prawdziwej sztucznej inteligencji ogólnej. W tej obszernej analizie przyjrzymy się szczegółowemu rozumowaniu Karpathy’ego na temat harmonogramu AGI, rozróżnieniu między „rokiem agentów” a „dekadą agentów”, fundamentalnym różnicom w sposobie uczenia się LLM i systemów biologicznych oraz temu, dlaczego pozostaje sceptyczny wobec niektórych popularnych podejść, takich jak uczenie przez wzmocnienie jako główna ścieżka rozwoju. Zrozumienie tych wniosków jest kluczowe dla każdego, kto chce pojąć realistyczną trajektorię rozwoju AI i wyzwania, które stoją przed nami.

Sztuczna Inteligencja Ogólna: Poza Obecnymi Możliwościami

Sztuczna inteligencja ogólna oznacza teoretyczny stan, w którym system AI potrafi rozumieć, uczyć się i stosować wiedzę w dowolnej dziedzinie intelektualnej z taką samą elastycznością i adaptacyjnością jak człowiek. W przeciwieństwie do wąskich systemów AI, które świetnie radzą sobie z określonymi zadaniami — jak gra w szachy, rozpoznawanie obrazów czy generowanie tekstu — AGI posiadałoby zdolność przenoszenia nauki z jednej dziedziny do drugiej, rozwiązywania nowych problemów bez jawnego treningu oraz wykazywania rzeczywistych umiejętności rozumowania. Różnica między obecnymi dużymi modelami językowymi a prawdziwym AGI to nie tylko kwestia skali czy wskaźników wydajności; to fundamentalna różnica w sposobie działania tych systemów oraz w tym, co mogą osiągnąć. Obecne LLM, mimo imponujących możliwości generowania spójnych tekstów, odpowiadania na złożone pytania, a nawet pisania kodu, są w istocie systemami rozpoznawania wzorców trenowanymi na ogromnych ilościach danych z internetu. Świetnie interpolują w zakresie danych treningowych, ale mają trudności z prawdziwą ekstrapolacją i rozwiązywaniem nowych problemów w sposób, który byłby trywialny dla człowieka o ogólnej inteligencji. Droga do AGI wymaga nie tylko lepszych modeli, ale całkowicie nowych podejść do uczenia się, rozumowania i interakcji ze światem. To dlatego ocena Karpathy’ego, że AGI jest oddalone o 10+ lat, jest tak znacząca — uznaje zarówno rzeczywisty postęp, jak i ogrom wyzwań, których nie da się pokonać tylko przez stopniowe ulepszanie obecnych rozwiązań.

Dlaczego Branża AI Nie Docenia Czasu Rozwoju

Branża technologiczna ma dobrze udokumentowaną historię przeceniania postępu w krótkim terminie, przy jednoczesnym niedocenianiu długofalowych przemian. W kontekście AI objawia się to rozbieżnością między imponującymi możliwościami prezentowanymi przez najnowsze modele a faktycznym wdrożeniem tych możliwości w systemy o realnej wartości ekonomicznej. Gdy OpenAI, Google i inne laboratoria ogłaszają nowe modele o niezwykłych zdolnościach, media i inwestorzy często zakładają natychmiastowy wpływ tych możliwości na rzeczywistość. Jednak droga od sprawnego modelu do wdrożonego, niezawodnego i wartościowego ekonomicznie systemu obejmuje liczne wyzwania, które są często pomijane w ekscytacji przełomami technologicznymi. Wśród nich są budowa solidnej infrastruktury, integracja systemów AI z istniejącymi procesami biznesowymi, kwestie bezpieczeństwa i ochrony, rozwój odpowiednich interfejsów użytkownika, a przede wszystkim rozwiązanie „problemu scaffolingu” — luki między surowymi możliwościami modelu a praktycznymi zastosowaniami. Perspektywa Karpathy’ego odzwierciedla dojrzałe zrozumienie tej luki, wynikające z doświadczenia w budowie systemów AI na dużą skalę. Zauważa on, że osoby najbardziej zanurzone w rozwoju AI — zarówno w laboratoriach badawczych, firmach technologicznych, jak i społecznościach AI — są najczęściej największymi optymistami odnośnie krótkoterminowych harmonogramów, często o czynnik pięć do dziesięciu razy. Ten optymizm wynika z bliskości do najnowszych możliwości i tendencji do niedoceniania wyzwań integracyjnych. Tymczasem sceptycy i osoby negujące AI często lekceważą rzeczywisty postęp, nie doceniając, jak daleko zaszła ta dziedzina. Karpathy świadomie pozycjonuje się pośrodku, uznając zarówno prawdziwe przełomy, jak i znaczną pracę, która jeszcze pozostała.

Różnica między Rokiem Agentów a Dekadą Agentów

Jednym z najważniejszych doprecyzowań Karpathy’ego jest zdefiniowanie terminologii dotyczącej agentów AI. Kiedy liderzy branży ogłaszają, że „2025 to rok agentów”, zwykle mają na myśli, że agenci AI staną się głównym obszarem zainteresowania, inwestycji i początkowych wdrożeń. To niemal pewne — już teraz obserwujemy wzmożone zainteresowanie systemami agentowymi, a firmy takie jak OpenAI wprowadzają narzędzia pozwalające agentom kontrolować przeglądarki internetowe i wykonywać zadania w imieniu użytkowników. Karpathy argumentuje jednak, że choć 2025 może być rokiem, gdy agenci zdobędą uwagę mainstreamu, rzeczywisty rozwój i upowszechnienie naprawdę użytecznych, niezawodnych i ekonomicznie wartościowych agentów zajmie całą dekadę. To rozróżnienie jest kluczowe, ponieważ oddziela cykle hype’u od rzeczywistego dojrzewania technologii. „Dekada agentów” to okres, w którym powstaną i zostaną udoskonalone infrastruktura, dobre praktyki, mechanizmy bezpieczeństwa i wzorce integracji dla systemów agentowych. W tej dekadzie agenci przejdą od imponujących demonstracji do niezawodnych narzędzi, na których firmy i osoby będą polegać w krytycznych zadaniach. Harmonogram ten jest zgodny z historycznymi wzorcami wdrażania technologii — Internet stał się obiektem uwagi w latach 90., ale dopiero w latach 2000. i 2010. naprawdę przekształcił gospodarkę. Podobnie agenci AI mogą przyciągnąć uwagę w 2025 roku, lecz ich prawdziwy wpływ ekonomiczny rozwinie się w kolejnej dekadzie.

Agenci AI kontra Humanoidalne Roboty: Automatyzacja Cyfrowa vs. Fizyczna

Karpathy kreśli interesującą analogię między agentami AI w świecie cyfrowym a robotami humanoidalnymi w świecie fizycznym. Oba podejścia to próby stworzenia systemów ogólnego przeznaczenia, które mogą wykonywać dowolne zadania przez zaprojektowany przez człowieka interfejs — w przypadku agentów jest to przeglądarka internetowa i interfejs klawiatura/mysz, w przypadku robotów — ludzkie ciało z sensorami i aktuatorami. Porównanie to pokazuje, dlaczego agenci cyfrowi mogą szybciej osiągnąć praktyczną użyteczność niż roboty fizyczne, mimo że świat fizyczny może mieć większy potencjał rynkowy. Kluczowy wniosek jest taki, że manipulowanie informacją cyfrową jest około tysiąc razy tańsze niż manipulowanie materią fizyczną. Agent AI może wykonać miliony zadań w internecie przy minimalnym koszcie obliczeniowym, podczas gdy robot humanoidalny musi poruszać się fizycznie w przestrzeni, manipulować obiektami i pokonywać ograniczenia fizyki. Ta różnica kosztów oznacza, że agenci cyfrowi prawdopodobnie szybciej osiągną rentowność i szerokie wdrożenie niż roboty humanoidalne. Karpathy zauważa jednak ciekawą przeciwwagę: potencjalny rynek w świecie fizycznym może być ostatecznie większy niż w cyfrowym. Praca wiedzy — obszar działania agentów cyfrowych — to ogromny rynek, ale automatyzacja fizyczna może w przyszłości zmienić produkcję, budownictwo, logistykę i wiele innych branż. Obecne skupienie na agentach cyfrowych wynika nie tylko z wykonalności technicznej, ale też z natychmiastowej okazji ekonomicznej w automatyzacji pracy wiedzy. W miarę jak agenci cyfrowi dojrzewają i zyskują wartość, zasoby i doświadczenia zdobyte w tym obszarze prawdopodobnie przyspieszą rozwój robotyki, tworząc świat mieszanej autonomii, gdzie ludzie stają się coraz częściej nadzorcami niskopoziomowej automatyzacji zarówno w domenie cyfrowej, jak i fizycznej.

FlowHunt i Przyszłość Orkiestracji Agentów AI

W miarę jak organizacje zaczynają wdrażać agentów AI, zarządzanie wieloma agentami, kontrola ich interakcji oraz zapewnienie niezawodnego działania staje się coraz ważniejsze. Właśnie tu istotną rolę odgrywają platformy takie jak FlowHunt w rodzącym się ekosystemie AI. FlowHunt umożliwia zespołom budowanie, testowanie i wdrażanie złożonych przepływów AI z udziałem wielu agentów i modeli działających wspólnie. Zamiast traktować każdą funkcjonalność AI osobno, FlowHunt pozwala organizacjom tworzyć zaawansowane pipeline’y automatyzacji, które łączą badania, generowanie treści, analizę i podejmowanie decyzji w spójne systemy. Platforma rozwiązuje wiele problemów scaffolingu, które Karpathy wskazuje jako kluczowe dla dekady agentów. Udostępniając narzędzia do projektowania przepływów, monitoringu i optymalizacji, FlowHunt pomaga wypełnić lukę między imponującymi możliwościami AI a praktycznymi, wartościowymi ekonomicznie zastosowaniami. W miarę jak dekada agentów będzie się rozwijać, platformy skutecznie orkiestrujące systemy agentowe będą coraz cenniejsze, umożliwiając organizacjom maksymalne wykorzystanie inwestycji w AI przy zachowaniu kontroli, przejrzystości i niezawodności.

Model Zwierzęta kontra Duchy: Jak Uczą się LLM

Jednym z najbardziej inspirujących wkładów Karpathy’ego w dyskusję o AI jest rozróżnienie sposobu uczenia się zwierząt i dużych modeli językowych. Ramy te dostarczają kluczowego wglądu zarówno w możliwości, jak i ograniczenia obecnych systemów AI. Zwierzęta, w tym ludzie, rodzą się z olbrzymią ilością wrodzonej inteligencji zakodowanej w DNA przez miliony lat ewolucji. Nowo narodzona zebra potrafi np. stanąć i chodzić w ciągu kilku godzin po urodzeniu — to wymaga zaawansowanego rozumienia równowagi, kontroli ruchu i orientacji przestrzennej. Ta wiedza nie jest nabywana, lecz dziedziczona ewolucyjnie. Uczenie się zwierząt polega raczej na udoskonalaniu instynktów, adaptacji do konkretnego środowiska i rozwijaniu umiejętności w ramach dziedziczonych mechanizmów. Z kolei duże modele językowe uczą się zupełnie inaczej. Zamiast dziedziczyć wiedzę ewolucyjną, LLM są trenowane na ogromnych ilościach tekstów z internetu, przewidując kolejne tokeny — czyli ucząc się przewidywać następne słowo w sekwencji. To podejście okazało się bardzo skuteczne w wychwytywaniu wzorców wiedzy i języka ludzi, ale działa na zasadzie, którą Karpathy określa jako bliższą „duchom” niż biologicznemu uczeniu. LLM nie posiadają ucieleśnionej, ewolucyjnej wiedzy jak zwierzęta; pochłonęły raczej wzorce z tekstów tworzonych przez ludzi. To rozróżnienie ma głębokie konsekwencje dla zrozumienia zarówno mocnych, jak i słabych stron obecnych systemów AI.

Problem Zapamiętywania: Dlaczego LLM Jeszcze Nie Uogólniają

Według Karpathy’ego kluczowym ograniczeniem obecnych LLM jest ich skłonność do zapamiętywania, a nie uogólniania. Choć modele te osiągają imponujące wyniki w testach i zastosowaniach praktycznych, wiele ich sukcesów wynika z „widzenia” podobnych wzorców podczas treningu, a nie z rzeczywistego zrozumienia i uogólniania. Prawdziwe uogólnianie oznacza zdolność stosowania poznanych zasad do nowych sytuacji, znacząco różniących się od danych treningowych. Tu właśnie istotne są benchmarki takie jak ARC Prize (Abstraction and Reasoning Corpus) — testują one zdolność do uogólniania, a nie zapamiętywania. Różnica ta nie jest tylko akademicka — to fundament drogi do AGI. System, który zapamiętuje, radzi sobie dobrze w zadaniach podobnych do treningowych, ale zawodzi całkowicie w przypadku rzeczywiście nowych problemów. Osiągnięcie prawdziwego uogólniania wymaga zupełnie innych mechanizmów uczenia niż te stosowane obecnie w treningu LLM. Sceptycyzm Karpathy’ego wobec obecnej ścieżki do AGI wynika częściowo właśnie z tego, że zbudowaliśmy imponujące maszyny do zapamiętywania, ale nie rozwiązaliśmy jeszcze zagadki prawdziwego uogólniania. Modele są „duchami” w tym sensie, że pochłonęły wzorce wiedzy ludzkiej, lecz brakuje im głębokiego zrozumienia i elastycznego rozumowania, które cechuje inteligencję biologiczną. Przejście od zapamiętywania do uogólniania wymaga nie tylko lepszych danych treningowych czy większych modeli, ale nowych podejść do uczenia się, bliższych temu, jak systemy biologiczne rozwijają zrozumienie przez interakcję ze światem.

Uczenie przez Wzmocnienie: Obietnice i Ograniczenia

Uczenie przez wzmocnienie (RL) stało się centralnym obszarem zainteresowania wielu laboratoriów AI dążących do AGI, a firmy takie jak OpenAI, DeepMind i inne inwestują mocno w podejścia oparte na RL. Karpathy wyraża jednak znaczący sceptycyzm wobec RL jako głównej drogi do AGI, choć dostrzega jej potencjał. Jego krytyka koncentruje się na kilku fundamentalnych ograniczeniach obecnych metod RL. Po pierwsze, wskazuje na problem „ssania nadzoru przez słomkę” — sygnał do szumu w RL jest bardzo słaby. Innymi słowy, ilość rzeczywistego uczenia przypadająca na jednostkę obliczeń jest bardzo niska. Ta nieefektywność staje się coraz poważniejsza przy próbach skalowania RL do bardziej złożonych domen. Po drugie, Karpathy podkreśla problem nagród opartych na rezultatach w systemach RL. Gdy model otrzymuje informację zwrotną tylko na temat poprawności końcowej odpowiedzi, nie uczy się z kroków pośrednich prowadzących do tego wyniku. Przykładowo: jeśli model rozwiązuje zadanie matematyczne, mając po drodze wiele błędnych przemyśleń, ale dociera do poprawnego wyniku końcowego, cała sekwencja rozumowania zostaje nagrodzona, włącznie z błędnymi etapami. To generuje szum w sygnale uczącym i może wzmacniać złe wzorce rozumowania. Nagrody procesowe próbują to rozwiązać, dając informację zwrotną za kroki pośrednie, lecz mają własne problemy. Jeśli model wykona pięć poprawnych kroków rozumowania, ale osiągnie zły wynik końcowy, sygnał nagrody procesowej staje się sprzeczny — kroki były dobre, ale całość zła. Ta niejednoznaczność utrudnia skuteczną naukę. Sceptycyzm Karpathy’ego wobec RL nie oznacza, że uważa ją za bezużyteczną; raczej nie widzi jej jako głównej dźwigni w drodze do AGI. Przyznaje, że jest „long agentic interaction, short reinforcement learning” — sugerując, że bardziej efektywne okażą się alternatywne paradygmaty uczenia. To stanowisko, choć sprzeczne z dominującym entuzjazmem branży wobec RL, odzwierciedla głębokie zrozumienie technicznych wyzwań skalowania RL do prawdziwej inteligencji ogólnej.

Interakcje Agentowe i Modele Świata: Alternatywna Ścieżka

Jeśli Karpathy jest sceptyczny wobec RL jako głównej drogi do AGI, to co uważa za bardziej obiecujące? Jego odpowiedź wskazuje na interakcje agentowe i modele świata. Zamiast uczyć się na statycznych zbiorach danych lub nagrodach za wynik, agenci mogą się uczyć poprzez interakcje z symulowanymi lub rzeczywistymi środowiskami, rozwijając coraz bardziej zaawansowane modele działania świata. Takie podejście ma precedens historyczny w badaniach AI. Sukces DeepMind w tworzeniu systemów AI, które opanowały gry takie jak Go, opierał się na agentach grających przeciwko sobie w symulowanych środowiskach, stopniowo ulepszających się dzięki interakcji, a nie uczeniu nadzorowanemu na danych ludzkich. Modele świata to szczególnie obiecujący kierunek. Model świata to wyuczona reprezentacja zasad działania świata — fizyki, przyczynowości, dynamiki procesów. Agent wyposażony w model świata potrafi przewidywać konsekwencje własnych działań, planować kilka kroków naprzód i efektywniej przenosić wiedzę między domenami niż systemy bez modeli świata. Najnowsze prace firm takich jak DeepMind (Genie), NVIDIA (Cosmos), Meta (V-JEPA) i Wayve (GAIA-2) pokazują rosnące inwestycje w badania nad modelami świata. Systemy te uczą się przewidywać ewolucję scen wizualnych w oparciu o działania agenta, tworząc rodzaj „placu zabaw”, na którym agenci mogą eksperymentować i się uczyć. Zaletą tego podejścia jest to, że bliżej odzwierciedla ono sposób, w jaki uczą się systemy biologiczne — przez interakcję ze środowiskiem i rozwój rozumienia przyczynowości. Zamiast zapamiętywać wzorce z tekstu, agenci uczą się przez aktywne eksperymentowanie i obserwację skutków. Takie podejście lepiej rozwiązuje problem uogólniania, ponieważ rozumienie zależności przyczynowych i dynamiki świata łatwiej przenosi się na nowe sytuacje niż zapamiętane wzorce.

System Prompt Learning: Nowy Horyzont Rozwoju AI

Karpathy nawiązuje do swoich wcześniejszych prac nad „system prompt learning”, koncepcją oznaczającą istotną ewolucję w sposobach trenowania i adaptacji systemów AI. System prompt learning odnosi się do idei, że dużą część zachowań i możliwości systemu AI można kształtować przez staranne projektowanie promptu systemowego — instrukcji i kontekstu przekazywanego modelowi na początku interakcji. Zamiast kosztownego trenowania czy fine-tuningu, system prompt learning sugeruje, że można adaptować i ulepszać systemy AI przez optymalizację promptów kierujących ich zachowaniem. Ta koncepcja ma ogromne znaczenie dla dekady agentów. W miarę jak organizacje wdrażają agentów do różnych zadań, będą potrzebować mechanizmów adaptacji tych agentów do specyficznych branż, rynków czy przypadków użycia bez konieczności pełnego ponownego treningu. System prompt learning to skalowalne podejście do tej adaptacji. Poprzez staranne konstruowanie promptów systemowych, które zawierają wiedzę domenową, specyfikacje zadań i wytyczne dotyczące zachowania, organizacje mogą tworzyć wyspecjalizowanych agentów z modeli ogólnego przeznaczenia. To podejście wpisuje się także w koncepcję scaffolingu — infrastruktury i narzędzi, które łączą surowe możliwości modelu z praktycznymi zastosowaniami. System prompt learning jest częścią tej warstwy, umożliwiając organizacjom maksymalne wykorzystanie modeli AI bez potrzeby głębokiej wiedzy technicznej z zakresu trenowania modeli. Karpathy zauważa, że kilka najnowszych publikacji „idzie w dobrym kierunku”, eksplorując system prompt learning i pokrewne koncepcje, co sugeruje, że ten kierunek zyskuje na znaczeniu w społeczności badawczej.

Problem Scaffolingu: Dlaczego Infrastruktura Liczy się Bardziej niż Możliwości Modelu

Być może najważniejszym wnioskiem z analizy Karpathy’ego jest jego nacisk na „problem scaffolingu” — lukę między surowymi możliwościami modelu a praktycznymi, wartościowymi ekonomicznie zastosowaniami. Ta koncepcja, czasem nazywana „model overhang”, uznaje, że obecne modele czołowe mają zdolności znacznie przekraczające to, co faktycznie wdrożono i zmonetyzowano. Inteligencja jest już w modelach, ale narzędzia, infrastruktura, systemy pamięci i wzorce integracji potrzebne do jej wykorzystania dopiero powstają. Scaffolding obejmuje liczne elementy: solidne API i interfejsy do dostępu do modeli, systemy pamięci pozwalające agentom utrzymywać kontekst i uczyć się z doświadczenia, narzędzia do monitoringu i obserwowalności zachowań agentów, mechanizmy bezpieczeństwa i ochrony przed nadużyciami, wzorce integracji z istniejącymi systemami biznesowymi oraz interfejsy użytkownika udostępniające możliwości agentów osobom nietechnicznym. Dekada agentów będzie w dużej mierze poświęcona budowie tego scaffolingu. Firmy i badacze wypracują dobre praktyki wdrażania agentów, stworzą narzędzia i platformy ułatwiające ich rozwój, ustanowią standardy bezpieczeństwa i integracji oraz włączą systemy agentowe do szerszego ekosystemu technologicznego. Ta praca jest mniej spektakularna niż rozwój nowych architektur modeli czy przełomowych możliwości, ale absolutnie kluczowa dla przełożenia potencjału AI na realną wartość ekonomiczną. Nacisk Karpathy’ego na scaffolding odzwierciedla dojrzałe rozumienie rozwoju technologii — przełomowe możliwości są niezbędne, lecz niewystarczające dla rzeczywistego wpływu. Firmy i platformy, które skutecznie zbudują warstwę scaffolingu, prawdopodobnie zdobędą istotną część wartości podczas dekady agentów, nawet jeśli nie opracują najbardziej zaawansowanych modeli.

Pozostała Praca: Bezpieczeństwo, Ochrona i Integracja Społeczna

Poza technicznymi wyzwaniami scaffolingu i uogólniania, Karpathy wskazuje na kilka innych obszarów pracy, które należy wykonać przed osiągnięciem AGI. Bezpieczeństwo i ochrona to kwestie krytyczne. W miarę jak agenci AI stają się coraz bardziej autonomiczni, zapewnienie ich bezpiecznego i niezawodnego działania staje się coraz istotniejsze. Obejmuje to zapobieganie jailbreakom (próby zmuszenia agentów do ignorowania zasad), obronę przed atakami typu poisoning (próby skażenia danych treningowych lub zachowań agentów) oraz rozwój solidnych mechanizmów alignementu, gwarantujących dążenie agentów do zamierzonych celów. Praca społeczna to kolejny ważny wymiar. Wdrażanie coraz bardziej zaawansowanych agentów AI będzie miało ogromny wpływ na zatrudnienie, edukację, nierówności ekonomiczne i struktury społeczne. Opracowanie właściwych polityk, regulacji i ram społecznych dla integracji AI wymaga udziału decydentów, etyków, naukowców społecznych i szerokiej opinii publicznej. Tych działań nie można przyspieszyć i prawdopodobnie wykraczają one poza dekadę agentów. Integracja z fizycznym światem to kolejne wyzwanie. Podczas gdy agenci cyfrowi działają wyłącznie w domenie cyfrowej, wiele wartościowych zastosowań wymaga interakcji agentów z systemami fizycznymi — sterowanie robotami, zarządzanie produkcją, koordynacja logistyki. To wymaga nie tylko zdolnej AI, ale także odpowiednich sensorów, aktuatorów i infrastruktury fizycznej. Zakres badawczy również pozostaje ogromny. Choć obecne modele wykazują imponujące możliwości, wciąż nie wiemy, jak osiągnąć prawdziwe uogólnianie, budować systemy rozumiejące przyczynowość i kontrfakty, tworzyć agentów uczących się i adaptujących w sposób ciągły, ani jak skalować te podejścia do złożoności rzeczywistego świata. Harmonogram Karpathy’ego na 10+ lat odzwierciedla ogrom pracy do wykonania w tych wszystkich obszarach.

Między Skrajnościami: Wyważona Perspektywa na Postęp AI

Analiza Karpathy’ego wyróżnia się świadomym pozycjonowaniem pomiędzy dwoma skrajnościami: niepohamowanym optymizmem entuzjastów AI, którzy widzą AGI w perspektywie kilku lat, a sceptycyzmem osób negujących rzeczywisty postęp. Karpathy określa swoje przewidywania jako „pięć do dziesięciu razy bardziej pesymistyczne” niż to, co można usłyszeć na typowych branżowych spotkaniach AI, ale jednocześnie „skrajnie optymistyczne” w porównaniu do powszechnego sceptycyzmu wobec potencjału AI. Ta wyważona perspektywa opiera się na kilku obserwacjach. Po pierwsze, postęp dużych modeli językowych w ostatnich dwóch latach jest naprawdę niezwykły. Możliwości prezentowane przez modele takie jak GPT-4, Claude i inne to autentyczny skok w możliwościach AI. Umiejętność angażowania się w złożone rozumowanie, pisania kodu, analizy dokumentów i wspierania w zadaniach kreatywnych jeszcze niedawno wydawały się science fiction. Ten postęp jest realny i nie powinien być lekceważony. Po drugie, pozostaje ogrom pracy pomiędzy obecnymi możliwościami a prawdziwym AGI. Luka między imponującymi demonstracjami a niezawodnymi, wartościowymi ekonomicznie systemami jest znaczna. Wyzwania związane z uogólnianiem, bezpieczeństwem, integracją i wdrażaniem nie są trywialne i nie można ich przezwyciężyć jedynie stopniowymi ulepszeniami. Po trzecie, skłonność branży do cykli hype’u sprawia, że oczekiwania często rozmijają się z rzeczywistością. Gdy pojawia się nowy model o imponujących możliwościach, media i inwestorzy często prognozują natychmiastowy wpływ na rzeczywistość. Ten schemat powtarzał się wielokrotnie w historii AI, prowadząc do cykli entuzjazmu i rozczarowania. Wyważona perspektywa Karpathy’ego stara się uniknąć zarówno pułapki nadmiernego optymizmu, jak i błędu lekceważenia rzeczywistego postępu. Jego harmonogram 10+ lat dla AGI powinien być traktowany nie jako precyzyjna prognoza, lecz realistyczna ocena skali niezbędnej pracy, oparta na gł