Explorează perspectiva nuanțată a lui Andrej Karpathy asupra calendarului AGI, agenților AI și de ce următorul deceniu va fi critic pentru dezvoltarea inteligenței artificiale. Înțelege diferența dintre hype și realitate în avansul AI.
Andrej Karpathy, una dintre cele mai influente figuri din inteligența artificială și fost director de AI la Tesla, a făcut recent vâlvă declarând că inteligența artificială generală (AGI) este încă la aproximativ 10 până la 15 ani distanță. Această perspectivă contrastează puternic cu optimismul predominant din Silicon Valley și din rândul entuziaștilor AI, care adesea susțin că abilitățile transformative ale AI sunt la doar un pas. Karpathy nu respinge progresul remarcabil pe care l-am văzut la modelele mari de limbaj din 2022 încoace, ci oferă o evaluare mai nuanțată și ancorată în realitate a locului în care ne aflăm cu adevărat pe drumul dezvoltării AI. Analiza sa scoate în evidență un decalaj critic între capabilitățile impresionante ale sistemelor AI actuale și munca substanțială necesară pentru a atinge adevărata inteligență artificială generală. În această explorare cuprinzătoare, vom analiza raționamentul detaliat al lui Karpathy privind calendarul AGI, diferența dintre „anul agenților” și „deceniul agenților”, diferențele fundamentale dintre modul în care învață LLM-urile și sistemele biologice, și de ce rămâne sceptic față de anumite abordări populare precum învățarea prin întărire ca direcție principală. Înțelegerea acestor perspective este esențială pentru oricine dorește să priceapă traiectoria realistă a dezvoltării AI și provocările ce urmează.
Inteligența artificială generală reprezintă o stare teoretică în care un sistem AI poate înțelege, învăța și aplica cunoștințe în orice domeniu intelectual cu aceeași flexibilitate și adaptabilitate ca un om. Spre deosebire de sistemele AI înguste care excelează la sarcini specifice — precum șahul, recunoașterea imaginilor sau generarea de text — AGI ar putea transfera învățarea dintr-un domeniu în altul, ar rezolva probleme noi fără antrenament explicit și ar demonstra abilități reale de raționament. Diferența dintre modelele mari de limbaj actuale și adevăratul AGI nu este doar o chestiune de scară sau performanță; reprezintă o deosebire fundamentală în modul în care aceste sisteme operează și ce pot realiza. LLM-urile actuale, deși pot genera texte coerente, răspunde la întrebări complexe și chiar scrie cod, sunt fundamental sisteme de potrivire a tiparelor antrenate pe cantități uriașe de date de pe internet. Ele excelează la interpolarea în spațiul datelor de antrenament, dar au dificultăți cu extrapolarea reală și rezolvarea de probleme noi, în moduri care ar fi banale pentru un om cu inteligență generală. Drumul către AGI necesită nu doar modele mai bune, ci abordări cu totul noi de învățare, raționament și interacțiune cu lumea. De aceea, evaluarea lui Karpathy privind un orizont de peste 10 ani este semnificativă — recunoaște atât progresul autentic făcut, cât și provocările substanțiale care nu pot fi depășite doar prin îmbunătățiri incrementale.
Industria tehnologică are o istorie bine documentată de a supraestima progresul pe termen scurt și de a subestima transformarea pe termen lung. În contextul AI, această tendință se manifestă ca o deconectare între capabilitățile impresionante demonstrate de modelele de vârf și aplicarea lor efectivă în sisteme cu valoare economică. Când OpenAI, Google și alte laboratoare anunță noi modele cu abilități remarcabile, presa și investitorii extrapolează adesea aceste capabilități către un impact imediat în lumea reală. Însă drumul de la un model capabil la un sistem implementat, fiabil și valoros economic presupune numeroase provocări care sunt frecvent trecute cu vederea în entuziasmul descoperirilor tehnice. Aceste provocări includ construirea infrastructurii robuste, integrarea sistemelor AI cu procesele de afaceri existente, adresarea problemelor de siguranță și securitate, dezvoltarea unor interfețe de utilizator potrivite și, cel mai important, rezolvarea „problemei de schelă” — decalajul dintre capabilitățile brute ale modelului și aplicațiile practice. Perspectiva lui Karpathy reflectă o înțelegere matură a acestui decalaj, informată de experiența sa în construirea sistemelor AI la scară mare. El recunoaște că cei mai implicați în dezvoltarea AI — fie în laboratoare de cercetare, companii tech sau comunități AI — tind să fie cei mai optimiști în privința calendarului, adesea de cinci până la zece ori mai optimiști. Acest bias de optimism provine din apropierea față de capabilitățile de vârf și din tendința de a subestima provocările de integrare. Între timp, scepticii și cei care neagă AI-ul deseori ignoră progresul autentic realizat, nereușind să aprecieze cât de departe a ajuns domeniul. Karpathy se poziționează deliberat la mijloc, recunoscând atât realizările reale, cât și munca substanțială rămasă.
Una dintre cele mai importante clarificări ale lui Karpathy vizează terminologia legată de agenții AI. Când liderii din industrie declară că „2025 este anul agenților”, de obicei înseamnă că agenții AI vor deveni un subiect major de interes, investiții și implementări inițiale. Acest lucru este aproape sigur adevărat — deja vedem interes semnificativ pentru sistemele agentice, cu companii precum OpenAI lansând instrumente precum Operator, care pot controla browsere web și efectua sarcini pentru utilizatori. Totuși, Karpathy argumentează că, deși 2025 ar putea fi anul în care agenții captează atenția generală, dezvoltarea și răspândirea unor agenți cu adevărat utili, fiabili și valoroși economic va dura un întreg deceniu. Această distincție este crucială pentru a separa ciclurile de hype de maturizarea tehnologică reală. „Deceniul agenților” reprezintă perioada în care infrastructura, bunele practici, mecanismele de siguranță și modelele de integrare pentru sistemele agentice vor fi dezvoltate și rafinate. În acest deceniu, vom vedea agenții evoluând de la demonstrații impresionante la instrumente fiabile pe care companiile și indivizii se bazează pentru sarcini critice. Acest calendar se aliniază cu modelele istorice de adoptare a tehnologiei — internetul a devenit un punct central în anii 1990, dar a transformat cu adevărat economia abia în anii 2000 și 2010. În mod similar, agenții AI pot atrage atenția în 2025, însă impactul economic real se va desfășura pe parcursul deceniului următor.
Karpathy trasează o paralelă fascinantă între agenții AI din lumea digitală și roboții umanoizi din lumea fizică. Ambele reprezintă încercări de a crea sisteme cu scop general, capabile să efectueze orice sarcină printr-o interfață proiectată de om — în cazul agenților, o interfață de browser web și tastatură/mouse; în cazul roboților, un corp uman cu senzori și actuatori. Această comparație explică de ce agenții digitali pot atinge utilitate practică mai repede decât roboții fizici, deși lumea fizică poate oferi oportunități de piață mai mari. Principala idee este că manipularea informației digitale este de aproximativ o mie de ori mai ieftină decât manipularea materiei fizice. Un agent AI poate efectua milioane de sarcini pe internet cu cost computațional minim, în timp ce un robot umanoid trebuie să se miște fizic, să manipuleze obiecte și să depășească constrângerile fizicii. Această diferență de cost înseamnă că agenții digitali vor atinge probabil viabilitate economică și răspândire mult mai rapid decât roboții umanoizi. Totuși, Karpathy observă că oportunitatea de piață în lumea fizică poate fi, în final, mai mare decât în cea digitală. Munca intelectuală — domeniul agenților digitali — este cu siguranță o piață substanțială, însă automatizarea fizică ar putea transforma în viitor producția, construcțiile, logistica și multe alte industrii. Concentrarea actuală pe agenții digitali reflectă nu doar fezabilitatea tehnică, ci și oportunitatea economică imediată de a automatiza munca intelectuală. Pe măsură ce agenții digitali se maturizează și devin valoroși economic, resursele și experiența acumulate vor accelera progresul și în robotică, creând o lume mixtă în care oamenii devin tot mai mult supraveghetori ai automatizării atât în plan digital, cât și fizic.
Pe măsură ce organizațiile încep să implementeze agenți AI, provocarea de a orchestra mai mulți agenți, de a gestiona interacțiunile acestora și de a asigura performanță fiabilă devine din ce în ce mai critică. Aici intră în scenă platforme precum FlowHunt, care joacă un rol esențial în peisajul infrastructurii AI emergente. FlowHunt permite echipelor să construiască, să testeze și să implementeze fluxuri AI complexe ce folosesc mai mulți agenți și modele care lucrează împreună. În loc să trateze fiecare capabilitate AI izolat, FlowHunt permite organizațiilor să creeze fluxuri sofisticate de automatizare ce combină cercetarea, generarea de conținut, analiza și luarea deciziilor într-un sistem coerent. Platforma abordează multe dintre provocările de tip „schelă” identificate de Karpathy drept esențiale pentru deceniul agenților. Prin furnizarea de instrumente pentru proiectarea, monitorizarea și optimizarea fluxurilor, FlowHunt ajută la reducerea decalajului dintre capabilitățile AI impresionante și aplicațiile practice, valoroase economic. Pe măsură ce deceniul agenților progresează, platformele ce pot orchestra eficient sisteme agentice vor deveni tot mai valoroase, permițând organizațiilor să maximizeze valoarea investițiilor în AI, menținând totodată controlul, transparența și fiabilitatea.
Una dintre cele mai provocatoare contribuții ale lui Karpathy la discuția despre AI este distincția făcută între modul în care învață animalele și modul în care învață modelele mari de limbaj. Acest cadru oferă o perspectivă valoroasă asupra atât a capabilităților, cât și a limitărilor sistemelor AI actuale. Animalele, inclusiv oamenii, se nasc cu o cantitate uriașă de inteligență preinstalată în ADN, dobândită prin milioane de ani de evoluție. Un pui de zebră, de exemplu, poate sta în picioare și merge la câteva ore după naștere — o abilitate ce necesită înțelegere sofisticată a echilibrului, controlului motor și orientării spațiale. Această cunoaștere nu este învățată, ci moștenită prin procese evolutive. Învățarea pe care o fac animalele este relativ mică față de volumul de cunoștințe înnăscute pe care îl dețin. Ele învață să-și rafineze instinctele, să se adapteze mediului și să dezvolte abilități în cadrul moștenirii evolutive. În contrast, LLM-urile învață printr-un proces fundamental diferit. În loc să moștenească cunoaștere evolutivă, LLM-urile sunt antrenate pe cantități uriașe de texte de pe internet folosind prezicerea următorului token — practic, învață să prezică următorul cuvânt dintr-o secvență. Această abordare s-a dovedit extrem de eficientă pentru captarea tiparelor din cunoașterea și limbajul uman, însă funcționează printr-un mecanism pe care Karpathy îl descrie ca fiind mai apropiat de „fantome sau spirite” decât de învățarea biologică. LLM-urile nu posedă cunoașterea încorporată, evolutivă, pe care o au animalele; în schimb, ele absorb tipare din texte generate de oameni. Această distincție are implicații profunde pentru înțelegerea atât a punctelor forte, cât și a limitărilor AI-ului actual.
O limitare esențială a LLM-urilor actuale, conform lui Karpathy, este tendința lor de a memora mai degrabă decât de a generaliza. Deși aceste modele prezintă performanțe impresionante la benchmark-uri și în aplicații practice, mare parte din succes se datorează faptului că au văzut tipare similare în faza de antrenament, nu unei înțelegeri reale sau generalizări. Adevărata generalizare ar presupune capacitatea de a aplica principii învățate la situații noi care diferă semnificativ de datele de antrenament. Aici devin relevante benchmark-uri precum ARC Prize (Abstraction and Reasoning Corpus) — acestea testează în mod specific generalizarea, nu memorarea. Diferența dintre memorare și generalizare nu este doar academică; este fundamentală pentru atingerea AGI. Un sistem care memorează poate performa bine la sarcini similare cu datele de antrenament, dar va eșua când va întâlni probleme cu adevărat noi. Atingerea generalizării reale necesită mecanisme de învățare fundamental diferite de cele folosite acum în antrenamentul LLM-urilor. Scepticismul lui Karpathy față de drumul actual spre AGI derivă parțial din această recunoaștere: am construit motoare impresionante de memorare, dar nu am descifrat încă generalizarea autentică. Modelele sunt „fantome” în sensul că au absorbit tipare din cunoașterea umană, dar le lipsește înțelegerea profundă și raționamentul flexibil caracteristice inteligenței biologice. Trecerea de la memorare la generalizare va necesita nu doar date de antrenament mai bune sau modele mai mari, ci noi abordări de învățare care să încorporeze principii similare modului în care sistemele biologice dezvoltă înțelegere prin interacțiune cu lumea.
Învățarea prin întărire (RL) a devenit un subiect central pentru multe laboratoare AI ce urmăresc AGI, cu companii precum OpenAI, DeepMind și alții investind masiv în abordări bazate pe RL. Totuși, Karpathy exprimă un scepticism semnificativ față de RL ca principală cale către AGI, deși îi recunoaște potențialul. Critica sa se concentrează pe câteva limitări fundamentale ale RL-ului actual. În primul rând, identifică ceea ce numește „supravegherea absorbită printr-un pai” — problema raportului semnal-zgomot foarte slab în RL. Cu alte cuvinte, cantitatea de învățare obținută per unitate de calcul este scăzută. Această ineficiență devine tot mai problematică pe măsură ce RL-ul este extins la domenii complexe. În al doilea rând, Karpathy subliniază dificultatea recompenselor bazate pe rezultat în sistemele RL. Când un model primește feedback doar dacă răspunsul final este corect, îi este greu să învețe din pașii intermediari care l-au condus acolo. De exemplu: dacă un model rezolvă o problemă de matematică cu mai multe raționamente intermediare greșite, dar ajunge la răspunsul corect, întreg procesul este recompensat, inclusiv pașii greșiți. Acest lucru creează un semnal de învățare zgomotos care poate întări modele greșite de raționament. Recompensele de proces încearcă să rezolve problema oferind feedback la pașii intermediari, dar introduc alte dificultăți. Dacă un model face cinci pași intermediari corecți, dar ajunge la un răspuns final greșit, semnalul de recompensă devine contradictoriu — pașii intermediari au fost buni, dar rezultatul final greșit. Această ambiguitate îngreunează învățarea eficientă. Scepticismul lui Karpathy față de RL nu înseamnă că îl consideră inutil; crede doar că nu este pârghia principală pentru atingerea AGI. El se declară „optimist pe interacțiune agentică, dar rezervat pe RL”, sugerând că paradigme alternative de învățare vor fi mai eficiente. Această perspectivă, deși contrară entuziasmului general din industrie pentru RL, reflectă o înțelegere profundă a provocărilor tehnice în scalarea RL-ului pentru a atinge inteligența generală autentică.
Dacă Karpathy este sceptic privind RL ca direcție principală spre AGI, ce consideră el mai promițător? Răspunsul său indică spre interacțiunea agentică și modelele de lume. În loc să învețe din seturi statice de date sau din recompense bazate pe rezultat, agenții ar putea învăța prin interacțiune cu medii simulate sau reale, dezvoltând modele tot mai sofisticate despre cum funcționează lumea. Această abordare are precedent istoric în cercetarea AI. Succesul DeepMind în crearea de sisteme AI care stăpânesc jocuri complexe precum Go s-a bazat mult pe agenți care joacă între ei în medii simulate, îmbunătățindu-se treptat prin interacțiune, nu prin învățare supravegheată după demonstrații umane. Modelele de lume reprezintă o direcție deosebit de promițătoare. Un model de lume este, practic, o reprezentare învățată a modului în care funcționează lumea — fizica, cauzalitatea, dinamica ce guvernează rezultatele. Un agent cu un model de lume poate raționa despre consecințele acțiunilor sale înainte de a le face, poate planifica pe mai mulți pași și poate transfera cunoștințe dintr-un domeniu în altul mai eficient decât sistemele fără modele de lume. Lucrări recente de la DeepMind (Genie), NVIDIA (Cosmos), Meta (V-JEPA) și Wayve (GAIA-2) arată investiții tot mai mari în cercetarea modelelor de lume. Aceste sisteme învață să prezică evoluția scenelor vizuale în funcție de acțiunile agentului, creând un fel de teren de joacă unde agenții pot experimenta și învăța. Avantajul acestei abordări este că reflectă mai fidel modul în care învață sistemele biologice — prin interacțiune cu mediul și dezvoltarea înțelegerii cauzale. În loc să memoreze tipare din texte, agenții învață prin experimentare activă și observarea consecințelor. Această abordare abordează și problema generalizării mai direct, deoarece înțelegerea relațiilor cauzale și a dinamicii lumii se transferă mai ușor la situații noi decât tiparele memorate.
Karpathy face referire la munca sa anterioară privind „învățarea promptului de sistem”, un concept care reprezintă o evoluție importantă în modul în care gândim instruirea și adaptarea AI-ului. Învățarea promptului de sistem se referă la ideea că mare parte din comportamentul și capabilitățile unui sistem AI pot fi modelate prin designul atent al promptului de sistem — instrucțiunile și contextul oferite modelului la începutul unei interacțiuni. În loc să necesite reantrenare sau ajustări costisitoare, această abordare sugerează că putem adapta și îmbunătăți sistemele AI prin optimizarea prompturilor care le ghidează comportamentul. Conceptul are implicații profunde pentru deceniul agenților. Pe măsură ce organizațiile implementează agenți pentru diverse sarcini, vor avea nevoie de mecanisme de adaptare la domenii, industrii și cazuri de utilizare specifice, fără reantrenare completă. Învățarea promptului de sistem oferă o abordare scalabilă pentru această adaptare. Prin crearea atentă a prompturilor ce includ cunoștințe de domeniu, specificații de sarcină și linii directoare comportamentale, organizațiile pot crea agenți specializați pornind de la modele cu scop general. Această abordare se aliniază și cu conceptul de „schelă” — infrastructura și uneltele care fac legătura între capabilitățile brute ale modelului și aplicațiile practice. Învățarea promptului de sistem face parte din acest strat de schelă, permițând organizațiilor să extragă valoare maximă din modelele AI fără a necesita expertiză tehnică profundă în antrenarea modelelor. Karpathy observă că mai multe lucrări recente explorează această direcție, sugerând că abordarea câștigă teren în comunitatea de cercetare.
Poate cea mai importantă idee din analiza lui Karpathy este accentul pus pe „problema schelei” — decalajul dintre capabilitățile brute ale modelului și aplicațiile practice, valoroase economic. Acest concept, numit uneori și „model overhang”, recunoaște că modelele de vârf actuale au capabilități care depășesc cu mult ceea ce am implementat și monetizat efectiv. Inteligența există deja în modele, dar instrumentele, infrastructura, sistemele de memorie și modelele de integrare necesare pentru a valorifica această inteligență sunt încă în curs de dezvoltare. Această schelă include numeroase componente: API-uri și interfețe robuste pentru accesarea modelelor, sisteme de memorie care permit agenților să mențină contextul și să învețe din experiență, instrumente de monitorizare și observabilitate pentru înțelegerea comportamentului agenților, mecanisme de siguranță și securitate pentru prevenirea abuzului, modele de integrare cu sistemele de afaceri existente și interfețe prietenoase care fac capabilitățile agenților accesibile non-tehnicienilor. Deceniul agenților va fi în mare parte dedicat construirii acestei schele. Companiile și cercetătorii vor dezvolta bune practici pentru implementarea agenților, vor crea instrumente și platforme care să facă dezvoltarea agentică accesibilă, vor stabili standarde de siguranță și securitate și vor integra sistemele agentice în ecosistemul tehnologic larg. Această muncă este mai puțin spectaculoasă decât dezvoltarea de noi arhitecturi de model sau atingerea unor capabilități revoluționare, dar este absolut esențială pentru traducerea AI-ului în valoare economică. Accentul pus de Karpathy pe schelă reflectă o înțelegere matură a dezvoltării tehnologice — capabilitățile revoluționare sunt necesare, dar nu suficiente pentru impactul în lumea reală. Companiile și platformele care vor construi cu succes stratul de schelă vor capta probabil valoare semnificativă în deceniul agenților, chiar dacă nu dezvoltă cele mai avansate modele.
Dincolo de provocările tehnice ale schelei și generalizării, Karpathy identifică și alte categorii de muncă necesare înainte de a atinge AGI. Siguranța și securitatea sunt preocupări critice. Pe măsură ce agenții AI devin tot mai capabili și autonomi, asigurarea operării lor în siguranță și securitate devine vitală. Aceasta include prevenirea jailbreak-urilor (încercări de a face agenții să ignore regulile), apărarea împotriva atacurilor de tip poisoning (tentative de corupere a datelor de antrenament sau a comportamentului agentului) și dezvoltarea de mecanisme robuste de aliniere, pentru a ne asigura că agenții urmăresc obiectivele dorite. Integrarea socială reprezintă o altă dimensiune crucială. Implementarea agenților AI tot mai capabili va avea implicații profunde pentru ocuparea forței de muncă, educație, inegalitate economică și structuri sociale. Dezvoltarea unor politici, reglementări și cadre sociale adecvate pentru integrarea AI necesită implicarea factorilor de decizie, eticienilor, sociologilor și a publicului larg. Această muncă nu poate fi grăbită și probabil va continua dincolo de deceniul agenților. Integrarea în lumea fizică aduce alte provocări. Deși agenții digitali pot opera exclusiv în spațiul digital, multe aplicații valoroase necesită interacțiuni cu sisteme fizice — controlul roboților, gestionarea proceselor de producție, coordonarea logisticii. Acest lucru necesită nu doar AI capabil, ci și senzori, actuatori și infrastructură fizică adecvată. Munca de cercetare rămasă este, de asemenea, substanțială. Deși modelele actuale prezintă capabilități impresionante, rămân întrebări fundamentale despre cum să obținem generalizare autentică, cum să construim sisteme care să raționeze despre cauzalitate și contrafactuale, cum să creăm agenți care pot învăța și adapta continuu, nu doar în faza de antrenament, și cum să scalăm aceste abordări pentru a face față complexității domeniilor reale. Orizontul de peste 10 ani estimat de Karpathy reflectă amploarea acestei munci rămase pe toate aceste dimensiuni.
Experimentează cum FlowHunt automatizează fluxurile tale AI de conținut și SEO — de la cercetare și generare de conținut până la publicare și analiză — totul într-un singur loc.
Analiza lui Karpathy este remarcabilă prin poziționarea deliberată între două extreme: optimismul neîngrădit al entuziaștilor AI care văd AGI sosind în câțiva ani și scepticismul celor care neagă progresul realizat. El descrie propriile sale estimări ca fiind „de cinci până la zece ori mai pesimiste” decât cele întâlnite la evenimentele din industrie, dar „extrem de optimiste” comparativ cu scepticismul general privind potențialul AI. Această perspectivă echilibrată se bazează pe mai multe observații. În primul rând, progresul în modelele mari de limbaj din ultimii doi ani a fost cu adevărat remarcabil. Capabilitățile demonstrate de modele precum GPT-4, Claude și altele reprezintă un salt autentic în puterea AI. Abilitatea de a raționa complex, de a scrie cod, de a analiza documente și de a ajuta la sarcini creative ar fi părut science fiction acum câțiva ani. Acest progres este real și nu trebuie ignorat. În al doilea rând, însă, rămâne o cantitate uriașă de muncă între capabilitățile actuale și adevăratul AGI. Decalajul dintre demonstrațiile impresionante și sistemele fiabile, valoroase economic, este substanțial. Provocările generalizării, siguranței, integrării și implementării nu sunt triviale și nu pot fi depășite doar prin îmbunătățiri incrementale. În al treilea rând, tendința industriei spre cicluri de hype face ca așteptările să fie adesea greșit aliniate cu realitatea. Când un nou model este lansat cu capabilități impresionante, presa și investitorii extrapolează adesea aceste abilități către un impact imediat în lumea reală. Acest model s-a repetat de multe ori în istoria AI, ducând la cicluri de hype urmate de dezamăgire. Perspectiva echilibrată a lui Karpathy încearcă să evite atât capcana optimismului excesiv, cât și greșeala de a ignora progresul autentic. Orizontul său de peste 10 ani pentru AGI trebuie înțeles ca o evaluare realistă a volumului de muncă necesar, bazată pe experiență profundă în dezvoltarea AI.
Deși Karpathy subliniază provocările tehnice ce urmează, este important să recunoaștem oportunitatea economică uriașă pe care o reprezintă deceniul agenților. Chiar dacă AGI rămâne la peste 10 ani distanță, dezvoltarea unor agenți AI tot mai capabili și utili va crea valoare economică semnificativă. Companiile care implementează cu succes agenți pentru servicii clienți, creare de conținut, analiză de date, dezvoltare software și multe alte
Karpathy face diferența între capabilitățile impresionante ale LLM-urilor și adevărata inteligență artificială generală. Deși modelele actuale prezintă performanțe remarcabile, mai este nevoie de multă muncă pentru integrare, siguranță, și atingerea unei generalizări reale, nu doar memorare. El se poziționează între optimiștii și pesimiștii extremi.
„Anul agenților” se referă la perioada în care agenții AI devin un subiect central de interes și apar primele implementări. „Deceniul agenților” reprezintă ciclul complet de dezvoltare necesar pentru a crea agenți cu adevărat utili, valoroși și care se răspândesc economic în diverse industrii.
Animalele vin cu inteligență evolutivă preinstalată și învață foarte puțin. LLM-urile învață prin prezicerea următorului token pe baza datelor de pe internet, devenind mai degrabă „fantome” decât animale. Această abordare are limite de generalizare și necesită alte metode pentru a deveni mai asemănătoare animalelor.
Karpathy susține că recompensele bazate pe rezultate în RL au un raport semnal-zgomot slab și au dificultăți cu pașii intermediari. Recompensele de proces ajută, dar rămân limitări. El crede că interacțiunea agentică și modelele de lume sunt abordări mai promițătoare pentru obținerea generalizării reale.
Arshia este Inginer de Fluxuri AI la FlowHunt. Cu o pregătire în informatică și o pasiune pentru inteligența artificială, el este specializat în crearea de fluxuri eficiente care integrează instrumente AI în sarcinile de zi cu zi, sporind productivitatea și creativitatea.
Construiește fluxuri inteligente de agenți AI care învață și se adaptează. FlowHunt te ajută să orchestrezi procese AI complexe de la cercetare la implementare.
Explorați îngrijorările cofondatorului Anthropic, Jack Clark, despre siguranța AI, conștientizarea situațională în modelele lingvistice mari și peisajul de regl...
Explorează cele mai recente inovații AI din octombrie 2024, inclusiv Sora 2 de la OpenAI pentru generarea de videoclipuri, capabilitățile de programare ale Clau...
Explorează inovațiile revoluționare din domeniul inteligenței artificiale din octombrie 2024, inclusiv generarea video cu Sora 2 de la OpenAI, progresele în pro...
Consimțământ Cookie
Folosim cookie-uri pentru a vă îmbunătăți experiența de navigare și a analiza traficul nostru. See our privacy policy.
