Jak AI přemýšlí? (Teorie za ChatGPT)

Vytváření aplikací, generování obsahu, řešení problémů – úkoly, které dříve zvládali jen experti, dnes stačí zadat několika dobře formulovanými otázkami. Změna je zásadní a pochopení toho, jak jsme se sem dostali, znamená prozkoumat vývoj umělé inteligence.

Tento článek sleduje vývoj AI v klíčových etapách:

• Co je AI a odkud pochází?
  Přehled jejích kořenů a raného vývoje.

• Vzestup hlubokého učení
  Jak vyšší výpočetní výkon a data proměnily strojové učení.

• Zrození jazykových modelů
  Vznik systémů schopných zpracovávat a generovat lidský jazyk.

• Co je vlastně LLM?
  Rozbor velkých jazykových modelů a jejich fungování.

• Co je generativní AI?
  Průzkum schopnosti AI vytvářet nový text, obrázky a další obsah.

• Digitální průvodci: Jak nás chatboti provádějí světem AI
  Úloha konverzačních rozhraní v dostupnosti AI.

Každá sekce přispívá k jasnějšímu obrazu systémů, které formují dnešní technologickou krajinu.

Co je AI a odkud pochází?

Lidé vždy přemýšleli, zda dokážeme postavit myslící stroje. Když byly počítače poprvé vytvořeny, vše se urychlilo a v roce 1950 Alan Turing položil stejnou otázku a navrhl slavný Turingův test, myšlenkový experiment, kde se stroj snaží oklamat člověka, aby si myslel, že komunikuje s jiným člověkem. To byla jiskra, která zažehla AI. AI byla definována jako provádění úkolů, které obvykle vyžadují lidskou inteligenci, například porozumění jazyku, rozpoznávání obrázků, řešení problémů a rozhodování, tedy vlastně stát se virtuální osobou, která zodpoví všechny vaše otázky a vyřeší všechny vaše problémy. Proto byl Turingův test tak důležitý – postavil umělou inteligenci tváří v tvář člověku, který má poznat, zda mluví s člověkem, nebo robotem. AI v podstatě napodobuje lidské myšlení. Proto jí John McCarthy dal název umělá inteligence. Mysleli si, že stačí jedno léto, aby AI prošla těmito testy a fungovala dokonale sama, ale ve skutečnosti vývoj AI stále pokračuje.

Jaká byla AI na počátku?

První AI v 60. a 70. letech byla pravidlová. Pokud jste chtěli, aby počítač „přemýšlel“, museli jste mu přesně říct, jak má přemýšlet. Šlo o expertní systémy, kde každé pravidlo musel naprogramovat člověk. Fungovalo to – do určité chvíle. Nemůžete naučit AI každé rozhodnutí pro každou myslitelnou situaci, je to nemožné, nebo minimálně nepraktické. Bylo potřeba přijít na to, jak by počítače mohly dělat nová rozhodnutí samy, rozhodnutí, před kterými dosud nestály.

Přichází strojové učení. V 80. a 90. letech se výzkumníci zaměřili na nový nápad: co kdybychom mohli naučit počítače učit se z dat, místo abychom jim vše říkali pravidly? To je strojové učení – trénování algoritmu na spoustě příkladů, aby rozpoznal vzory a dělal předpovědi. Co to znamená? Představte si, že dříve jste učili AI gramatiku tím, že jste vypsali každé gramatické pravidlo, zatímco strojové učení znamenalo, že AI dostala tisíce článků, knih a dokumentů k přečtení a sama si vypozorovala, jak angličtina funguje – samoučení.

Vzestup hlubokého učení

Strojové učení bylo skvělé, ale omezené. Často potřebovalo, aby mu člověk řekl, na jaké rysy se má zaměřit. Pak přišlo hluboké učení, poháněné neuronovými sítěmi, což je struktura volně inspirovaná fungováním lidského mozku, která dokáže zkoumat velké množství dat, ale po krocích, což jí umožňuje nacházet stále více vzorů.

Pravý průlom nastal kolem roku 2012, kdy AlexNet, hluboká neuronová síť, rozdrtila konkurenci v hlavní soutěži rozpoznávání obrázků. Najednou hluboké učení předčilo lidi v rozpoznávání koček na internetu. Nebylo to jen lepší, bylo to děsivě dobré. Díky hlubokému učení bylo možné vložit do modelu surová data (text, obrázky, zvuk) a on sám odhalil důležité vzory. Žádné vodění za ruku. Jen více dat, více vrstev, více výpočetního výkonu. AI začala učit se exponenciálně.

Zrození jazykových modelů

Když hluboké učení zvládlo obrázky, výzkumníci si položili otázku: zvládne i jazyk? Odpověď: ano, ale nebylo to snadné. Jazyk je plný nuancí. Ale s dostatečným množstvím dat a dostatečně chytrou architekturou se objevily modely jako Recurrent Neural Networks (RNN), které uměly chápat data v posloupnosti, tedy nejen jednotlivá slova, ale jak za sebou jdou a proč právě v tom pořadí, a později Transformery, které se nedívaly jen na slova v pořadí, ale uměly se podívat na celý text najednou a tím začaly rozumět i generovat text.

V roce 2017 přišel Google s transformerovou architekturou. Ta změnila hru. Transformery dokázaly zpracovávat jazyk paralelně, rychleji a zaměřovat pozornost na různé části věty, podobně jako lidská mysl. Tato architektura pohání velké jazykové modely neboli LLM jako GPT, Gemini, Mistral – a najednou každý chtěl vytvořit svůj vlastní LLM, který bude lepší než ostatní.

Co je vlastně LLM?

Velký jazykový model (LLM) je typ systému umělé inteligence, který je navržen tak, aby generoval a rozuměl lidskému jazyku. Trénuje se na obrovském množství textových dat, jako jsou knihy, webové stránky, články a kód, a je postaven na hlubokém učení. Namísto porozumění slovům jako člověk se učí vzory v tom, jak píšeme a mluvíme.

Technologie za tím? Něco, čemu se říká transformerová architektura, která umožňuje zpracovávat a generovat jazyk ve velkém. Odtud pochází „GPT“ v ChatGPT:

• Generativní – vytváří nový obsah
• Předtrénovaný – nejdříve se učí na obecných datech
• Transformer – modelová struktura, která dělá těžkou práci

Podle verze LLM se inteligence, přesnost a schopnost konverzace chatbotu mohou dramaticky lišit. Novější verze lépe chápou kontext, méně chybují a poskytují užitečnější odpovědi.

Rozdíl tkví v parametrech – miliardách spojení, která určují, jak model zpracovává informace. Více parametrů obvykle znamená lepší paměť a hlubší porozumění.

Určitě jste slyšeli o GPT-4, Claude, Gemini, LLaMA. Je důležité si uvědomit: žádný z těchto modelů „nechápe“, co říká, jsou jen velmi dobré v předpovídání dalšího slova na základě kontextu.

Co je generativní AI?

Generativní AI je pojem, se kterým se dnes setkáte často. Je to zastřešující označení pro jakoukoli AI, která něco vytváří. Pokud umí psát, kreslit, mluvit nebo zpívat, aniž by pouze kopírovala existující obsah, je generativní – generuje nové věci. Umí vytvářet nový text (např. ChatGPT), obrázky (například DALL·E nebo Midjourney), videa (jako Sora) nebo kód (například GitHub Copilot). Existuje mnoho různých typů podporovaných mnoha různými LLM.

Chatboti: Naši digitální průvodci

Chatboti jsou naším přívětivým vstupem do komplexních znalostí celého světa. Namísto technických znalostí prostě začneme konverzaci a AI objevujeme přirozeně. Překládají složitou technologii do naší řeči.

Chatbot využívá:

• Hluboké učení: učí se jazykové vzory z obrovského množství textových dat
• Transformerovou architekturu: pro škálovatelné a efektivní pochopení kontextu
• Strojové učení: ke stálému zlepšování a přizpůsobování na základě zpětné vazby
• Generativní AI: k tvorbě lidsky působících odpovědí v reálném čase

Ale nezapomínejme: nechápe tak jako člověk. Napodobuje porozumění. To je zatím v pořádku. Ještě nejsme u singularity AI, ale už jsme na dálnici. A ChatGPT? To je jen další kilometrovník na mnohem delší cestě.