Token
Token v kontexte veľkých jazykových modelov (LLM) je sekvencia znakov, ktorú model prevádza na číselné reprezentácie pre efektívne spracovanie. Tokeny sú základné jednotky textu, ktoré LLM ako GPT-3 a ChatGPT používajú na porozumenie a generovanie jazyka.
•
3 min read