LarQL (LQL)

Co je LarQL?

LarQL — také označován jako LQL — je dotazovací jazyk určený k přímé interakci se znalostmi kódovanými v vahách velkých jazykových modelů (LLM). Používá známou syntaxi podobnou SQL (SELECT, INSERT, UPDATE, DELETE, DESCRIBE) aplikovanou nejen na řádky v relační databázi, ale na strukturovaný graf znalostí, který LLMs vytvářejí interně během trénování.

Kde tradiční nástroje zacházejí s vahami modelu jako s neprůhledným binárním blobem, LarQL je zachází jako s dotazovatelným úložištěm znalostí. Praktik může zkontrolovat, jaké znalosti má model o konkrétní entitě, přesně sledovat, jak model dospívá k danému odvozování, a aplikovat cílené opravy znalostí — vše bez přetrénování modelu nebo úpravy souborů základních vah.

Základní koncepty

Vindex

Vindex (vektorový index) je extrahovaná, dotazovatelná reprezentace interních znalostí modelu. Generuje se z vah modelu pomocí příkazu larql extract-index a uloží se jako samostatný soubor. Po extrahování lze Vindex procházet a dotazovat bez načítání úplného modelu — a bez hardwaru GPU.

Vindex kóduje naučené asociace modelu mezi entitami, vztahy a vrstvami, čímž umožňuje klást otázky jako: “Co si tento model myslí, že je sídlem Apple?” nebo “Jaké pojmy si tento model asociuje s GDPR poblíž vrstvy 20?”

Opravy Overlay

Operace zápisu LarQL — INSERT, UPDATE, DELETE — neupravují soubory základních vah modelu. Místo toho vytváří opravy souborů .patch, která se aplikuje v čase odvozování. Tímto se úpravy znalostí stávají:

• Okamžité: žádný krok překompilace nebo jemného ladění
• Reverzibilní: základní model zůstává beze změny; opravy lze odstranit nebo nahradit
• Lehké: oprava pokrývající 234 faktů vyžaduje přibližně 2,1 MB oproti základnímu modelu o velikosti 16 GB

Připraveni rozšířit své podnikání?

Začněte svou bezplatnou zkušební verzi ještě dnes a viďte výsledky během několika dní.

Požádat o demo Přihlásit se

Nastavení LarQL

Chcete-li začít pracovat se znalostmi modelu, extrahujte Vindex a otevřete interaktivní REPL:

larql extract-index path/to/your-model -o company-model.vindex --f16
larql repl

Příznak --f16 extrahuje index s přesností 16bitového plovoucího čísla. Výsledný Vindex pro model jako Gemma 3 4B je přibližně 3 GB.

Procházení znalostí modelu

Tyto příkazy pracují s extrahovaným Vindexem a nevyžadují GPU:

Zkontrolujte konkrétní entitu:

DESCRIBE "Apple Inc"

Vrací všechny znalosti, které model o entitě má, organizované podle vrstvy a funkce: odvětví, produkty, sídlo, founded_by, stock_ticker a jakýkoli jiný vztah naučený během tréninku.

Dotazujte se na konkrétní vztah přes všechny entity:

SELECT * FROM edges WHERE relation='headquarters' LIMIT 10

Vyhledejte asociace pojmů podle vzdálenosti:

SELECT * FROM edges WHERE entity='GDPR' NEAREST_TO Layer 20 LIMIT 5

Najde pět pojmů, které jsou GDPR nejblíže spojovány poblíž vrstvy 20 reprezentace znalostí modelu.

Vypište všechny typy vztahů, které se model naučil:

SHOW relations

Vrací úplný seznam typů vztahů přítomných v modelu. Typický model střední velikosti kóduje více než 1 000 typů vztahů.

Přihlaste se k odběru newsletteru

Získejte nejnovější tipy, trendy a nabídky zdarma.

E-mailová adresa

Přihlásit se

Odvozování a trasování

Spusťte odvozování s pravděpodobnostními skóre:

INFER 'The headquarters of Apple is located in' TOP 5

Vrací top 5 dokončení se skóre důvěry (např. Cupertino 0,71, California 0,14 atd.).

Trasujte odvozování vrstva po vrstvě:

TRACE 'The CEO of Tesla is' TOP 3

Vytváří rozklad po vrstvách ukazující, jak model vytvářel svůj výstup — od počáteční detekce syntaxe přes identifikaci domény, získávání znalostí až po závazek výstupu. Používá se pro forenzní analýzu halucinací, když model produkuje neočekávanou nebo nesprávnou odpověď.

Projděte koncept skrze vrstvy:

WALK "climate change" LAYERS 10 TO 28

Ukazuje, jak se asociace modelu pro koncept vyvíjejí v rámci vrstev — od konkrétní textové ko-výskytu v raných vrstvách k abstraktním sémantickým asociacím v hlubších vrstvách.

Úprava znalostí s opravami Overlay

Operace zápisu LarQL vytvářejí opravy .patch bez dotyku souborů základního modelu:

Vložit nový fakt:

INSERT INTO edges (entity, relation, target, confidence)
VALUES ('Acme Corp', 'CEO', 'Jane Smith', 0.95)

Aktualizovat existující fakt:

UPDATE edges
SET target = 'Jane Smith'
WHERE entity = 'Acme Corp' AND relation = 'CEO'

Potlačit fakt:

DELETE FROM edges
WHERE entity = 'Acme Corp' AND relation = 'former_CEO'

Zkontrolujte aktivní opravy:

SHOW patches

Vypíše všechny aktivní soubory oprav, jejich velikosti a počty faktů. Oprava s 234 fakty oproti základnímu modelu o velikosti 16 GB činí přibližně 2,1 MB.

Případ použití auditování: Ověření znalostí před nasazením

Kompletní pracovní postup ověřování před nasazením pomocí LarQL:

-- 1. Zkontrolujte, co model ví o vašem produktu
DESCRIBE "Acme Corp"

-- 2. Najděte nesprávné asociace
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- 3. Ověřte, že nedochází k záměně konkurenční značky
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 20 LIMIT 10

-- 4. Opravte jakékoli nesprávné skutečnosti před nasazením
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

Tento pracovní postup je základem auditu modelu před nasazením: systematické ověřování, že interní znalosti modelu jsou pro vaši doménu přesné před jejich vystavením uživatelům.

Případ použití: SEO inteligence z vah modelu

Jazykový model trénovaný na trilionech webových dokumentů internalizoval sémantickou strukturu každého prostoru témat, na který narazil. Místo krábání SERPs nebo nákupu dat klíčových slov můžete tuto strukturu číst přímo sondováním vnitřních reprezentací modelu — bez potřebné generace.

Když odešlete dotaz jako "software pro partnerství" na LLM, střílí specifické neurony v feedforward vrstvách v charakteristickém vzoru. Tato aktivace kóduje, co model považuje za sémanticky sousední: konkurenty, související technologie, případy použití, stránky s recenzemi. LarQL dělá tyto asociace dotazovatelné.

Mapujte sémantické okolí jakéhokoli klíčového slova:

-- Jaké koncepty se shlukují kolem vaší hlavní podmínky v zóně znalostí (vrstvy 12–34)?
WALK "software pro partnerství" LAYERS 12 TO 34

-- Najděte nejvíce související entity v maximální hloubce znalostí
SELECT * FROM edges WHERE entity='software pro partnerství' NEAREST_TO Layer 22 LIMIT 20

-- Jaké typy vztahů model používá pro tuto doménu?
SHOW relations

Co dostanete: Seřazený seznam sémanticky sousedních podmínek odrážejících to, co model (a rozšířením, webový corpus, na kterém byl trénován) považuje za přirozené okolí vašeho tématu — kandidáti na klastry tématu, integrační klíčová slova a dlouhé ocáskové úhly, které tradiční nástroje na klíčová slova zmeškávají, protože měří popularitu, ne sémantickou strukturu.

Skóre důvěry z NEAREST_TO označují sémantickou vzdálenost v interní reprezentaci modelu. Podmínky s vysokými skóre důvěry jsou hluboce propleteny s vaším dotazem v znalostech modelu — jsou přirozenými cíli společného výskytu pro strategii obsahu.

Případ použití: Objev konkurentů a umístění značky

Model trénovaný na datech v měřítku webu se naučil, které značky se objevují v stejných diskuzích. To je signálem bohatší než překrytí zpětných odkazů nebo souběh SERP: odráží konsolidované přesvědčení modelu o tom, které společnosti fungují ve stejném prostoru, vybudovaném z milionů článků, recenzí, porovnávacích stránek a vláken fóra.

-- Které značky model považuje za umístěné společně s vaší?
SELECT * FROM edges WHERE entity='VašeMarka' NEAREST_TO Layer 19 LIMIT 15

-- Ověřte, že se jedná o umístění značky, ne zmatek kategorie
DESCRIBE "VašeMarka"

-- Zkontrolujte totéž pro konkrétního konkurenta
SELECT * FROM edges WHERE entity='KonkurentX' NEAREST_TO Layer 19 LIMIT 15

Křížově validujte s odvoláním:

-- Produkuje model konkurenty v přímých doplnění?
INFER 'Hlavní alternativy k VašeMarka jsou' TOP 8

-- Kontrola Monte Carlo: které značky se objevují nejčastěji?
INFER 'Společnosti podobné VašeMarka zahrnují' TOP 5

Značky, které se objevují jak v interním trasování FFN (NEAREST_TO), tak v generativních doplnění (INFER), nují nejvyšší důvěru. Představují konsolidovanou konkurenční krajinu modelu — přímo využitelnou pro stránky porovnání “vs”, průvodce migrací a stránky s alternativním vylétáním.

Případ použití: Audit vnímání značky

Před nasazením LLM v roli orientované na zákazníka — nebo před spuštěním kampáně — stojí za to pochopit, jak model vaši značku interně charakterizuje. Toto se liší od toho, co model říká, když je dotázán: odráží latentní asociace postavené z trénovacích dat, z nichž některé mohou být v rozporu s vaším zamýšleným pozicováním.

-- Úplné charakterizace vaší značky v znalostech modelu
DESCRIBE "VašeMarka"

-- Do jaké kategorie vás model zařazuje?
SELECT * FROM edges WHERE entity='VašeMarka' AND relation='category'

-- S kterými technologiemi jste spojovány?
SELECT * FROM edges WHERE entity='VašeMarka' AND relation='integrates_with'

-- Existují nějaké nežádoucí asociace?
SELECT * FROM edges WHERE entity='VašeMarka' NEAREST_TO Layer 20 LIMIT 30

Projděte vrstva po vrstvě, aby se vidělo, jak se asociace vyvíjejí:

-- Rané vrstvy: povrchové koincidenci
-- Střední vrstvy (12–34): faktické asociace
-- Pozdní vrstvy: formátování výstupu a styl
WALK "VašeMarka" LAYERS 10 TO 35

Pokud model umístí vaši značku do špatné kategorie, asociuje ji s konkurentem, s nímž by neměl být, nebo odráží zastaralé pozicování, lze tyto mezery opravit přímo pomocí mechanismu opravy znalostí — opravit vnitřní reprezentaci modelu bez přetrénování.

Případ použití: Analýza mezery znalostí před nasazením

Při vyhodnocování modelu s otevřeným zdrojovým kódem pro nasazení specifické pro doménu není kritickou otázkou benchmark výkon — je: zná tento model dost o naší doméně, aby byl užitečný, a zná něco špatně?

LarQL umožňuje strukturované skenování znalostí před nasazením v celé oblasti tématu:

-- Krok 1: Audit znalostí o produktu
DESCRIBE "VašProdukт"
DESCRIBE "VašProdukт v2"

-- Krok 2: Zkontrolujte znalosti o kategorii a pozicování
SELECT * FROM edges WHERE entity='VašProdukт' AND relation='category'
SELECT * FROM edges WHERE entity='VašProdukт' AND relation='primary_use_case'

-- Krok 3: Hledejte mezery — témata bez asociací
SELECT * FROM edges WHERE entity='your_key_topic' NEAREST_TO Layer 20 LIMIT 5
-- Málo či žádný výsledek = mezera znalostí

-- Krok 4: Hledejte nesprávné skutečnosti
SELECT * FROM edges WHERE entity='VašeSpolečnost' AND relation='CEO'
SELECT * FROM edges WHERE entity='VašProdukт' AND relation='pricing_model'

-- Krok 5: Opravte potvrzené chyby před spuštěním
UPDATE edges SET target='Current CEO Name' WHERE entity='VašeSpolečnost' AND relation='CEO'

Tento pracovní postup nahrazuje přístup “nasadit a čekat na stížnosti”. Audit na 4 hodiny pomocí LarQL proti Vindex může objevit mezery znalostí a faktické chyby, které by se jinak dostaly ke skutečným uživatelům — a opravit je ten stejný den, bez potřebného GPU.

Případ použití: Analýza původní příčiny halucinace

Když nasazený LLM produkuje špatnou nebo škodlivou odpověď, standardní odpověď je aktualizovat příkaz systému nebo přidat ochranné prvky. Ale záplaty výzev léčí příznaky. LarQL umožňuje diagnostiku na úrovni vah: proč si model myslel to?

-- Reprodukujte cestu odvozování, která vedla k chybné odpovědi
TRACE 'Generální ředitel Acme Corp je' TOP 3

-- Najděte vrstvu, kde byla špatná skutečnost načtena
-- (Čísla vrstev ve výstupu TRACE ukazují, kde se zavazující odpověď zkrystallizuje)

-- Zkontrolujte, co model skutečně ukládá pro tu entitu/vztah
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- Ověřte, že neexistuje polysémantický zmatek (stejný neuron kóduje dvě věci)
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 23 LIMIT 10

-- Aplikujte cílená oprava
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

Výstup TRACE zobrazuje distribuci pravděpodobnosti v rámci vrstev — od počáteční detekce syntaxe, přes načítání znalostí v prostředních vrstvách, až po závazek výstupu. Toto je primární nástroj pro forenzní analýzu, když incident způsobený modelem vyžaduje regulační nebo právní dokumentaci: ukazuje kde špatná skutečnost vstoupila do cesty odvozování a proč si byl model jistý.

Reference výkonu (Apple Silicon)

Procházení Vindex a dotazy SELECT běží zcela na CPU. INFER a TRACE vyžadují načtení modelu.

Vztah ke službám znalostí LLM

LarQL je základní technologií stojící za každou službou v životním cyklu znalostí LLM:

• Audit před nasazením: DESCRIBE, SELECT, a NEAREST_TO skenují znalosti modelu v doméně před spuštěním
• Údržba znalostí: oprava overlay(INSERT, UPDATE, DELETE) aplikují opravy přímo na nasazené váhy bez přetrénování
• Compliance a auditu: SHOW patches poskytuje auditovatelný záznam každé skutečnosti změněné v modelu
• SEO inteligence: WALK a NEAREST_TO odhalují vnitřní sémantickou mapu modelu libovolného prostoru tématu
• Analýza konkurentů a značky: NEAREST_TO s INFER křížová validace odhaluje přesvědčení modelu o umístění na úrovni vah
• Forenzní halucinace: TRACE rozkládá cestu odvozování vrstva po vrstvě a identifikuje přesně, kde byla špatná odpověď načtena a zavázáno