LarQL (LQL)

LarQLとは何ですか?

LarQL — またはLQLとも呼ばれます — は、大規模言語モデル(LLM)の重みに符号化された知識と直接相互作用するように設計されたクエリ言語です。リレーショナルデータベース内の行ではなく、トレーニング中にLLMが内部で構築する構造化知識グラフに適用される、なじみ深いSQL風構文(SELECT、INSERT、UPDATE、DELETE、DESCRIBE)を使用します。

従来のツールがモデル重みを不透明なバイナリBlobとして扱う場所で、LarQLはそれらを照会可能な知識ストアとして扱います。実務家は、モデルが特定のエンティティについて何を知っているかを検査し、モデルが指定された推論にどのように到達するかを正確にトレースし、対象の知識パッチを適用することができます — すべてモデルを再トレーニングしたり、ベースウェイトファイルを変更したりせずに。

コア概念

Vindex

Vindex(ベクトルインデックス)は、モデルの内部知識の抽出可能で照会可能な表現です。larql extract-indexコマンドを使用してモデル重みから生成され、スタンドアロンファイルとして保存されます。抽出されると、完全なモデルを読み込まなくても、またはGPUハードウェアなしで、Vindexをブラウズおよび照会できます。

Vindexはエンティティ、関係、レイヤー間の学習された関連付けをエンコードし、「このモデルはAppleの本社だと何を信じていますか?」や「このモデルはレイヤー20の近くでGDPRとどのような概念を関連付けていますか?」などの質問をすることを可能にします。

パッチオーバーレイ

LarQLの書き込み操作 — INSERT、UPDATE、DELETE — はベースモデルウェイトファイルを変更しません。代わりに、推論時に適用される.patchファイルオーバーレイを作成します。これにより、知識編集は:

• インスタント:再コンパイルまたはファインチューニングステップなし
• 可逆的:ベースモデルは変更されません;パッチは削除または置き換えることができます
• 軽量:234個の事実をカバーするパッチは16GBのベースモデルに対して約2.1MBが必要です

ビジネスを成長させる準備はできましたか？

今日から無料トライアルを開始し、数日で結果を確認しましょう。

デモをリクエスト ログイン

LarQLのセットアップ

モデルの知識の操作を開始するには、Vindexを抽出して対話型REPLを開きます:

larql extract-index path/to/your-model -o company-model.vindex --f16
larql repl

--f16フラグは16ビット浮動小数点精度でインデックスを抽出します。Gemma 3 4Bのようなモデルの結果のVindexは約3GBです。

モデル知識のブラウジング

これらのコマンドは抽出されたVindexに対して機能し、GPUは必要ありません:

特定のエンティティを検査:

DESCRIBE "Apple Inc"

モデルがエンティティについて保有するすべての知識を返し、層と機能で整理されます:業界、製品、本社、founded_by、stock_ticker、およびトレーニング中に学習したその他の関係。

すべてのエンティティ全体で特定の関係を照会:

SELECT * FROM edges WHERE relation='headquarters' LIMIT 10

距離によって概念関連付けを検索:

SELECT * FROM edges WHERE entity='GDPR' NEAREST_TO Layer 20 LIMIT 5

モデルの知識表現のレイヤー20の近くでGDPRに最も密接に関連する5つの概念を見つけます。

モデルが学習したすべての関係タイプをリスト:

SHOW relations

モデル内に存在する関係タイプの完全なリストを返します。典型的な中型モデルは1,000以上の関係タイプをエンコードします。

ニュースレターに登録

最新のヒント、トレンド、お得な情報を無料で入手。

メールアドレス

登録する

推論とトレース

確率スコア付き推論を実行:

INFER 'The headquarters of Apple is located in' TOP 5

信頼スコア付き上位5つの完了を返します(例:Cupertino 0.71、カリフォルニア0.14など)。

推論を層ごとにトレース:

TRACE 'The CEO of Tesla is' TOP 3

初期構文検出からドメイン識別、知識検索、出力確定を通じてモデルが出力に向かってどのように構築するかを示す層ごとの分解を生成します。モデルが予期しない、または間違った答えを生成する場合の幻覚法医学に使用されます。

レイヤー間で概念をウォーク:

WALK "climate change" LAYERS 10 TO 28

早期レイヤーのコンクリートテキストの共起から、より深いレイヤーの抽象的な意味関連付けまで、概念のモデルの関連付けがレイヤー間でどのように進化するかを示します。

パッチオーバーレイによる知識編集

LarQLの書き込み操作はベースモデルファイルに触れずに.patchオーバーレイを作成します:

新しい事実を挿入:

INSERT INTO edges (entity, relation, target, confidence)
VALUES ('Acme Corp', 'CEO', 'Jane Smith', 0.95)

既存の事実を更新:

UPDATE edges
SET target = 'Jane Smith'
WHERE entity = 'Acme Corp' AND relation = 'CEO'

事実を抑制:

DELETE FROM edges
WHERE entity = 'Acme Corp' AND relation = 'former_CEO'

アクティブなパッチを検査:

SHOW patches

すべてのアクティブなパッチファイル、それらのサイズ、および事実の数をリストします。16GBのベースモデルに対する234事実のパッチは約2.1MBの合計です。

監査ユースケース:デプロイ前知識チェック

LarQLを使用した完全なデプロイ前検証ワークフロー:

-- 1. モデルが製品について何を知っているかを検査
DESCRIBE "Acme Corp"

-- 2. 不正な関連付けを検索
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- 3. 競合ブランドの混乱がないことを確認
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 20 LIMIT 10

-- 4. デプロイ前に間違った事実をパッチ
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

このワークフローはデプロイ前モデル監査の基盤です:モデルの内部知識が、ユーザーに公開する前にドメイン向けに正確であることを体系的に検証します。

ユースケース:モデル重みからのSEOインテリジェンス

兆のWeb文書で訓練された言語モデルは、それが遭遇したあらゆるトピックスペースの意味構造を内部化しました。SERPをスクレイプしたりキーワードデータを購入したりする代わりに、モデルの内部表現をプローブして、生成を必要としないその構造を直接読むことができます。

"アフィリエイトソフトウェア"のようなクエリをLLMに送信する場合、フィードフォワードレイヤーの特定のニューロンが特性パターンで発火します。これらの活動化は、モデルが意味的に隣接していると考えるものをエンコードします:競合他社、関連技術、ユースケース、レビューサイト。LarQLはこれらの関連付けを照会可能にします。

任意のキーワードの意味的な近所をマップ:

-- 知識ゾーン(層12–34)でコア用語の周りにどの概念がクラスター化されていますか?
WALK "アフィリエイトソフトウェア" LAYERS 12 TO 34

-- ピーク知識深度で最も関連する存在を見つけます
SELECT * FROM edges WHERE entity='アフィリエイトソフトウェア' NEAREST_TO Layer 22 LIMIT 20

-- このドメインのモデルはどの関係タイプを使用しますか?
SHOW relations

得られるもの: モデル(そして拡張により、訓練されたWebコーパス)がトピックの自然な近くであると考える意味的に隣接した用語のランク付けリスト — トピッククラスターの候補、統合キーワード、および従来のキーワードツールが人気を測定するため見逃す長尾の角度、セマンティック構造ではなく。

NEAREST_TOの信頼スコアは、モデルの内部表現におけるセマンティック距離を示します。信頼スコアが高い用語は、モデルの知識内のクエリと深く絡み合っています — コンテンツ戦略のための自然な共起ターゲットです。

ユースケース:競合他社発見とブランド共同配置

Webスケールデータで訓練されたモデルは、どのブランドが同じ議論に表示されるかを学習しました。これは、バックリンク重複またはSERPの共起よりも信号が豊富です:モデルが企業が同じスペースで動作しているについての統合信念を反映し、百万の記事、レビュー、比較ページ、およびフォーラムスレッドから構築されました。

-- どのブランドがモデルを考えますか、あなたの共同で配置されていますか?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 19 LIMIT 15

-- これがブランド共同配置であり、カテゴリ混乱ではないことを確認します
DESCRIBE "YourBrand"

-- 特定の競合他社に対して同じことを確認します
SELECT * FROM edges WHERE entity='CompetitorX' NEAREST_TO Layer 19 LIMIT 15

推論で交差検証:

-- モデルは直接的な完成で競合他社を生成しますか?
INFER 'YourBrandの主な代替案は' TOP 8

-- Monte Carloチェック:どのブランドが最も頻繁に表示されますか?
INFER 'YourBrandと同様の企業には' TOP 5

内部FFNトレース(NEAREST_TO)と生成的な完成(INFER)の両方に表示されるブランドは、最も高い信頼度を持ちます。モデルの統合された競争的景観を表現しており、「vs」比較ページ、移行ガイド、および代替のランディングページのための直接実行可能です。

ユースケース:ブランド知覚監査

顧客向けの役割でLLMを展開する前に — または実行キャンペーン前に — モデルが内部でブランドをどのように特性化するかを理解する価値があります。これは、モデルが尋ねられたときに言うこととは異なります:トレーニングデータから構築された潜在的な関連付けを反映しており、その一部があなたの意図されたポジショニングと矛盾する可能性があります。

-- モデルの知識内のブランドの完全な特性化
DESCRIBE "YourBrand"

-- モデルはあなたをどの層に配置していますか?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='category'

-- あなたはどのテクノロジーに関連付けられていますか?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='integrates_with'

-- 望ましくない関連付けがありますか?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 20 LIMIT 30

層ごとにウォークして、関連付けがどのように進化するかを見てください:

-- 初期層:表面の共起
-- 中層(12–34):事実的な関連付け
-- 後の層:出力フォーマットとスタイル
WALK "YourBrand" LAYERS 10 TO 35

モデルがブランドを誤ったカテゴリに配置する場合、それを含むべきではない競合他社と関連付ける場合、または廃止されたポジショニングを反映する場合、これらのギャップは知識オーバーレイメカニズムを使用して直接パッチできます。モデルの内部表現を修正し、再トレーニングなしで修正します。

ユースケース:デプロイ前の知識ギャップ分析

ドメイン固有のデプロイメントのためにオープンソースモデルを評価する場合、重大な質問はベンチマークパフォーマンスではなく、このモデルは有用なために私たちのドメインについて十分に知っていますか、そしてそれは何か間違っていますか?

LarQLは、トピックエリア全体での構造化されたデプロイ前知識スキャンを可能にします:

-- ステップ1:製品知識を監査
DESCRIBE "YourProduct"
DESCRIBE "YourProduct v2"

-- ステップ2:カテゴリとポジショニング知識を確認
SELECT * FROM edges WHERE entity='YourProduct' AND relation='category'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='primary_use_case'

-- ステップ3:ギャップを検索 — 関連付けなしのトピック
SELECT * FROM edges WHERE entity='your_key_topic' NEAREST_TO Layer 20 LIMIT 5
-- 数か結果がない=知識ギャップ

-- ステップ4:間違った事実を検索
SELECT * FROM edges WHERE entity='YourCompany' AND relation='CEO'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='pricing_model'

-- ステップ5:ゴーライブ前に確認されたエラーをパッチ
UPDATE edges SET target='Current CEO Name' WHERE entity='YourCompany' AND relation='CEO'

このワークフローは、「デプロイして苦情を待つ」アプローチに置き換えます。Vindexに対してLarQLを使用した4時間の監査は、知識ギャップと事実エラーを表面化させることができます。そうでなければ実際のユーザーに到達します — そして同じ日にそれらを修正し、GPUは必要ありません。

ユースケース:幻覚根本原因分析

デプロイされたLLMが誤った、または有害な答えを生成する場合、標準的な応答は、システムプロンプトを更新するか、ガードレールを追加することです。しかし、プロンプトパッチは症状を治療します。LarQLは重みレベルでの診断を可能にします:なぜモデルがそれを信じましたか?

-- 間違った答えにつながった推論パスを再現
TRACE 'Acme CorpのCEOは' TOP 3

-- 間違った事実が取得されたレイヤーを見つけます
-- (TRACE出力のレイヤー番号は、確定された答えが結晶化する場所を示します)

-- モデルがその実体/関係のために実際に保存しているものを確認
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- ポリセマンティック混乱がないことを確認(同じニューロンが2つのことをエンコード)
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 23 LIMIT 10

-- 対象となる修正を適用
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

TRACE出力は層全体の確率分布を示します。初期構文検出から、中間層での知識検索を通じて、出力確定までです。これは、モデルによる引き起こされたインシデントが規制上または法的なドキュメンテーションを必要とする場合の法医学分析の主要なツールです:それはどこを示していますwhere正しくない事実は推論パスに入り、whyモデルは信頼していました。

パフォーマンスリファレンス(Apple Silicon)

VindexブラウジングおよびSELECTクエリはCPU全体で実行されます。INFERおよびTRACEはモデルをロードする必要があります。

LLM知識サービスとの関係

LarQLはLLM知識ライフサイクルの各サービスの背後にある基本的なテクノロジーです:

• デプロイ前監査: DESCRIBE, SELECT, と NEAREST_TO ゴーライブ前にドメイン全体でモデルの知識をスキャン
• 知識メンテナンス: パッチオーバーレイ(INSERT, UPDATE, DELETE)再トレーニングなしで展開された重みに修正を直接適用
• コンプライアンスと監査証跡: SHOW patches は、モデルで変更されたすべての事実の監査可能な記録を提供
• SEOインテリジェンス: WALK と NEAREST_TO トピックスペースのモデルの内部セマンティックマップを公開
• 競合他社とブランド分析: NEAREST_TO と INFER 交差検証で、モデルの共同配置信念を重みレベルで公開
• 幻覚法医学: TRACE 推論パスを層ごとに分解し、正確にどこで間違った答えが取得され、確定されたかを識別