LarQL (LQL)

LarQL là gì?

LarQL — cũng được gọi là LQL — là ngôn ngữ truy vấn được thiết kế để tương tác trực tiếp với kiến thức được mã hóa trong trọng số mô hình ngôn ngữ lớn (LLM). Nó sử dụng cú pháp SQL quen thuộc (SELECT, INSERT, UPDATE, DELETE, DESCRIBE) được áp dụng không phải cho các hàng trong cơ sở dữ liệu quan hệ mà cho biểu đồ kiến thức có cấu trúc mà LLMs xây dựng nội bộ trong quá trình huấn luyện.

Nơi các công cụ truyền thống coi trọng số mô hình là một blob nhị phân không rõ ràng, LarQL coi chúng là kho kiến thức có thể truy vấn. Một người thực hành có thể kiểm tra những gì mô hình biết về một thực thể cụ thể, theo dõi chính xác cách mô hình đạt được suy luận nhất định và áp dụng bản vá kiến thức có mục tiêu — tất cả mà không cần huấn luyện lại mô hình hoặc sửa đổi tệp trọng số cơ sở.

Các Khái Niệm Cơ Bản

Vindex

Vindex (chỉ mục vectơ) là biểu diễn kiến thức nội bộ của mô hình được trích xuất và có thể truy vấn. Nó được tạo từ trọng số mô hình bằng lệnh larql extract-index và được lưu dưới dạng tệp độc lập. Sau khi được trích xuất, có thể duyệt qua Vindex và truy vấn mà không cần tải mô hình đầy đủ — và không cần phần cứng GPU.

Vindex mã hóa các liên kết đã học được của mô hình giữa các thực thể, mối quan hệ và lớp, giúp có thể đặt câu hỏi như: “Mô hình này nghĩ trụ sở của Apple là gì?” hoặc “Mô hình này liên kết những khái niệm nào với GDPR gần lớp 20?”

Lớp Phủ Bản Vá

Các thao tác ghi của LarQL — INSERT, UPDATE, DELETE — không sửa đổi tệp trọng số mô hình cơ sở. Thay vào đó, chúng tạo lớp phủ tệp .patch được áp dụng tại thời điểm suy luận. Điều này làm cho chỉnh sửa kiến thức:

• Tức thì: không bước biên dịch lại hoặc tinh chỉnh
• Có thể đảo ngược: mô hình cơ sở vẫn không thay đổi; có thể xóa hoặc thay thế các bản vá
• Nhẹ: bản vá bao gồm 234 sự kiện yêu cầu khoảng 2,1 MB so với mô hình cơ sở 16 GB

Sẵn sàng phát triển doanh nghiệp của bạn?

Bắt đầu dùng thử miễn phí ngay hôm nay và xem kết quả trong vài ngày.

Yêu cầu demo Đăng nhập

Thiết Lập LarQL

Để bắt đầu làm việc với kiến thức của mô hình, hãy trích xuất Vindex và mở REPL tương tác:

larql extract-index path/to/your-model -o company-model.vindex --f16
larql repl

Cờ --f16 trích xuất chỉ mục với độ chính xác dấu phẩy động 16 bit. Vindex kết quả cho mô hình như Gemma 3 4B khoảng 3 GB.

Duyệt Kiến Thức Mô Hình

Các lệnh này hoạt động dựa trên Vindex được trích xuất và không yêu cầu GPU:

Kiểm tra một thực thể cụ thể:

DESCRIBE "Apple Inc"

Trả về tất cả kiến thức mô hình có về thực thể, được sắp xếp theo lớp và tính năng: ngành, sản phẩm, trụ sở, founded_by, stock_ticker và bất kỳ mối quan hệ nào khác được học trong quá trình huấn luyện.

Truy vấn mối quan hệ cụ thể trên tất cả các thực thể:

SELECT * FROM edges WHERE relation='headquarters' LIMIT 10

Tìm các liên kết khái niệm theo khoảng cách:

SELECT * FROM edges WHERE entity='GDPR' NEAREST_TO Layer 20 LIMIT 5

Tìm năm khái niệm được liên kết chặt chẽ nhất với GDPR gần lớp 20 của biểu diễn kiến thức mô hình.

Liệt kê tất cả các loại mối quan hệ mô hình đã học:

SHOW relations

Trả về danh sách đầy đủ các loại mối quan hệ hiện diện trong mô hình. Mô hình kích thước trung bình điển hình mã hóa hơn 1.000 loại mối quan hệ.

Tham gia bản tin của chúng tôi

Nhận các mẹo, xu hướng và ưu đãi mới nhất miễn phí.

Địa chỉ email

Đăng ký

Suy Luận và Theo Dõi

Chạy suy luận với điểm xác suất:

INFER 'The headquarters of Apple is located in' TOP 5

Trả về 5 hoàn thành hàng đầu với điểm tin cậy (ví dụ: Cupertino 0,71, California 0,14 v.v.).

Theo dõi suy luận từng lớp:

TRACE 'The CEO of Tesla is' TOP 3

Tạo ra sự phân rã theo từng lớp cho thấy mô hình xây dựng kết quả đầu ra như thế nào — từ phát hiện cú pháp ban đầu thông qua xác định miền, truy xuất kiến thức cho đến cam kết đầu ra. Được sử dụng cho pháp y ảo giác khi mô hình tạo ra câu trả lời không mong muốn hoặc sai.

Bước một khái niệm qua các lớp:

WALK "climate change" LAYERS 10 TO 28

Cho thấy cách các liên kết của mô hình cho một khái niệm phát triển qua các lớp — từ sự xuất hiện chung về văn bản cụ thể trong các lớp đầu tiên đến các liên kết ngữ nghĩa trừu tượng trong các lớp sâu hơn.

Chỉnh Sửa Kiến Thức với Lớp Phủ Bản Vá

Các thao tác ghi của LarQL tạo lớp phủ .patch mà không chạm vào tệp mô hình cơ sở:

Chèn một sự kiện mới:

INSERT INTO edges (entity, relation, target, confidence)
VALUES ('Acme Corp', 'CEO', 'Jane Smith', 0.95)

Cập nhật một sự kiện hiện có:

UPDATE edges
SET target = 'Jane Smith'
WHERE entity = 'Acme Corp' AND relation = 'CEO'

Triệt tiêu một sự kiện:

DELETE FROM edges
WHERE entity = 'Acme Corp' AND relation = 'former_CEO'

Kiểm tra các bản vá hoạt động:

SHOW patches

Liệt kê tất cả các tệp bản vá hoạt động, kích thước của chúng và số lượng sự kiện. Bản vá có 234 sự kiện so với mô hình cơ sở 16 GB tổng cộng khoảng 2,1 MB.

Trường Hợp Sử Dụng Kiểm Toán: Xác Thực Kiến Thức Trước Triển Khai

Quy trình xác nhận toàn bộ trước triển khai bằng LarQL:

-- 1. Kiểm tra những gì mô hình biết về sản phẩm của bạn
DESCRIBE "Acme Corp"

-- 2. Tìm các liên kết không chính xác
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- 3. Xác minh không có nhầm lẫn thương hiệu cạnh tranh
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 20 LIMIT 10

-- 4. Vá bất kỳ sự kiện sai nào trước triển khai
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

Quy trình này là nền tảng của kiểm toán mô hình trước triển khai: xác minh có hệ thống rằng kiến thức nội bộ của mô hình chính xác cho miền của bạn trước khi tiếp xúc với người dùng.

Trường Hợp Sử Dụng: Trí Tuệ SEO từ Trọng Số Mô Hình

Mô hình ngôn ngữ được huấn luyện trên hàng tỷ tài liệu internet đã nội tâm hóa cấu trúc ngữ nghĩa của mọi không gian chủ đề mà nó gặp phải. Thay vì xóa SERPs hoặc mua dữ liệu từ khóa, bạn có thể đọc cấu trúc trực tiếp bằng cách sondage biểu diễn nội bộ của mô hình — không cần tạo.

Khi bạn gửi truy vấn như "affiliate software" đến LLM, các nơ-ron cụ thể trong các lớp feed-forward bắn đạn theo một mô hình đặc trưng. Những kích hoạt này mã hóa những gì mô hình coi là ngữ nghĩa liền kề: đối thủ cạnh tranh, công nghệ liên quan, trường hợp sử dụng, trang đánh giá. LarQL làm cho những liên kết này có thể truy vấn được.

Bản đồ khoảng lân cận ngữ nghĩa của bất kỳ từ khóa nào:

-- Những khái niệm nào nhóm lại quanh thuật ngữ cốt lõi của bạn trong vùng kiến thức (lớp 12–34)?
WALK "affiliate software" LAYERS 12 TO 34

-- Tìm các thực thể được liên kết tốt nhất ở đỉnh độ sâu kiến thức
SELECT * FROM edges WHERE entity='affiliate software' NEAREST_TO Layer 22 LIMIT 20

-- Mô hình sử dụng loại mối quan hệ nào cho lĩnh vực này?
SHOW relations

Những gì bạn nhận được: danh sách xếp hạng các thuật ngữ ngữ nghĩa liền kề phản ánh những gì mô hình (và theo phần mở rộng, tập hợp web mà nó được huấn luyện) coi là khoảng lân cận tự nhiên của chủ đề của bạn — ứng cử viên cụm chủ đề, từ khóa tích hợp và các góc độ đuôi dài mà các công cụ từ khóa thông thường bỏ lỡ vì chúng đo lường mức độ phổ biến, không phải cấu trúc ngữ nghĩa.

Điểm tin cậy từ NEAREST_TO chỉ ra khoảng cách ngữ nghĩa trong biểu diễn nội bộ của mô hình. Các thuật ngữ có điểm tin cậy cao được liệt kê sâu với truy vấn của bạn trong kiến thức của mô hình — chúng là mục tiêu cùng xuất hiện tự nhiên cho chiến lược nội dung.

Trường Hợp Sử Dụng: Khám Phá Cạnh Tranh và Cùng Định Vị Thương Hiệu

Mô hình được huấn luyện trên dữ liệu quy mô web đã học được những thương hiệu nào xuất hiện trong các cuộc thảo luận giống nhau. Điều này giàu có tín hiệu hơn sự chồng chéo của liên kết ngược hoặc sự cùng xuất hiện SERP: nó phản ánh niềm tin hợp nhất của mô hình về những công ty nào hoạt động trong cùng một không gian, được xây dựng từ hàng triệu bài viết, bài đánh giá, trang so sánh và chủ đề diễn đàn.

-- Những thương hiệu nào mô hình coi là cùng định vị với của bạn?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 19 LIMIT 15

-- Xác nhận rằng đây là cùng định vị thương hiệu, không phải nhầm lẫn danh mục
DESCRIBE "YourBrand"

-- Kiểm tra tương tự đối với một đối thủ cạnh tranh cụ thể
SELECT * FROM edges WHERE entity='CompetitorX' NEAREST_TO Layer 19 LIMIT 15

Tham chiếu chéo với suy luận để xác thực:

-- Mô hình có tạo ra các đối thủ cạnh tranh trong các hoàn thành trực tiếp không?
INFER 'The main alternatives to YourBrand are' TOP 8

-- Kiểm tra Monte Carlo: những thương hiệu nào xuất hiện thường xuyên nhất?
INFER 'Companies similar to YourBrand include' TOP 5

Những thương hiệu xuất hiện cả trong dấu vết FFN nội bộ (NEAREST_TO) và trong hoàn thành sinh tạo (INFER) có mức độ tin cậy cao nhất. Chúng đại diện cho cảnh quan cạnh tranh hợp nhất của mô hình — trực tiếp có thể hành động được cho các trang so sánh “vs”, hướng dẫn di chuyển và trang đích thay thế.

Trường Hợp Sử Dụng: Kiểm Toán Nhận Thức Thương Hiệu

Trước khi triển khai LLM theo hướng khách hàng — hoặc trước khi khởi chạy chiến dịch — cần phải hiểu mô hình mô tả thương hiệu của bạn như thế nào nội bộ. Điều này khác với những gì mô hình nói khi được hỏi: nó phản ánh các liên kết tiềm ẩn được xây dựng từ dữ liệu huấn luyện, một số trong đó có thể mâu thuẫn với vị trí dự định của bạn.

-- Đặc tính đầy đủ của thương hiệu của bạn trong kiến thức của mô hình
DESCRIBE "YourBrand"

-- Mô hình đưa bạn vào danh mục nào?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='category'

-- Bạn được liên kết với những công nghệ nào?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='integrates_with'

-- Có liên kết không mong muốn nào không?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 20 LIMIT 30

Bước từng lớp để xem cách các liên kết phát triển:

-- Các lớp đầu tiên: sự cùng xuất hiện bề mặt
-- Các lớp giữa (12–34): liên kết thực tế
-- Các lớp sau: định dạng đầu ra và kiểu dáng
WALK "YourBrand" LAYERS 10 TO 35

Nếu mô hình đưa thương hiệu của bạn vào danh mục sai, liên kết nó với đối thủ cạnh tranh mà nó không nên, hoặc phản ánh vị trí lỗi thời, những khoảng cách này có thể được vá trực tiếp bằng cách sử dụng cơ chế lớp phủ kiến thức — sửa biểu diễn nội bộ của mô hình mà không cần huấn luyện lại.

Trường Hợp Sử Dụng: Phân Tích Khoảng Cách Kiến Thức Trước Triển Khai

Khi đánh giá mô hình nguồn mở cho triển khai cụ thể miền, câu hỏi quan trọng không phải là hiệu suất tham chiếu — đó là: mô hình này có biết đủ về lĩnh vực của chúng tôi để hữu ích không, và nó có biết điều gì đó sai không?

LarQL cho phép quét kiến thức trước triển khai được cấu trúc trên toàn bộ khu vực chủ đề của bạn:

-- Bước 1: Kiểm toán kiến thức sản phẩm
DESCRIBE "YourProduct"
DESCRIBE "YourProduct v2"

-- Bước 2: Kiểm tra kiến thức danh mục và vị trí
SELECT * FROM edges WHERE entity='YourProduct' AND relation='category'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='primary_use_case'

-- Bước 3: Tìm khoảng cách — chủ đề không có liên kết
SELECT * FROM edges WHERE entity='your_key_topic' NEAREST_TO Layer 20 LIMIT 5
-- Một vài hoặc không có kết quả = khoảng cách kiến thức

-- Bước 4: Tìm sự kiện sai
SELECT * FROM edges WHERE entity='YourCompany' AND relation='CEO'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='pricing_model'

-- Bước 5: Vá lỗi được xác nhận trước khi go-live
UPDATE edges SET target='Current CEO Name' WHERE entity='YourCompany' AND relation='CEO'

Quy trình này thay thế phương pháp “triển khai và đợi khiếu nại”. Kiểm toán bốn giờ bằng LarQL trên Vindex có thể bộc lộ những khoảng cách kiến thức và lỗi sự kiện mà nếu không sẽ tiếp cận những người dùng thực sự — và sửa chúng cùng ngày, không cần GPU.

Trường Hợp Sử Dụng: Phân Tích Nguyên Nhân Gốc Ảo Giác

Khi LLM được triển khai tạo ra câu trả lời sai hoặc có hại, phản ứng tiêu chuẩn là cập nhật dấu nhắc hệ thống hoặc thêm các bảo vệ. Nhưng vá dấu nhắc điều trị các triệu chứng. LarQL cho phép chẩn đoán ở cấp độ trọng số: tại sao mô hình tin vào điều đó?

-- Tái tạo đường dẫn suy luận dẫn đến câu trả lời sai
TRACE 'The CEO of Acme Corp is' TOP 3

-- Tìm lớp nơi sự kiện sai được lấy
-- (Số lớp trong đầu ra TRACE cho biết nơi câu trả lời cam kết được kết tinh)

-- Kiểm tra những gì mô hình thực sự lưu trữ cho thực thể/mối quan hệ đó
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- Xác nhận không có nhầm lẫn polysemantic (cùng nơ-ron mã hóa hai điều)
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 23 LIMIT 10

-- Áp dụng bản sửa lỗi được nhắm mục tiêu
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

Đầu ra TRACE cho thấy phân bố xác suất trên các lớp — từ phát hiện cú pháp ban đầu, thông qua truy xuất kiến thức trong các lớp giữa, đến cam kết đầu ra. Đây là công cụ chính để phân tích pháp y khi sự cố do mô hình gây ra yêu cầu tài liệu quy định hoặc pháp lý: nó chứng minh nơi sự kiện sai đã nhập đường dẫn suy luận và tại sao mô hình đã chắc chắn về nó.

Tham Chiếu Hiệu Suất (Apple Silicon)

Duyệt Vindex và truy vấn SELECT chạy hoàn toàn trên CPU. INFER và TRACE yêu cầu mô hình được tải.

Mối Quan Hệ với Dịch Vụ Kiến Thức LLM

LarQL là công nghệ cơ bản đằng sau mỗi dịch vụ trong vòng đời kiến thức LLM:

• Kiểm toán trước triển khai: DESCRIBE, SELECT và NEAREST_TO quét kiến thức của mô hình trên toàn bộ miền trước khi go-live
• Bảo trì kiến thức: cơ chế lớp phủ bản vá (INSERT, UPDATE, DELETE) áp dụng các bản sửa trực tiếp trên trọng số được triển khai mà không cần huấn luyện lại
• Tuân thủ và dấu vết kiểm toán: SHOW patches cung cấp hồ sơ có thể kiểm toán được của mọi sự kiện được thay đổi trong mô hình
• Trí tuệ SEO: WALK và NEAREST_TO tiết lộ bản đồ ngữ nghĩa nội bộ của mô hình về bất kỳ không gian chủ đề nào
• Phân tích cạnh tranh và thương hiệu: NEAREST_TO với xác thực chéo INFER tiết lộ niềm tin cùng định vị của mô hình ở cấp độ trọng số
• Pháp y ảo giác: TRACE phân tách đường dẫn suy luận từng lớp, xác định chính xác nơi câu trả lời sai được lấy và cam kết