LarQL (LQL)

LarQL이란 무엇입니까?

LarQL — 또는 LQL이라고도 함 — 은 대규모 언어 모델(LLM) 가중치에 인코딩된 지식과 직접 상호 작용하도록 설계된 쿼리 언어입니다. 관계형 데이터베이스의 행이 아닌 훈련 중에 LLM이 내부적으로 구축하는 구조화된 지식 그래프에 적용되는 친숙한 SQL 유사 구문(SELECT, INSERT, UPDATE, DELETE, DESCRIBE)을 사용합니다.

기존 도구가 모델 가중치를 불투명한 바이너리 Blob으로 처리하는 경우 LarQL은 이를 쿼리 가능한 지식 저장소로 처리합니다. 실무자는 모델이 특정 엔티티에 대해 무엇을 알고 있는지 검사하고, 모델이 주어진 추론에 도달하는 방식을 정확히 추적하며, 대상 지식 패치를 적용할 수 있습니다 — 모두 모델을 재교육하거나 기본 가중치 파일을 수정하지 않고.

핵심 개념

Vindex

Vindex(벡터 인덱스)는 모델의 내부 지식의 추출 가능하고 쿼리 가능한 표현입니다. larql extract-index 명령을 사용하여 모델 가중치에서 생성되며 독립 실행형 파일로 저장됩니다. 추출되면 전체 모델을 로드하지 않고도 Vindex를 탐색하고 쿼리할 수 있으며 GPU 하드웨어도 없습니다.

Vindex는 엔티티, 관계, 계층 간의 학습된 연결을 인코딩하여 “이 모델은 Apple의 본사가 무엇이라고 생각합니까?” 또는 “이 모델은 계층 20 근처에서 GDPR과 어떤 개념을 연결합니까?“와 같은 질문을 할 수 있게 합니다.

패치 오버레이

LarQL의 쓰기 작업 — INSERT, UPDATE, DELETE — 기본 모델 가중치 파일을 수정하지 않습니다. 대신 추론 시 적용되는 .patch 파일 오버레이를 생성합니다. 이것은 지식 편집을 만듭니다:

• 인스턴트: 재컴파일 또는 미세 조정 단계 없음
• 가역적: 기본 모델은 변경되지 않습니다; 패치를 제거하거나 바꿀 수 있습니다
• 가벼움: 234개 사실을 포함하는 패치는 16GB 기본 모델에 대해 약 2.1MB가 필요합니다

비즈니스 성장 준비가 되셨나요?

오늘 무료 평가판을 시작하고 며칠 내로 결과를 확인하세요.

데모 요청 로그인

LarQL 설정

모델의 지식으로 작업을 시작하려면 Vindex를 추출하고 대화형 REPL을 엽니다:

larql extract-index path/to/your-model -o company-model.vindex --f16
larql repl

--f16 플래그는 16비트 부동 소수점 정밀도로 인덱스를 추출합니다. Gemma 3 4B과 같은 모델의 결과 Vindex는 약 3GB입니다.

모델 지식 탐색

이 명령은 추출된 Vindex에 대해 작동하며 GPU가 필요하지 않습니다:

특정 엔티티 검사:

DESCRIBE "Apple Inc"

엔티티에 대해 모델이 보유한 모든 지식을 반환하며 계층 및 기능별로 구성됩니다: 산업, 제품, 본사, founded_by, stock_ticker 및 훈련 중에 학습한 기타 모든 관계.

모든 엔티티에 걸쳐 특정 관계 쿼리:

SELECT * FROM edges WHERE relation='headquarters' LIMIT 10

거리별 개념 연결 찾기:

SELECT * FROM edges WHERE entity='GDPR' NEAREST_TO Layer 20 LIMIT 5

모델의 지식 표현의 계층 20 근처에서 GDPR과 가장 밀접하게 연결된 5개 개념을 찾습니다.

모델이 학습한 모든 관계 유형을 나열:

SHOW relations

모델에 있는 관계 유형의 완전한 목록을 반환합니다. 일반적인 중간 크기의 모델은 1,000개 이상의 관계 유형을 인코딩합니다.

뉴스레터 가입

최신 팁, 트렌드 및 특가 정보를 무료로 받아보세요.

이메일 주소

구독

추론 및 추적

확률 점수로 추론 실행:

INFER 'The headquarters of Apple is located in' TOP 5

신뢰 점수로 상위 5개 완료를 반환합니다(예: Cupertino 0.71, California 0.14 등).

계층별 추론 추적:

TRACE 'The CEO of Tesla is' TOP 3

초기 구문 감지부터 도메인 식별, 지식 검색, 출력 커밋을 통해 모델이 출력을 향해 어떻게 구축하는지 보여주는 계층별 분해를 생성합니다. 모델이 예상치 못한 또는 잘못된 답변을 생성할 때 환각 법의학에 사용됩니다.

계층별 개념 걷기:

WALK "climate change" LAYERS 10 TO 28

초기 계층의 구체적인 텍스트 동시 발생에서 더 깊은 계층의 추상적 의미 연결까지 계층 전체에서 개념에 대한 모델의 연결이 어떻게 진화하는지 보여줍니다.

패치 오버레이를 사용한 지식 편집

LarQL의 쓰기 작업은 기본 모델 파일을 건드리지 않고 .patch 오버레이를 생성합니다:

새 사실 삽입:

INSERT INTO edges (entity, relation, target, confidence)
VALUES ('Acme Corp', 'CEO', 'Jane Smith', 0.95)

기존 사실 업데이트:

UPDATE edges
SET target = 'Jane Smith'
WHERE entity = 'Acme Corp' AND relation = 'CEO'

사실 억제:

DELETE FROM edges
WHERE entity = 'Acme Corp' AND relation = 'former_CEO'

활성 패치 검사:

SHOW patches

모든 활성 패치 파일, 크기 및 사실 수를 나열합니다. 16GB 기본 모델에 대한 234사실 패치는 약 2.1MB입니다.

감사 사용 사례: 배포 전 지식 확인

LarQL을 사용한 완전한 배포 전 검증 워크플로우:

-- 1. 모델이 제품에 대해 무엇을 알고 있는지 검사
DESCRIBE "Acme Corp"

-- 2. 잘못된 연결 찾기
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- 3. 경쟁 브랜드 혼동 없음 확인
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 20 LIMIT 10

-- 4. 배포 전 잘못된 사실 패치
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

이 워크플로우는 배포 전 모델 감사의 기초입니다: 모델의 내부 지식이 사용자에게 노출하기 전에 도메인에 정확한지 체계적으로 확인합니다.

사용 사례: 모델 가중치에서 SEO 인텔리전스

수조의 웹 문서에 훈련된 언어 모델은 만난 모든 주제 공간의 의미 구조를 내부화했습니다. SERP를 스크래이핑하거나 키워드 데이터를 구매하는 대신 모델의 내부 표현을 프로브하여 생성 없이 해당 구조를 직접 읽을 수 있습니다.

"제휴 소프트웨어"와 같은 쿼리를 LLM에 제출할 때, 피드포워드 계층의 특정 뉴런이 특성 패턴으로 발화합니다. 이러한 활성화는 모델이 의미론적으로 인접한 것으로 간주하는 것을 인코딩합니다: 경쟁자, 관련 기술, 사용 사례, 검토 사이트. LarQL은 이러한 연결을 쿼리 가능하게 합니다.

모든 키워드의 의미론적 근처를 매핑:

-- 지식 영역(계층 12–34)에서 핵심 용어 주변에 어떤 개념이 클러스터되어 있습니까?
WALK "제휴 소프트웨어" LAYERS 12 TO 34

-- 피크 지식 깊이에서 가장 관련된 엔티티 찾기
SELECT * FROM edges WHERE entity='제휴 소프트웨어' NEAREST_TO Layer 22 LIMIT 20

-- 이 도메인에 대해 모델이 어떤 관계 유형을 사용합니까?
SHOW relations

얻을 수 있는 것: 모델(및 확장하여, 훈련된 웹 코퍼스)이 주제의 자연스러운 근처로 간주하는 의미론적으로 인접한 용어의 순위가 매겨진 목록 — 주제 클러스터 후보, 통합 키워드, 및 기존 키워드 도구가 인기도를 측정하므로 놓치는 장꼬리 각도, 의미론적 구조가 아닙니다.

NEAREST_TO의 신뢰도 점수는 모델의 내부 표현에서 의미론적 거리를 나타냅니다. 신뢰도 점수가 높은 용어는 모델의 지식에서 쿼리와 깊이 얽혀 있습니다 — 콘텐츠 전략을 위한 자연스러운 공동 발생 목표입니다.

사용 사례: 경쟁 발견 및 브랜드 공동 배치

웹 규모 데이터에 훈련된 모델은 동일한 토론에 나타나는 브랜드를 학습했습니다. 이것은 백링크 중복 또는 SERP 공동 발생보다 더 신호가 풍부합니다: 모델이 회사가 동일한 공간에서 운영한다고 믿는 것을 반영하며, 수백만 개의 기사, 리뷰, 비교 페이지 및 포럼 스레드에서 구축되었습니다.

-- 어떤 브랜드가 모델은 귀사와 공동으로 배치된다고 생각합니까?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 19 LIMIT 15

-- 이것이 브랜드 공동 배치이고 범주 혼동이 아님을 확인하십시오
DESCRIBE "YourBrand"

-- 특정 경쟁자에 대해 동일하게 확인
SELECT * FROM edges WHERE entity='CompetitorX' NEAREST_TO Layer 19 LIMIT 15

추론으로 교차 검증:

-- 모델이 직접 완료에서 경쟁자를 생성합니까?
INFER 'YourBrand의 주요 대안은' TOP 8

-- Monte Carlo 확인: 어떤 브랜드가 가장 자주 나타납니까?
INFER 'YourBrand과 유사한 회사는' TOP 5

내부 FFN 추적(NEAREST_TO) 및 생성 완료(INFER) 모두에 나타나는 브랜드는 가장 높은 신뢰도를 가집니다. 모델의 통합 경쟁 환경을 나타내며, “vs” 비교 페이지, 마이그레이션 가이드, 및 대체 랜딩 페이지에 직접 실행 가능합니다.

사용 사례: 브랜드 인식 감사

고객용 역할에서 LLM을 배포하기 전에 — 또는 캠페인을 시작하기 전에 — 모델이 내부적으로 브랜드를 특성화하는 방식을 이해할 가치가 있습니다. 이것은 모델이 물어볼 때 말하는 것과 다릅니다: 훈련 데이터에서 구축된 잠재적 협회를 반영하며, 일부는 의도된 포지셔닝과 모순될 수 있습니다.

-- 모델의 지식에서 브랜드의 완전한 특성화
DESCRIBE "YourBrand"

-- 모델이 귀사를 어느 범주에 배치합니까?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='category'

-- 어떤 기술과 연관되어 있습니까?
SELECT * FROM edges WHERE entity='YourBrand' AND relation='integrates_with'

-- 원치 않는 협회가 있습니까?
SELECT * FROM edges WHERE entity='YourBrand' NEAREST_TO Layer 20 LIMIT 30

계층별로 걸어서 협회가 어떻게 진화하는지 보십시오:

-- 초기 계층: 표면 공동 발생
-- 중간 계층(12–34): 사실적 협회
-- 후기 계층: 출력 형식 및 스타일
WALK "YourBrand" LAYERS 10 TO 35

모델이 브랜드를 잘못된 범주에 배치하거나 배치해야 하지 않는 경쟁자와 연결하거나 구식 포지셔닝을 반영하는 경우, 이러한 격차는 지식 오버레이 메커니즘을 사용하여 직접 패치할 수 있습니다 — 재교육 없이 모델의 내부 표현 수정.

사용 사례: 배포 전 지식 격차 분석

도메인별 배포를 위해 오픈 소스 모델을 평가할 때, 중요한 질문은 벤치마크 성능이 아니라 이 모델이 우리 도메인에 대해 충분히 알고 있습니까, 그리고 잘못된 것을 알고 있습니까?

LarQL은 주제 영역 전체에서 구조화된 배포 전 지식 스캔을 가능하게 합니다:

-- 단계 1: 제품 지식 감사
DESCRIBE "YourProduct"
DESCRIBE "YourProduct v2"

-- 단계 2: 범주 및 포지셔닝 지식 확인
SELECT * FROM edges WHERE entity='YourProduct' AND relation='category'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='primary_use_case'

-- 단계 3: 격차 찾기 — 협회 없는 주제
SELECT * FROM edges WHERE entity='your_key_topic' NEAREST_TO Layer 20 LIMIT 5
-- 결과가 거의 없거나 없음 = 지식 격차

-- 단계 4: 잘못된 사실 찾기
SELECT * FROM edges WHERE entity='YourCompany' AND relation='CEO'
SELECT * FROM edges WHERE entity='YourProduct' AND relation='pricing_model'

-- 단계 5: 라이브 전에 확인된 오류 패치
UPDATE edges SET target='Current CEO Name' WHERE entity='YourCompany' AND relation='CEO'

이 워크플로우는 “배포 및 불평 대기” 접근 방식을 대체합니다. Vindex에 대해 LarQL을 사용한 4시간 감사는 지식 격차 및 사실적 오류를 표면화할 수 있습니다. 그렇지 않으면 실제 사용자에게 도달합니다 — 그리고 같은 날 이를 패치하며 GPU는 필요하지 않습니다.

사용 사례: 환각 근본 원인 분석

배포된 LLM이 잘못되거나 해로운 답변을 생성할 때 표준 응답은 시스템 프롬프트를 업데이트하거나 가드레일을 추가하는 것입니다. 하지만 프롬프트 패치는 증상을 치료합니다. LarQL은 가중치 수준에서 진단을 가능하게 합니다: 왜 모델이 그것을 믿었습니까?

-- 잘못된 답변으로 이어진 추론 경로 재현
TRACE 'Acme Corp의 CEO는' TOP 3

-- 잘못된 사실이 검색된 계층 찾기
-- (TRACE 출력의 계층 번호는 확정된 답변이 결정화되는 위치를 표시)

-- 모델이 해당 엔티티/관계에 대해 실제로 저장하는 것 확인
SELECT * FROM edges WHERE entity='Acme Corp' AND relation='CEO'

-- 다의어적 혼동이 없음을 확인(동일한 뉴런이 두 가지를 인코딩)
SELECT * FROM edges WHERE entity='Acme Corp' NEAREST_TO Layer 23 LIMIT 10

-- 대상 수정 적용
UPDATE edges SET target='Jane Smith' WHERE entity='Acme Corp' AND relation='CEO'

TRACE 출력은 계층 전체의 확률 분포를 보여줍니다 — 초기 구문 감지에서 중간 계층의 지식 검색을 통해 출력 커밋까지. 이것은 모델 유발 사건이 규제 또는 법적 문서화가 필요할 때 법의학 분석의 주요 도구입니다: 어디서 잘못된 사실이 추론 경로에 들어왔고 왜 모델이 신뢰했는지를 보여줍니다.

성능 참고(Apple Silicon)

Vindex 탐색 및 SELECT 쿼리는 CPU 전체에서 실행됩니다. INFER 및 TRACE는 모델을 로드해야 합니다.

LLM 지식 서비스와의 관계

LarQL은 LLM 지식 라이프사이클의 각 서비스 뒤의 기본 기술입니다:

• 배포 전 감사: DESCRIBE, SELECT, 및 NEAREST_TO 라이브 전에 도메인 전체에서 모델의 지식을 스캔
• 지식 유지 보수: 패치 오버레이(INSERT, UPDATE, DELETE) 재교육 없이 배포된 가중치에 수정 사항을 직접 적용
• 준수 및 감사 추적: SHOW patches 모델에서 변경된 모든 사실에 대한 감사 가능한 기록 제공
• SEO 인텔리전스: WALK 및 NEAREST_TO 주제 공간에서 모델의 내부 의미 맵 노출
• 경쟁 및 브랜드 분석: NEAREST_TO 및 INFER 교차 검증으로 가중치 수준에서 모델의 공동 배치 신념 노출
• 환각 법의학: TRACE 추론 경로를 계층별로 분해하여 잘못된 답변이 검색되고 확정된 위치를 정확히 식별