Mistral Legacy Trọng số mở Không có trong FlowHunt

Mixtral 8x7B

Mixtral 8x7B là mô hình AI thế hệ cũ, được phát triển bởi Mistral và phát hành vào tháng 12 năm 2023. Là mô hình trọng lượng mở, các trọng số đã huấn luyện của nó được công bố công khai — bạn có thể tự lưu trữ, tinh chỉnh trên dữ liệu độc quyền hoặc chạy tại chỗ mà không phụ thuộc vào API. Cửa sổ ngữ cảnh 32K token của nó ngắn hơn so với các mô hình tiên tiến hiện tại, điều này có thể hạn chế hiệu suất trên các tài liệu dài.

Xem thêm
Mixtral 8x7B được phát hành vào ngày 1 tháng 12 năm 2023 mà không có thông báo trước — Mistral đã đăng một liên kết torrent magnet lên Twitter và để cộng đồng khám phá những gì họ đã xây dựng. Bản phát hành đã giới thiệu kiến trúc mixture-of-experts đến với làng AI trọng lượng mở chính thống: 8 mạng chuyên gia với 7B tham số mỗi mạng, với 2 chuyên gia được kích hoạt trên mỗi token, tạo ra 12,9B tham số hoạt động và 46,7B tổng tham số. Khi ra mắt, nó ngang bằng với GPT-3.5 trên hầu hết các điểm chuẩn trong khi hoàn toàn là trọng lượng mở và có thể chạy trên GPU tiêu dùng. Mixtral 8x7B đã thiết lập hiệu quả khuôn mẫu MoE mà DeepSeek, Qwen, NVIDIA, Meta và các phòng thí nghiệm khác đã áp dụng kể từ đó cho các kiến trúc trọng lượng mở của riêng họ. Đến năm 2026, nó nằm ở bậc Legacy — bị vượt xa đáng kể trên mọi điểm chuẩn — nhưng ý nghĩa lịch sử của nó trong việc dân chủ hóa hiệu suất MoE là rất đáng kể.

Benchmark

Mỗi điểm số chỉ xuất hiện một lần, kèm thứ hạng trong các mô hình được theo dõi và bên đã đo điểm.

Không có mô hình được theo dõi nào khác thuộc hạng Legacy, nên điểm số được hiển thị mà không so sánh với mô hình khác. So sánh trên bảng xếp hạng

Đã xác minh bên đánh giá độc lập, được tính vào xếp hạng
Tổng thể

AA Intelligence Index

Independent composite of agent, coding, knowledge and science tests by Artificial Analysis (v4).

Nguồn ↗

5,1
#45trên 45 Đã xác minh
Suy luận

Humanity's Last Exam

Expert-written questions across 100+ subjects, no tools.

Nguồn ↗

4,7%
#38trên 44 Đã xác minh

GPQA Diamond

Graduate-level science questions that search cannot answer.

Nguồn ↗

29,2%
#37trên 37 Đã xác minh

Nên sử dụng Mixtral 8x7B cho việc gì

Triển khai Tự lưu trữ & Riêng tư

Mixtral 8x7B là trọng lượng mở (12,9B/46,7B tham số MoE) — các trọng số đã huấn luyện của nó được công bố công khai để tải xuống và tự triển khai. Chạy nó trên phần cứng GPU của riêng bạn hoặc đám mây riêng để đảm bảo dữ liệu không bao giờ rời khỏi môi trường của bạn, loại bỏ chi phí API theo token khi mở rộng quy mô hoặc tinh chỉnh mô hình trên các tập dữ liệu độc quyền.

Điểm mạnh và hạn chế

Điểm mạnh

  • Triển khai tự lưu trữ và bảo vệ dữ liệu riêng tư (trọng lượng mở)

Hạn chế

  • Tụt hậu đáng kể so với các mô hình tiên tiến năm 2026 về lập trình tác nhân và suy luận phức tạp
  • Cửa sổ ngữ cảnh ngắn (32K) — hạn chế đối với tài liệu dài

Dùng một lựa chọn thay thế trong FlowHunt

Mixtral 8x7B không có trong FlowHunt. Các mô hình này đảm nhận công việc tương tự và sẵn sàng sử dụng:

Các Mô hình AI Liên quan

Về Mistral Paris, France · Thành lập 2023 · mistral.ai

Mistral AI là một công ty AI của Pháp được thành lập vào tháng 4 năm 2023 bởi Arthur Mensch (trước đây tại Google DeepMind), Guillaume Lample và Timothée Lacroix (cả hai trước đây tại Meta AI Research). Công ty định vị mình là nhà vô địch châu Âu trong lĩnh vực AI tạo sinh, kết hợp kinh doanh API thương mại với các bản phát hành trọng số mở chiến lược. Dòng Large hàng đầu và các mô hình được cấp phép Apache 2.0 của Mistral đã đưa công ty trở thành nhà cung cấp nổi bật nhất ngoài Mỹ và ngoài Trung Quốc trên hầu hết các bảng xếp hạng AI. Công ty duy trì trụ sở chính tại EU ở Paris, nhấn mạnh việc tuân thủ GDPR và quy định EU, đồng thời đã nêu rõ một triết lý quản lý khác biệt kêu gọi quản lý nhẹ nhàng hơn đối với các mô hình trọng số mở so với các hệ thống API đóng.

mistral.ai ↗

Xem Toàn bộ Bảng xếp hạng Mô hình AI

Câu hỏi thường gặp

Tìm hiểu thêm

Mistral AI
Mistral AI

Mistral AI

Tìm hiểu thêm về Mistral AI và các mô hình LLM mà họ cung cấp. Khám phá cách các mô hình này được sử dụng và điều gì khiến chúng trở nên khác biệt....

5 phút đọc
AI Large Language Models +4