Vector Dimension là gì — số chiều của một vector embedding và vì sao chọn số chiều là cân giữa độ tinh và chi phí

Bài này dành cho chủ doanh nghiệp và người quyết. Vector dimension được giải bằng ẩn dụ dễ hiểu, kèm cơ chế, ví dụ chạy thật và trục đánh đổi.

Vì sao đáng quan tâm: số chiều quyết định một hệ thống tìm kiếm ngữ nghĩa chạy nhanh hay chậm, tốn bao nhiêu bộ nhớ và chi phí. Đây là con số nhỏ nhưng ảnh hưởng tới cả hoá đơn vận hành.

Hình dung việc mô tả một người để người khác nhận ra. Nếu chỉ ghi vài đặc điểm như chiều cao, màu tóc, giới tính thì nhanh gọn nhưng dễ nhầm với nhiều người khác. Nếu ghi thêm dáng đi, giọng nói, thói quen, nét mặt thì càng rõ và càng khó nhầm, nhưng tốn nhiều giấy mực và đọc lâu hơn.

Số chiều của vector chính là số đặc điểm dùng để mô tả. Ít chiều là tả sơ; nhiều chiều là tả kỹ.

Tả càng kỹ thì phân biệt càng tinh, nhưng càng tốn chỗ lưu và càng mất công đối chiếu. Số chiều là số đặc điểm mô tả một mẩu ý nghĩa, và như mọi bản mô tả, kỹ hơn thì rõ hơn nhưng nặng hơn.

Một mô hình embedding biến mỗi mẩu nội dung thành một dãy số thực, mỗi con số nằm trên một trục riêng. Tổng số trục đó là số chiều của vector, một con số cố định do mô hình quy định, thường vài trăm tới vài nghìn.

• Mỗi chiều là một trục. Một con số mô tả một khía cạnh ý nghĩa mà mô hình tự học.
• Số chiều cố định theo mô hình. Cùng một mô hình thì mọi vector cùng số chiều, ví dụ 384, 768 hay 1536.
• So sánh trên cùng không gian. Chỉ các vector cùng số chiều mới đối chiếu được với nhau.

Một mẩu nội dung trở thành vector qua bước embedding, và độ gần giữa hai vector thường đo bằng cosine similarity. Số chiều càng lớn thì mỗi phép đo càng nhiều con số phải tính.

• Chất lượng tìm kiếm. Nhiều chiều giúp phân biệt các nội dung gần nghĩa tinh hơn.
• Dung lượng bộ nhớ. Mỗi chiều thêm vào là thêm một con số phải lưu cho mọi bản ghi.
• Tốc độ truy vấn. Vector càng dài thì mỗi lần so sánh càng nhiều phép tính nên chậm hơn.
• Chi phí vận hành. Bộ nhớ và tính toán nhiều hơn đẩy hoá đơn hạ tầng lên cao.
• Độ tinh nắm ý. Đủ chiều thì giữ được sắc thái; quá ít chiều thì gộp nhầm các ý khác nhau.

Số chiều là con số ẩn sau hiệu năng và chi phí của mọi hệ tìm kiếm ngữ nghĩa. Biết nó giúp doanh nghiệp hiểu vì sao một hệ thống nhanh rẻ còn hệ khác chậm đắt.

Một luồng dùng vector đi qua bốn nhịp:

• Nhận nội dung. Một câu, một sản phẩm hay một đoạn văn được đưa vào.
• Sinh vector. Mô hình embedding biến nội dung thành dãy số cố định số chiều.
• Lưu vào kho. Mọi vector cùng số chiều được lưu trong kho để tra cứu.
• Đối chiếu khi tìm. Câu hỏi cũng thành vector cùng số chiều rồi so độ gần.

Toàn bộ kho vector được giữ trong một vector database. Số chiều là thuộc tính cố định của kho đó: đổi mô hình sang số chiều khác thì phải tạo lại toàn bộ vector.

Giả sử một kho tài liệu nội bộ cần tìm kiếm theo ý nghĩa. Cùng một câu đầu vào có thể được mô tả bằng vector ít chiều hoặc nhiều chiều, tuỳ mô hình chọn.

Bản ít chiều như 384 con số lưu gọn và tra nhanh, hợp với kho nhỏ và câu hỏi rõ ràng. Bản nhiều chiều như 1536 con số phân biệt được các sắc thái gần nhau tốt hơn, nhưng mỗi bản ghi nặng gấp nhiều lần và mỗi lần tra phải tính nhiều hơn.

Kết quả là cùng một nhu cầu nhưng hai lựa chọn số chiều cho hai bài toán chi phí khác nhau. Đó là lý do số chiều phải chọn theo quy mô kho và độ tinh mà nghiệp vụ cần, không phải càng nhiều càng tốt.

Hai mức số chiều phục vụ hai bài toán khác nhau:

Ít chiều không phải là kém, nhiều chiều không phải là hơn. Mỗi mức hợp với một quy mô và một yêu cầu độ tinh khác nhau, nên việc chọn phải theo bài toán cụ thể.

Đặt số chiều cho hệ thống cần cân vài điểm:

• Độ tinh nắm ý. Nhiều chiều phân biệt sắc thái tốt hơn, nhưng tới một mức thì lợi ích thêm rất nhỏ.
• Dung lượng bộ nhớ. Mỗi chiều thêm là thêm một con số cho mọi bản ghi, nhân lên theo cả kho.
• Thời gian tra cứu. Vector dài hơn thì mỗi phép so sánh nặng hơn nên truy vấn chậm hơn.

Cách làm đúng là chọn số chiều vừa đủ cho độ tinh mà nghiệp vụ cần, không chạy theo con số lớn nhất. Đủ tinh để phân biệt đúng nhưng vẫn gọn để nhanh và rẻ mới là điểm cân tốt.

Số chiều tác động lên bốn mặt của một hệ tìm kiếm ngữ nghĩa, cần nắm để chọn đúng:

Một mẩu nội dung dài thường được cắt nhỏ qua bước chunking trước khi embedding, nên số bản ghi có thể rất lớn. Khi đó số chiều nhân với số bản ghi quyết định tổng dung lượng và chi phí của cả hệ.

• Tưởng càng nhiều chiều càng tốt. Quá một mức thì độ tinh tăng không đáng kể nhưng chi phí vẫn tăng đều.
• Tưởng có thể đổi số chiều dễ dàng. Đổi sang số chiều khác buộc tạo lại toàn bộ vector của kho.
• Tưởng vector khác chiều so sánh được. Chỉ các vector cùng số chiều mới đối chiếu được với nhau.
• Quên nhân với số bản ghi. Một chiều thêm nhân lên cả kho mới thành con số bộ nhớ thật.
• Chọn số chiều trước khi biết quy mô. Số chiều hợp lý phụ thuộc kích thước kho và độ tinh nghiệp vụ cần.

Phần lớn lỗi với số chiều đến từ tin rằng nhiều hơn là tốt hơn. Số chiều đúng là số vừa đủ cho độ tinh cần thiết, cân với bộ nhớ và tốc độ mà hệ thống chịu được.

MONA chọn số chiều như một quyết định cân giữa độ tinh và chi phí, không lấy con số lớn nhất:

• Xác định độ tinh nghiệp vụ. Đo xem việc tìm kiếm cần phân biệt tới mức sắc thái nào.
• Ước lượng quy mô kho. Số bản ghi nhân số chiều cho biết bộ nhớ và chi phí thật.
• Chọn mô hình hợp chiều. Lấy mô hình embedding có số chiều vừa đủ cho yêu cầu.
• Đo và tinh chỉnh. So chất lượng, tốc độ, chi phí giữa các phương án rồi chốt điểm cân.

Kho vector có thể chứa nội dung gắn với thông tin cá nhân của khách. MONA tuân thủ nguyên tắc dữ liệu theo Nghị định 13/2023 trong cả khâu lưu trữ và tra cứu vector.

Số chiều đáng cân nhắc khi doanh nghiệp xây hoặc vận hành hệ tìm kiếm theo ý nghĩa:

• Tìm kiếm ngữ nghĩa nội bộ. Tra tài liệu, quy trình, hỏi đáp theo ý chứ không theo từ khoá.
• Trợ lý dựa trên kho tri thức. Hệ thống lấy đúng đoạn liên quan trước khi trả lời.
• Tìm sản phẩm theo mô tả. Khách mô tả nhu cầu, hệ thống khớp sản phẩm gần ý nhất.
• Kho lớn cần cân chi phí. Khi số bản ghi lớn, số chiều quyết định bộ nhớ và tốc độ.

Khi kho nhỏ và nhu cầu đơn giản, số chiều mặc định của mô hình thường đủ dùng. Khi kho lớn hoặc cần tối ưu chi phí và tốc độ, chọn số chiều đúng trở thành quyết định đáng giá.

Số chiều dễ hiểu nhưng chọn đúng và cân với bộ nhớ, tốc độ, chi phí cần kinh nghiệm. Doanh nghiệp nên cân nhắc MONA khi:

• Muốn xây hệ tìm kiếm ngữ nghĩa hoặc trợ lý dựa trên kho tri thức nội bộ.
• Cần chọn mô hình embedding và số chiều hợp với quy mô kho hiện có.
• Cần cân giữa độ tinh tìm kiếm với chi phí bộ nhớ và tốc độ truy vấn.
• Muốn đo chất lượng, tốc độ, chi phí giữa các phương án trước khi chốt.

MONA thiết kế hệ vector và chọn số chiều khớp nghiệp vụ doanh nghiệp một cách đo được. Tham khảo Sale AI cho tìm kiếm và tư vấn theo ý khách, LMS AI cho tra cứu kho học liệu theo ngữ nghĩa.