Vectiq MLOps - Nền Tảng Vòng Đời Model

Huấn luyện model là phần dễ; giữ cho model đúng sau khi đưa vào chạy mới là chỗ phần lớn dự án bị kẹt. Vectiq MLOps gom cả vòng đó vào một nền tảng: dataset có phiên bản, job huấn luyện theo dõi bằng MLflow, model registry không cho promote model dưới ngưỡng chất lượng, endpoint suy luận có API key và canary, cùng phần giám sát đo drift và độ chính xác trên traffic thật rồi có thể kích hoạt train lại. Bước tiền xử lý được lưu ngay trong model, nên endpoint biến đổi dữ liệu đầu vào đúng như lúc train. Nền tảng chạy bằng Docker Compose trên một máy chủ hoặc trên Kubernetes với mỗi endpoint một deployment riêng; tầng GPU cho model lớn hơn đang được xây thành một dịch vụ riêng.

Mở ứng dụng ↗

Doanh NghiệpTài Chính - Ngân HàngNông NghiệpĐô Thị & Giao Thông

Năng lực kỹ thuật

Dataset Có Phiên Bản & Kết Nối Dữ Liệu

Tải lên CSV, Parquet hoặc kéo bảng từ Iceberg, Parquet trên S3, PostgreSQL, MySQL. Mỗi lần kéo tạo một phiên bản dataset bất biến, ghi lại snapshot nguồn, và thay đổi schema được báo ngay.

Huấn Luyện Giữ Nguyên Bước Tiền Xử Lý

Job chạy trên worker Celery, xem log trực tiếp. Bước điền thiếu, mã hóa và chuẩn hóa chỉ fit trên tập train rồi lưu cùng estimator, theo dõi bằng MLflow; có thể bật tìm siêu tham số bằng Optuna.

Model Registry Có Quality Gate

Một version chỉ lên production khi vượt ngưỡng accuracy, R² hoặc mIoU theo loại bài toán. Mỗi model chỉ có một version production, có thể bắt buộc người thứ hai duyệt, và mọi version đều có model card tự sinh.

Endpoint, Canary & Shadow

Triển khai một version sau API key có rate limit riêng. Chia một phần traffic sang version mới, sao chép request sang version shadow mà không ảnh hưởng kết quả trả về, hoặc rollback bằng một lệnh gọi.

Giám Sát Drift & Độ Chính Xác

Mỗi lần deploy có một baseline lấy từ dữ liệu train; dữ liệu thật được so bằng PSI. Nhãn thực tế gửi về được tổng hợp thành báo cáo độ chính xác, còn luật cảnh báo gửi tới Slack, email, webhook hoặc hộp thông báo trong ứng dụng.

Vòng Train Lại Tự Động

Retrain policy kích hoạt khi có drift, độ chính xác giảm hoặc theo lịch. Model mới được chấm trên cùng tập holdout với model đang chạy; kém hơn thì dừng và ghi lý do, tốt hơn thì sang canary và chờ duyệt.

Feature Store

Nạp dữ liệu có kiểm định vào online store trên Redis và offline store trên Parquet, tra cứu point-in-time để dựng tập train, và endpoint tự lấy feature theo entity id thay vì bắt phía gọi gửi lên.

Phân Quyền, Nhật Ký & SDK

Phân quyền theo project, personal access token, SDK Python kèm CLI, API client giới hạn phạm vi cho đối tác, và nhật ký ai đã đổi gì. Dashboard có tiếng Việt và tiếng Anh.

Luồng xử lý

Nguồn Dữ Liệu

CSV / Iceberg / SQL

Dataset

MinIO / versioned

Huấn Luyện

Celery / MLflow

Model Registry

Quality gate

Suy Luận

API key / canary

Giám Sát

PSI drift / alerts

Tình huống triển khai

Đội Dữ Liệu Doanh Nghiệp

Từ Bảng Tính Tới API

Dự báo khách rời bỏ, nhu cầu hay chấm điểm khách tiềm năng thường bắt đầu từ một notebook không ai chạy lại được lần hai. Trên nền tảng, cùng model đó thành một dataset có phiên bản, một lần train được theo dõi và một endpoint mà hệ thống bán hàng gọi bằng API key, kèm schema rõ ràng cho bên tích hợp.

Kéo dữ liệu train thẳng từ kho dữ liệu hoặc Lakehouse
Thuật toán scikit-learn, XGBoost, LightGBM có kiểm tra tham số
API dự đoán từng bản ghi và theo lô, kèm schema đầu vào
Chấm điểm theo lô theo lịch, ghi ra Parquet, CSV hoặc data mart
Mang model train ở nơi khác vào dưới dạng skops hoặc ONNX; nền tảng tự đánh giá lại

Tabular MLBatch ScoringONNXLakehouse

Tài Chính - Ngân Hàng

Model Giải Trình Được Với Kiểm Toán

Ở ngành có quản lý chặt, câu hỏi không chỉ là model có chính xác không mà còn ai đã duyệt, trên dữ liệu nào, và tháng trước nó đã làm gì. Mọi lần promote đều truy vết được, người tạo yêu cầu không tự duyệt được, và model card đi cùng từng version.

Hai người cho một lần promote lên production
Model card ghi lineage, metric và độ quan trọng feature
Giải thích từng dự đoán bằng SHAP khi bật
Log suy luận lưu theo phân vùng tháng, có thời hạn lưu giữ
Nhật ký hoạt động tra được theo người, hành động và thời gian

GovernanceModel CardSHAPAudit

Data Scientist & Đối Tác

Vào Từ Notebook, Ra Thành API Chia Sẻ

Data scientist vẫn làm việc trong notebook; nền tảng nhận lại đúng ở chỗ công việc hay bị thất lạc. Phiên notebook nhận một token ngắn hạn, SDK tải dữ liệu lên và import model, còn đối tác nhận một API client chỉ được gọi đúng những endpoint và feature group họ cần.

Workspace JupyterHub đăng nhập bằng tài khoản nền tảng
SDK Python và CLI dùng chung API với dashboard
API client cho đối tác có phạm vi, hạn mức và hạn dùng
Tài liệu OpenAPI sinh riêng cho từng endpoint để bên tích hợp dùng
Feature group được ghi nối vào bảng Iceberg cho Lakehouse

JupyterHubSDKPATAPI Clients

Vectiq MLOps Geo

Tầng Model Phía Sau Các Sản Phẩm Bản Đồ

Module Geo (Vectiq MLOps Geo) không tự dựng stack ML riêng mà gọi nền tảng này qua HTTP. Thống kê công trình theo ô H3 thành feature group, chip ảnh có nhãn thành dataset cho model phân vùng ảnh, và drift được theo dõi theo từng vùng thay vì chỉ trên toàn bộ.

Ô H3 là entity của feature store, tra cứu theo tọa độ
Model U-Net phân vùng ảnh train trên chip Sentinel-2, xuất ONNX
Suy luận theo lô trên cảnh vệ tinh, xuất thành lớp bản đồ
Drift và cảnh báo theo vùng, không chỉ theo endpoint

H3Sentinel-2U-NetRegion Drift

Công nghệ

FastAPICeleryMLflowPostgreSQLRedisMinIOscikit-learnXGBoostOptunaONNX RuntimeNext.jsKubernetes

Dự án liên quan

Vectiq MLOps - Huấn Luyện, Triển Khai, Giám Sát

Nền tảng MLOps do chúng tôi tự xây: dataset có phiên bản, huấn luyện theo dõi bằng MLflow, model registry có quality gate, endpoint dùng API key kèm canary và shadow, giám sát drift và độ chính xác, cùng feature store

Vectiq MLOps Geo - Bản Đồ Số & Ảnh Vệ Tinh

Ảnh quản lý theo kỳ và phục vụ thành tile nền, CSDL bản đồ có phiên bản, editor dựng trên Rapid, và kiểm định cộng đồng có đồng thuận cùng ba cấp người đóng góp

Vectiq AIaaS - GPU Cloud & MLOps Dạng Dịch Vụ

GPU cloud đa tenant đang phát triển: mỗi khách hàng có namespace riêng, huấn luyện GPU qua hàng đợi, fine-tune LoRA, serving bằng Triton và tính phí theo giờ GPU