Chuyển đến nội dung chính

Bài đăng

Đang hiển thị bài đăng từ Tháng 1, 2026

TF-IDF nâng cao: TF / IDF, chuẩn hóa và Cosine

Tóm tắt nội dung TF-IDF là một họ các phương pháp gán trọng số , không phải một công thức duy nhất. TF, IDF và bước chuẩn hóa đều có nhiều biến thể. Logarithmic TF làm giảm ảnh hưởng của việc một từ bị lặp quá nhiều; smooth IDF giúp công thức ổn định hơn trong triển khai thực tế. Chuẩn hóa L2 loại bớt ảnh hưởng của độ lớn vector và có quan hệ trực tiếp với cosine similarity . Hiểu các biến thể này giúp giải thích vì sao kết quả từ TfidfVectorizer thường không giống hoàn toàn phép tính TF-IDF thủ công. Ở mức cơ bản, TF-IDF được mô tả bằng công thức TF × IDF . Tuy nhiên, khi triển khai một hệ thống NLP hoặc Information Retrieval thực tế, câu hỏi quan trọng hơn là: TF nào, IDF nào và có chuẩn hóa vector hay không? Đây là điểm khiến nhiều người gặp tình huống tính TF-IDF bằng tay ra một kết quả nhưng chạy scikit-learn lại nhận được giá trị khác. Sự khác biệt thường không phải lỗi, mà đến từ cách định nghĩa term frequency, smoothing, cộng hằng số vào IDF và bước chuẩn hóa...

KAN là gì? Mạng Kolmogorov-Arnold khác MLP thế nào?

Kolmogorov-Arnold Network (KAN) là một kiến trúc mạng nơ-ron trong đó mỗi cạnh không chỉ chứa một trọng số vô hướng mà mang một hàm một biến có thể học được . Đây là khác biệt cốt lõi so với Multi-Layer Perceptron (MLP), nơi các cạnh chủ yếu thực hiện phép nhân với trọng số còn hàm kích hoạt thường được áp dụng tại các node. KAN được lấy cảm hứng từ định lý biểu diễn Kolmogorov-Arnold và đặc biệt đáng chú ý trong các bài toán xấp xỉ hàm, mô hình hóa khoa học và symbolic regression. Tuy nhiên, KAN không nên được hiểu là kiến trúc đã thay thế MLP trong mọi bài toán Deep Learning; khả năng biểu diễn, chi phí tính toán và mức độ phù hợp của hai kiến trúc khác nhau theo từng nhiệm vụ. Tóm tắt nội dung MLP học chủ yếu trọng số trên các cạnh , còn KAN đặt hàm một biến học được trên từng cạnh . Một KAN layer cộng kết quả của nhiều hàm cạnh để tạo activation của node tiếp theo. KAN gốc sử dụng B-spline để tham số hóa các hàm phi tuyến trên cạnh. KAN có lợi thế đáng chú ý về trực...