Chuyển đến nội dung chính

Bài đăng

Đang hiển thị bài đăng từ Tháng 9, 2026

Xây dựng hệ thống phân loại cảm xúc đa khia cạnh ABSA tiếng Việt cho thương mại điện tử

Tóm tắt nội dung Aspect-Based Sentiment Analysis không chỉ xác định review tích cực hay tiêu cực mà trả lời khía cạnh nào đang được nói tới và cảm xúc đối với từng khía cạnh là gì . Với thương mại điện tử tiếng Việt, cách triển khai thực dụng là phát hiện nhiều aspect trong cùng một review rồi phân loại sentiment riêng cho từng aspect. Một mô hình PhoBERT có thể dùng chung encoder và hai nhánh dự đoán: multi-label aspect detection và aspect-conditioned sentiment classification. Chất lượng hệ thống phụ thuộc mạnh vào ontology nhãn, cách chia dữ liệu, xử lý tiếng Việt và đánh giá joint aspect–sentiment; một F1 cao ở riêng sentiment chưa đủ chứng minh pipeline ABSA hoạt động tốt. Phân tích cảm xúc theo khía cạnh (Aspect-Based Sentiment Analysis, ABSA) đi sâu hơn sentiment analysis thông thường bằng cách xác định đối tượng hoặc thuộc tính nào đang được đánh giá và cảm xúc dành cho từng thuộc tính đó [1]. Với thương mại điện tử, khác biệt này đặc biệt quan trọng vì một review t...

Ứng dụng CNN 1D trong trích xuất n-gram đặc trưng cảm xúc văn bản

Tóm tắt CNN 1D sử dụng cửa sổ trượt (kernel size) để quét qua chuỗi văn bản và trích xuất trực tiếp các n-gram đặc trưng. Kiến trúc này cho phép song sinh hóa tính toán, mang lại tốc độ vượt trội so với các mô hình tuần tự như LSTM hay RNN. Quy trình thực hiện bao gồm nhúng từ, tích chập 1D, gộp tối đa toàn cục (Global Max Pooling) và phân loại. Mã nguồn PyTorch thực tế minh họa cách thiết lập các bộ lọc bigram, trigram cho tác vụ phân tích cảm xúc. Trong bài toán xử lý ngôn ngữ tự nhiên (NLP) hiện đại, việc phân tích thái độ của người dùng từ các đoạn bình luận hay đánh giá sản phẩm đòi hỏi mô hình vừa phải hiểu rõ ngữ cảnh, vừa phải đảm bảo tốc độ xử lý vượt trội. Khi đối mặt với các kiến trúc truyền thống như mạng tuần tự (RNN, LSTM), các kỹ sư thường gặp điểm nghẽn về khả năng song song hóa do tính chất phụ thuộc thời gian. Giải pháp thay thế hiệu quả và mang tính cách mạng chính là CNN 1D phân tích cảm xúc , tận dụng cơ chế cửa sổ trượt để quét qua các cụm từ liền kề. Bài viết nà...

Xử lý hiện tượng bùng nổ từ vựng khi dùng Bag-of-Words cho tiếng Việt

Tóm tắt Làm rõ nguyên nhân gây bùng nổ từ vựng và không gian thưa thớt (sparse matrix) khi dùng Bag-of-Words cho tiếng Việt. Trình bày vai trò của các bước tiền xử lý văn bản, tách từ chuẩn xác và loại bỏ từ dừng. Hướng dẫn sử dụng các tham số giới hạn tần suất từ vựng trong lập trình Python. Giới thiệu các phương pháp giảm chiều dữ liệu nâng cao như TruncatedSVD và chuyển đổi sang không gian dense vector. Khi xây dựng các hệ thống xử lý ngôn ngữ tự nhiên (NLP) cho tiếng Việt, việc chuyển đổi văn bản thô thành dạng số học là bước khởi đầu bắt buộc. Trong số các phương pháp cổ điển, Bag of Words (BoW) trong Xử lý Ngôn ngữ Tự nhiên vẫn được xem là nền tảng trực quan nhất. Tuy nhiên, khi áp dụng mô hình này vào đặc trưng từ tính đơn lập và linh hoạt của tiếng Việt, các kỹ sư dữ liệu thường vấp phải một rào cản lớn: hiện tượng bùng nổ từ vựng dẫn đến không gian thưa thớt (sparse matrix). Bài viết này sẽ phân tích nguyên nhân gốc rễ và các kỹ thuật xử lý chuyên sâu giúp tối ưu hóa mô hình....

Selective Scan trong Mamba tối ưu chuỗi dài thế nào?

Tóm tắt nội dung Selection và Selective Scan là hai khái niệm khác nhau: selection làm các tham số SSM phụ thuộc đầu vào, còn scan là thuật toán tính recurrence đó hiệu quả. Khi B, C và Δ thay đổi theo từng token, Mamba không còn sử dụng được một convolution kernel cố định như SSM bất biến theo thời gian. Selective Scan khai thác tính kết hợp của phép cập nhật trạng thái để song song hóa recurrence, đồng thời dùng kernel fusion và phân cấp bộ nhớ GPU để tránh materialize tensor trạng thái rất lớn trong HBM. Chi phí của Selective SSM tăng tuyến tính theo chiều dài L khi kích thước mô hình và state được giữ cố định, nhưng O(L) không đồng nghĩa Mamba luôn nhanh hơn mọi Transformer trong mọi workload. Selective Scan là mắt xích kỹ thuật giúp kiến trúc Mamba giải quyết một nghịch lý quan trọng: làm thế nào để State Space Model có thể thay đổi động lực theo nội dung của từng token nhưng vẫn xử lý chuỗi dài hiệu quả trên GPU. Nếu chỉ thêm cơ chế chọn lọc mà tính recurrence bằng...