Gradient Descent, hay thuật toán hạ gradient, là một trong những thuật toán tối ưu quan trọng nhất của Machine Learning và Deep Learning. Nếu Backpropagation trả lời câu hỏi “mỗi tham số ảnh hưởng đến sai số bao nhiêu?”, thì Gradient Descent sử dụng chính các gradient đó để quyết định tham số cần thay đổi theo hướng nào.
Từ hồi quy tuyến tính đến mạng nơ-ron, CNN, Transformer hay các mô hình ngôn ngữ lớn, ý tưởng cốt lõi vẫn giống nhau: xác định hướng làm hàm mất mát tăng nhanh nhất, sau đó đi theo hướng ngược lại để giảm sai số.
- Gradient Descent cập nhật tham số theo công thức θ ← θ − η∇L(θ).
- Gradient cho biết hướng tăng nhanh nhất của hàm mất mát, vì vậy ta đi theo hướng âm của gradient.
- Learning rate quyết định kích thước mỗi bước cập nhật và ảnh hưởng trực tiếp đến độ ổn định của quá trình học.
- Batch Gradient Descent, SGD và Mini-batch Gradient Descent khác nhau chủ yếu ở lượng dữ liệu dùng để ước lượng gradient mỗi bước.
Bài toán tối ưu phía sau Machine Learning
Một mô hình Machine Learning thường có một tập tham số cần học. Với hồi quy tuyến tính, đó là các hệ số của đường thẳng hoặc siêu phẳng. Với mạng nơ-ron, đó có thể là hàng triệu hoặc hàng tỷ trọng số và bias.
Ta ký hiệu toàn bộ tham số bằng θ. Mục tiêu của quá trình huấn luyện là tìm bộ tham số làm hàm mất mát nhỏ nhất:
Trong đó L(θ) là hàm mất mát biểu diễn mức độ sai của mô hình. Nếu L lớn, dự đoán đang kém; nếu L nhỏ, mô hình phù hợp với dữ liệu huấn luyện hơn theo tiêu chí đã chọn.
Vấn đề là ta thường không thể thử mọi giá trị có thể của θ. Ngay cả một mạng nhỏ với vài nghìn tham số cũng tạo ra không gian tìm kiếm khổng lồ. Gradient Descent giải quyết vấn đề bằng cách sử dụng thông tin về độ dốc tại vị trí hiện tại để chọn bước đi tiếp theo.
Gradient cho biết điều gì?
Để hiểu Gradient Descent, trước tiên cần hiểu gradient. Với một hàm chỉ có một biến, ta sử dụng đạo hàm:
Đạo hàm cho biết L thay đổi như thế nào khi θ thay đổi một lượng rất nhỏ. Nếu đạo hàm dương, tăng θ làm L tăng cục bộ; nếu đạo hàm âm, tăng θ có xu hướng làm L giảm.
Trong Machine Learning, mô hình thường có nhiều tham số. Khi đó ta sử dụng vector gradient:
Gradient chỉ theo hướng mà hàm tăng nhanh nhất tại điểm hiện tại. Vì mục tiêu của chúng ta là giảm loss, Gradient Descent đi theo hướng ngược gradient:
Trong công thức này, η là tốc độ học (learning rate). Nó kiểm soát khoảng cách mà thuật toán di chuyển trong mỗi lần cập nhật.
Một ví dụ rất đơn giản
Giả sử cần tối thiểu hóa hàm:
Hàm này có giá trị nhỏ nhất tại w = 3. Đạo hàm theo w là:
Giả sử ban đầu w = 0 và η = 0.1. Gradient tại w = 0 bằng −6. Ta cập nhật:
Ở bước tiếp theo, gradient bằng 2(0.6 − 3) = −4.8, vì vậy w tiếp tục tăng về phía 3. Sau nhiều lần lặp, w tiến ngày càng gần điểm cực tiểu.
Learning rate quyết định bước đi lớn hay nhỏ
Learning rate là một trong những siêu tham số quan trọng nhất trong quá trình huấn luyện. Nó quyết định mức độ thay đổi của tham số sau mỗi lần tính gradient.
| Learning rate | Hành vi thường gặp | Rủi ro |
|---|---|---|
| Quá nhỏ | Tham số thay đổi rất ít mỗi bước | Huấn luyện chậm |
| Phù hợp | Loss giảm tương đối ổn định | Thường cần điều chỉnh theo bài toán |
| Quá lớn | Các bước nhảy mạnh qua vùng tối ưu | Loss dao động hoặc phân kỳ |
Có thể hình dung việc tối ưu giống như đi xuống một thung lũng. Nếu bước quá nhỏ, ta vẫn đi đúng hướng nhưng mất rất nhiều thời gian. Nếu bước quá lớn, ta có thể nhảy từ sườn này sang sườn kia và không tiến gần đáy.
Trong các mô hình hiện đại, learning rate cũng có thể thay đổi trong quá trình huấn luyện thông qua learning rate scheduler. Một chiến lược phổ biến là sử dụng learning rate tương đối lớn ở giai đoạn đầu rồi giảm dần để thực hiện các bước tinh chỉnh nhỏ hơn về sau.
Batch Gradient Descent, SGD và Mini-batch khác nhau ở đâu?
Công thức Gradient Descent khá đơn giản, nhưng câu hỏi thực tế là: cần dùng bao nhiêu mẫu dữ liệu để tính gradient trước mỗi lần cập nhật? Từ đó xuất hiện ba cách triển khai chính.
Batch Gradient Descent
Batch Gradient Descent sử dụng toàn bộ tập huấn luyện để tính gradient trước khi cập nhật tham số:
Gradient thu được ổn định vì phản ánh toàn bộ dữ liệu. Tuy nhiên, nếu dataset rất lớn, mỗi bước cập nhật trở nên tốn thời gian và bộ nhớ.
Stochastic Gradient Descent
Stochastic Gradient Descent, thường viết tắt là SGD, trong nghĩa nguyên thủy sử dụng một mẫu để ước lượng gradient rồi cập nhật ngay:
Việc cập nhật thường xuyên giúp thuật toán tiến nhanh nhưng gradient có độ nhiễu cao. Đường tối ưu vì thế không đi mượt mà như Batch Gradient Descent.
Mini-batch Gradient Descent
Trong Deep Learning, lựa chọn phổ biến nhất là Mini-batch Gradient Descent. Ta chia dữ liệu thành các batch nhỏ, chẳng hạn B mẫu, rồi tính gradient trung bình trên mỗi batch:
Mini-batch tạo ra sự cân bằng giữa tính ổn định và hiệu quả tính toán. Các phép toán ma trận trên batch cũng tận dụng tốt khả năng xử lý song song của GPU.
| Phương pháp | Dữ liệu mỗi bước | Đặc điểm | Ứng dụng |
|---|---|---|---|
| Batch GD | Toàn bộ dataset | Gradient ổn định nhưng bước cập nhật đắt | Dataset nhỏ hoặc bài toán tối ưu đơn giản |
| SGD | Một mẫu | Cập nhật nhanh, gradient nhiễu | Một số bài toán online hoặc streaming |
| Mini-batch | Một nhóm mẫu | Cân bằng tốc độ và độ ổn định | Deep Learning hiện đại |
Tự cài đặt Gradient Descent bằng Python
Ta có thể quan sát trực tiếp quá trình tối ưu bằng bài toán đơn giản L(w) = (w − 3)2. Chương trình dưới đây bắt đầu từ w = −5 và liên tục cập nhật tham số theo gradient.
# Hàm mất mát: L(w) = (w - 3)^2
def loss(w):
return (w - 3) ** 2
def gradient(w):
return 2 * (w - 3)
w = -5.0
learning_rate = 0.1
for step in range(20):
grad = gradient(w)
# Gradient Descent update
w = w - learning_rate * grad
print(
f"Step {step + 1:2d} | "
f"w = {w:.4f} | "
f"loss = {loss(w):.6f}"
)Sau mỗi bước, w tiến gần hơn tới 3 và giá trị loss giảm dần. Đây chính là Gradient Descent ở dạng cơ bản nhất: tính gradient, nhân với learning rate và trừ kết quả khỏi tham số hiện tại.
Trong mạng nơ-ron, nguyên lý không thay đổi. Điểm khác biệt là thay vì một biến w, ta có một vector hoặc tập tensor chứa rất nhiều tham số.
Gradient Descent cho hồi quy tuyến tính
Một ví dụ gần với Machine Learning hơn là học mô hình:
Ta sử dụng Mean Squared Error làm hàm mất mát và tính gradient theo w, b.
import numpy as np
# Dữ liệu gần với y = 2x + 1
X = np.array([1., 2., 3., 4., 5.])
y = np.array([3., 5., 7., 9., 11.])
w = 0.0
b = 0.0
lr = 0.01
n = len(X)
for epoch in range(2000):
# Forward
y_hat = w * X + b
error = y_hat - y
# Gradient của MSE
dw = (2 / n) * np.sum(error * X)
db = (2 / n) * np.sum(error)
# Cập nhật tham số
w -= lr * dw
b -= lr * db
mse = np.mean((w * X + b - y) ** 2)
print("w =", round(w, 4))
print("b =", round(b, 4))
print("MSE =", round(mse, 8))Vì dữ liệu trong ví dụ được tạo chính xác theo y = 2x + 1, quá trình tối ưu sẽ đưa w tiến gần 2 và b tiến gần 1. Đây là một ví dụ rõ ràng về việc mô hình học tham số từ dữ liệu thay vì chúng ta tự gán hệ số.
Gradient Descent liên hệ với Backpropagation như thế nào?
Backpropagation và Gradient Descent thường xuất hiện cùng nhau trong mạng nơ-ron nhưng không phải cùng một thuật toán.
Một bước huấn luyện điển hình có thể mô tả bằng bốn giai đoạn:
Tạo dự đoán
Đo sai số
Tính gradient
Cập nhật tham số
Backpropagation thực hiện bước thứ ba: tính ∂L/∂θ cho các tham số. Gradient Descent hoặc một optimizer dựa trên gradient thực hiện bước thứ tư.
Trong PyTorch, sự phân chia này thể hiện rất rõ:
optimizer.zero_grad()
y_hat = model(X)
loss = criterion(y_hat, y)
loss.backward() # Backpropagation: tính gradient
optimizer.step() # Optimizer: cập nhật tham sốTại sao còn cần Momentum và Adam?
Gradient Descent cơ bản chỉ sử dụng gradient hiện tại. Trong các bề mặt loss phức tạp, cách cập nhật này có thể tiến chậm, dao động mạnh theo một số hướng hoặc yêu cầu lựa chọn learning rate rất cẩn thận.
Vì vậy, nhiều thuật toán tối ưu hiện đại mở rộng ý tưởng Gradient Descent thay vì loại bỏ nó.
Momentum
Momentum duy trì một đại lượng tích lũy từ các gradient trước đó. Nếu gradient liên tục chỉ theo một hướng, momentum giúp quá trình tối ưu tăng tốc theo hướng đó.
Adam
Adam sử dụng thống kê động của cả gradient bậc nhất và bình phương gradient để tạo learning rate hiệu dụng riêng cho từng tham số. Điều này giúp Adam thường dễ sử dụng trong nhiều bài toán Deep Learning, mặc dù lựa chọn optimizer tốt nhất vẫn phụ thuộc vào mô hình và mục tiêu huấn luyện.
Điểm cần nhớ là Momentum, RMSProp hay Adam vẫn dựa trên gradient. Chúng khác Gradient Descent cơ bản chủ yếu ở cách biến gradient thành bước cập nhật tham số.
Những vấn đề thường gặp khi tối ưu
Trong mạng nơ-ron, hàm mất mát có thể có không gian tham số rất nhiều chiều. Vì vậy, hình ảnh một quả bóng đơn giản lăn xuống đáy parabol chỉ là mô hình trực quan hóa, không phải mô tả đầy đủ bề mặt tối ưu thực tế.
- Learning rate quá lớn: loss có thể dao động mạnh hoặc tăng thay vì giảm.
- Learning rate quá nhỏ: quá trình học ổn định nhưng rất chậm.
- Gradient biến mất: gradient ở một số tầng trở nên quá nhỏ, khiến tham số gần như không được cập nhật.
- Gradient bùng nổ: gradient có độ lớn quá cao, dẫn đến bước cập nhật không ổn định.
- Vùng phẳng: gradient gần 0 có thể khiến quá trình tối ưu tiến rất chậm dù chưa đạt nghiệm tốt.
- Điểm yên ngựa: gradient có thể gần 0 nhưng điểm đó không phải cực tiểu.
Ngoài optimizer, hiệu quả huấn luyện còn phụ thuộc vào khởi tạo trọng số, chuẩn hóa dữ liệu, kiến trúc mạng, kích thước batch, hàm kích hoạt và cách điều chỉnh learning rate.
Gradient Descent trong NLP và Computer Vision
Trong xử lý ngôn ngữ tự nhiên, Gradient Descent được sử dụng để học embedding, trọng số attention, các tầng feed-forward và các tham số khác của mô hình Transformer. Khi mô hình dự đoán token hoặc nhãn sai, gradient chỉ ra cách những tham số này nên được điều chỉnh.
Trong Computer Vision, cùng nguyên lý được áp dụng cho kernel của CNN, trọng số của Vision Transformer, mạng phân đoạn ảnh hoặc mô hình phát hiện đối tượng. Loss có thể khác nhau nhưng vòng lặp tối ưu cơ bản vẫn tương tự.
Computer Vision: ảnh → mô hình → dự đoán lớp/hộp/mask → loss → gradient → cập nhật tham số.
Sự khác nhau nằm ở dữ liệu, kiến trúc và hàm mất mát. Cơ chế tối ưu dựa trên gradient vẫn là nền tảng chung cho rất nhiều mô hình học sâu.
Kết luận
Gradient Descent biến việc huấn luyện mô hình thành một quá trình lặp có hệ thống: tính gradient, chọn bước đi và cập nhật tham số theo hướng giảm loss. Công thức θ ← θ − η∇L(θ) đơn giản nhưng là nền tảng của phần lớn các thuật toán tối ưu dùng trong Machine Learning hiện đại.
Khi kết hợp với Backpropagation, ta có bức tranh hoàn chỉnh của quá trình học trong mạng nơ-ron: Backpropagation tính gradient, còn Gradient Descent và các optimizer như SGD, Momentum hoặc Adam sử dụng gradient đó để thay đổi mô hình.
Nội dung gốc thuộc tác giả. Vui lòng không đăng lại toàn văn khi chưa được phép, trừ trường hợp pháp luật hoặc giấy phép áp dụng cho phép. Nội dung của bên thứ ba tuân theo quyền và giấy phép tương ứng.
Nguồn gốc: Gradient Descent và tối ưu mô hình