惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

美团技术团队
B
Blog RSS Feed
博客园_首页
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Google DeepMind News
Google DeepMind News
D
Docker
Blog — PlanetScale
Blog — PlanetScale
M
MIT News - Artificial intelligence
C
Check Point Blog
The Cloudflare Blog
T
Tailwind CSS Blog
大猫的无限游戏
大猫的无限游戏
量子位
The GitHub Blog
The GitHub Blog
Microsoft Azure Blog
Microsoft Azure Blog
I
InfoQ
T
The Blog of Author Tim Ferriss
博客园 - 【当耐特】
Vercel News
Vercel News
P
Proofpoint News Feed
Hugging Face - Blog
Hugging Face - Blog
V
V2EX
博客园 - 司徒正美

DEV Community

Authentication Security Deep Dive: From Brute Force to Salted Hashing (With Java Examples) Why AI Systems Don’t Fail — They Drift Spilling beans for how i learn for exam😁"Reinforcement Learning Cheat Sheet" I Replaced Chrome with Safari for AI Browser Automation. Here's What Broke (and What Finally Worked) How Python Borrows Other People's Work The $40 Architecture: Processing 1 Billion API Requests with 99.99% Uptime Vibe Coding: A Workflow Guide (From Zero to SaaS) Most webhook security guides protect the wrong side. The scary part is delivery. Headless CMS for TanStack Start: Build a Blog with Cosmic EU Age Verification App "Hacked in 2 Minutes" — What Actually Happened Comfy Cloud’s delete function does not actually remove files Running AI Models on GPU Cloud Servers: A Beginner Guide Event-driven media intelligence with AWS Step Functions and Bedrock I scored 500 AI prompts across 8 quality dimensions — here's what broke How to Call Google Gemini API from Next.js (Free Tier, No Backend Needed) The Portal Protocol: Reclaiming Human Connection in the Age of AI How to Fix Your Team's Scattered Knowledge Problem With a Self-Hosted Forum Intro to tc Cloud Functors: A Graph-First Mental Model for the Modern Cloud Designing Multi-Tenant Backends With Both Ownership and Team Access I Built a Neumorphic CSS Library with 77+ Components — Here's What I Learned PostgreSQL Performance Optimization: Why Connection Pooling Is Critical at Scale Cómo construí un SaaS multi-rubro para gestionar expensas en Argentina con FastAPI + Vue 3 🚀 I Built an Ethical Hacking Scanner Tool – Open Source Project I Replaced /usage and /context in Claude Code With a Single Statusline A Pythonic Way to Handle Emails (IMAP/SMTP) with Auto-Discovery and AI-Ready Design I Collected 8.9 Million Polymarket Price Points — Here's What I Found About How Markets Really Move EcoTrack AI — Carbon Footprint Tracker & Dashboard Everyone's Using AI. No One Agrees How. 5 self-hosted ebook managers worth trying in 2026 Building Your First AI Agent with LangChain: From Chatbot to Autonomous Assistant
Rate Limiting Toàn Tập: Đừng Để Server "Sập Nguồn" Vì Bị ...
ITPrep · 2026-05-09 · via DEV Community
Cover image for Rate Limiting Toàn Tập: Đừng Để Server "Sập Nguồn" Vì Bị Spam API

ITPrep

Chào anh em, nếu bạn đang xây dựng một API public hoặc hệ thống có lượng traffic lớn, chắc chắn bạn không thể bỏ qua Rate Limiting. Không có nó, server của bạn rất dễ bị "bế đi" bởi các cuộc tấn công DDoS, brute-force hoặc những công cụ cào (scrape) dữ liệu vô tội vạ.

Cùng mổ xẻ xem Rate Limiting hoạt động thế nào và làm sao để tích hợp nó một cách chuẩn bài nhé!

🧠 5 Thuật Toán Rate Limiting "Kinh Điển"

Không phải cứ đếm số lượng request là xong. Dưới đây là các thuật toán từ dễ đến khó mà các kỹ sư hệ thống thường dùng:

  1. Fixed Window Counter: Đếm số request trong một khoảng thời gian cố định (vd: 00:00 - 00:59). Nhược điểm: Rất dễ bị lách luật ở thời điểm giao thoa giữa 2 cửa sổ.
  2. Sliding Window Log: Lưu lại dấu thời gian (timestamp) của từng request. Chính xác 100% nhưng cực kỳ tốn RAM.
  3. Sliding Window Counter: Lai giữa 2 cách trên. Vừa đảm bảo tính chính xác vừa tiết kiệm bộ nhớ.
  4. Token Bucket (Xô Token): Thuật toán phổ biến nhất (Amazon, Stripe đang dùng). Cho phép burst traffic (lưu lượng bùng nổ) trong giới hạn cái xô chứa.
  5. Leaky Bucket (Xô Rò Rỉ): Request chảy vào xô và rỏ rỉ ra với tốc độ cố định. Giúp traffic luôn ổn định (smooth out traffic).

💻 Thực Hành: Triển Khai Rate Limiting Bằng Python + Redis

Dưới đây là một đoạn code mô phỏng Rate Limiting cơ bản dùng Python và Redis (thuật toán Fixed Window đơn giản):

import redis
import time

r = redis.Redis(host='localhost', port=6379, db=0)

def is_request_allowed(user_id, limit, window_seconds):
    key = f"rate_limit:{user_id}"
    current_time = int(time.time())

    # Bắt đầu một pipeline để thực hiện nhiều lệnh Redis cùng lúc
    pipe = r.pipeline()
    pipe.incr(key, 1)
    pipe.expire(key, window_seconds)
    results = pipe.execute()

    count = results[0]

    if count > limit:
        return False
    return True

# Ví dụ sử dụng:
user = 'user123'
limit_per_minute = 100
window = 60

if is_request_allowed(user, limit_per_minute, window):
    print("✅ Yêu cầu được chấp nhận.")
else:
    print("❌ Yêu cầu bị từ chối: Đã vượt quá giới hạn.")

Enter fullscreen mode Exit fullscreen mode

⚠️ Lưu ý cực mạnh: Trong môi trường Production với hàng ngàn request đồng thời, đoạn code trên rất dễ dính Race Condition. Cách giải quyết "chuẩn chỉ" nhất là sử dụng Lua Script chạy thẳng trên Redis để đảm bảo tính nguyên tử (atomic). (Bạn có thể tham khảo thêm cấu trúc logic bị lỗi ở file Ảnh màn hình 2026-05-09 lúc 09.11.54.png để hiểu rõ hơn lý do vì sao khung mã nguồn thường bị vỡ).

🚧 Những Sai Lầm "Sập Hầm" Khi Triển Khai

  1. Chặn nhầm IP (Dùng chung Wi-Fi/NAT): Đừng chỉ dựa vào IP để block! Rất nhiều user dùng chung một mạng NAT. Hãy kết hợp API Key, User ID (JWT) hoặc Browser Fingerprinting để định danh.
  2. Trả về sai HTTP Status Code: Khi user vượt quá giới hạn, bắt buộc phải trả về mã 429 Too Many Requests (chứ đừng trả 500 hay 403).
  3. Làm ảnh hưởng SEO: Googlebot vào cào trang mà bị rate limit chặn thì "toang" luôn thứ hạng! Nhớ đưa dải IP của Googlebot vào Whitelist.

Anh em trong team đang dùng API Gateway (Kong, Nginx) để chặn hay tự viết logic Rate Limiting ở tầng Backend? Cùng chia sẻ kinh nghiệm nhé! 👇

🔥 Khám phá thêm: Nếu anh em quan tâm đến System Design và kiến trúc Backend, hãy ghé thăm blog ITPrep để đọc thêm nhiều bài viết thực chiến cực chất!


Nguồn tham khảo: ITPrep - Rate Limiting: Hướng Dẫn Chuyên Sâu Từ A-Z Cho Lập Trình Viên