Cách Cloudflare tiết kiệm 100TB RAM từ bộ nhớ đệm DNS

Cloudflare vừa dọn sạch 100 terabyte RAM trên toàn mạng lưới bằng cách thiết kế lại cách bộ nhớ đệm DNS lưu trữ dữ liệu.

Nền tảng Big Pineapple của Cloudflare đang vận hành dịch vụ 1.1.1.1 và lưu hơn 250 tỷ bản ghi cache tại bất kỳ thời điểm nào. Trong một bài viết kỹ thuật, Cloudflare đã chi tiết 5 tinh chỉnh cấu trúc dữ liệu trong codebase Rust giúp giảm hơn 50% dung lượng bộ nhớ của mỗi bản ghi.

Vì sao lại quan trọng: Với 250 tỷ bản ghi, lãng phí chỉ 1 byte mỗi bản ghi là "đi tong" 250 gigabyte RAM trên toàn thế giới. Đội ngũ kỹ thuật đã đổi bộ đệm động (dynamic buffers) sang mảng cố định (fixed-size slices) và gộp các danh sách để giảm chi phí thừa. Bộ nhớ đệm nhờ đó cũng nhanh hơn: tốc độ ghi tăng 43% và độ trễ truy xuất giảm 19% nhờ giảm bớt các thao tác cấp phát bộ nhớ.

Ghi nhận thêm: 100 terabyte tiết kiệm được tương đương với tổng RAM của 130 máy chủ Gen 13 cộng lại.

Minh chứng cho thấy đôi khi cách nâng cấp máy chủ ngon nhất chỉ đơn giản là cắt bỏ mấy trường struct không dùng đến.