Bạn có tin rằng đến năm 2030, lượng dữ liệu từ KV cache – bộ nhớ đệm của các mô hình ngôn ngữ lớn – sẽ chiếm hơn một phần ba tổng khối lượng công việc trên ổ SSD trong các trung tâm dữ liệu AI? SanDisk, một trong những ông lớn về NAND Flash, vừa đưa ra dự báo đầy tham vọng này. Với tư cách là người đã dành 5 năm xây dựng cộng đồng Web3 tại Washington DC, tôi thấy điều này không chỉ là một cột mốc công nghệ, mà còn là tín hiệu cho thấy cấu trúc lưu trữ phi tập trung có thể đang đứng trước một bước ngoặt.
Đừng xây app, hãy xây niềm tin. Khi các gã khổng lồ tập trung như AWS, Azure chiếm lĩnh thị trường lưu trữ AI, câu hỏi đặt ra là: liệu các giao thức blockchain như Filecoin, Arweave có thể giành được một phần miếng bánh 35% đó không? Hãy cùng phân tích.
Context: KV cache là gì và tại sao nó quan trọng với blockchain?
KV cache (Key-Value cache) là kỹ thuật lưu trữ tạm thời các trạng thái trung gian trong quá trình suy luận của mô hình ngôn ngữ lớn (LLM). Khi bạn chat với GPT, mỗi lần nhập thêm token, hệ thống phải tính toán lại attention – một quá trình tốn bộ nhớ. Để giảm độ trễ, các kết quả tính toán trước đó được lưu vào bộ nhớ đệm, thường là DRAM hoặc HBM. Tuy nhiên, khi kích thước ngữ cảnh vượt quá 128K token, việc lưu toàn bộ KV cache trong DRAM trở nên quá đắt đỏ. Giải pháp: chuyển một phần KV cache lên NAND SSD – nơi có dung lượng lớn hơn gấp nhiều lần với chi phí thấp hơn.
Dự báo của SanDisk cho rằng đến năm 2030, 35% workload của NAND trong AI DC sẽ đến từ KV cache. Điều này có nghĩa là các ổ SSD doanh nghiệp sẽ phải đối mặt với yêu cầu khắt khe về độ trễ thấp, độ bền cao và dung lượng lớn. Và ở đây, blockchain xuất hiện: các mạng lưu trữ phi tập trung như Filecoin đã xây dựng thị trường cho thuê dung lượng lưu trữ dư thừa, nhưng liệu họ có thể cạnh tranh về hiệu năng?
Core: Phân tích kỹ thuật và giá trị – Từ NAND đến blockchain
Theo phân tích sâu từ nguồn tin, SanDisk đang đầu tư mạnh vào QLC NAND (4-bit/cell) và công nghệ phân lớp (ZNS) để tối ưu cho KV cache. Tuy nhiên, công nghệ này vẫn đang trong quá trình hoàn thiện: tỷ lệ mặc định (yield) của QLC 200+ lớp hiện chưa đạt mức thương mại lý tưởng, và chi phí sản xuất vẫn cao. Điều này mở ra cơ hội cho các giải pháp lưu trữ phi tập trung, nơi có thể tận dụng nguồn cung cấp ổ cứng HDD/SSD dư thừa với giá rẻ hơn.
Tôi đã từng đồng sáng lập dự án NFT vì mục đích xã hội 'Art for Impact' vào năm 2021, và bài học lớn nhất là: cộng đồng có thể tạo ra giá trị vượt xa các công ty tập trung nếu có cơ chế khuyến khích đúng. Tương tự, nếu Filecoin có thể chứng minh rằng mạng lưới của họ cung cấp độ trễ đọc dưới 10ms cho KV cache, các nhà vận hành AI sẽ cân nhắc sử dụng. Nhưng hiện tại, Filecoin tập trung vào lưu trữ lạnh (cold storage) – không phù hợp với KV cache vốn yêu cầu truy cập ngẫu nhiên với độ trễ cực thấp.
Tuy nhiên, có một hướng khác: các chain chuyên dụng cho dữ liệu khả dụng (Data Availability) như Celestia, Avail đang phát triển lớp DA có thể kết hợp với các giải pháp lưu trữ phi tập trung để phục vụ AI inference. Nếu Rollup cần lưu KV cache trên Layer 2, họ có thể sử dụng một lớp DA riêng, thay vì phải trả phí cao cho Ethereum. Điều này tạo ra một thị trường mới cho các dự án DA.
Contrarian: Góc nhìn phản trực giác – Tại sao blockchain có thể thất bại trong cuộc đua KV cache?
Nhiều người lạc quan rằng nhu cầu lưu trữ AI sẽ kéo theo sự phát triển của Web3 storage. Nhưng tôi cho rằng điều này có thể sai. Thứ nhất, các yêu cầu về độ trễ của KV cache rất khắc nghiệt: dưới 1ms cho read, và có thể cần hỗ trợ ghi đồng thời với tốc độ cao. Các mạng lưu trữ phi tập trung hiện tại, với cơ chế đồng thuận và xác thực, không thể đáp ứng được. Thứ hai, các ông lớn như AWS, Google Cloud đã có sẵn hạ tầng SSD doanh nghiệp và đang tối ưu riêng cho AI. Họ sẽ không chuyển sang dùng Filecoin chỉ vì tính phi tập trung.
Thứ ba, chi phí: SanDisk ước tính giá thành QLC SSD sẽ giảm đáng kể nhờ vào sản xuất hàng loạt. Trong khi đó, phí lưu trữ trên Filecoin vẫn phụ thuộc vào giá FIL và thị trường cho thuê, khó cạnh tranh về giá với các nhà cung cấp tập trung. Đừng xây app, hãy xây niềm tin – nhưng niềm tin không thể thay thế hiệu năng khi nói đến AI inference.
Tuy nhiên, tôi từng chứng kiến trong bear market 2022, khi nhiều người mất niềm tin, chính cộng đồng phi tập trung đã tìm ra cách vượt qua. Có thể những giải pháp lai như 'decentralized caching layer' sẽ ra đời: trong đó một phần KV cache dùng SSD tập trung, phần còn lại dùng mạng lưới phân tán để đảm bảo khả năng chống kiểm duyệt. Đây là một hướng đi tiềm năng.
Takeaway: Tầm nhìn tiến bộ – Blockchain không cần thay thế NAND, mà cần đồng hành
Dự báo của SanDisk nhắc nhở chúng ta rằng AI sẽ thống trị nhu cầu lưu trữ trong thập kỷ tới. Thay vì cố gắng cạnh tranh trực tiếp với các giải pháp tập trung về hiệu năng, Web3 nên tập trung vào các phân khúc mà tính phi tập trung mang lại lợi thế: lưu trữ dữ liệu đào tạo AI (cần độ tin cậy và khả năng chống kiểm duyệt), lưu trữ checkpoint của mô hình, và lưu trữ dữ liệu người dùng cá nhân. KV cache – một workload đòi hỏi hiệu năng cao – có thể sẽ thuộc về các gã khổng lồ công nghệ, nhưng điều đó không có nghĩa là blockchain không có chỗ đứng.
Tôi kết thúc bằng một câu hỏi: Nếu bạn là nhà phát triển, bạn sẽ chọn xây một giải pháp lưu trữ cạnh tranh trực tiếp với SanDisk, hay xây một lớp bảo mật và minh bạch phía trên hạ tầng của họ? Câu trả lời nằm ở việc hiểu rõ giá trị cốt lõi của phi tập trung: không phải là thay thế, mà là bổ sung. Và đó chính là tương lai mà tôi tin tưởng.