Trong 7 ngày qua, cộng đồng AI và blockchain đã xôn xao về thông tin Moonshot AI phát hành mô hình ngôn ngữ lớn Kimi K3 với 2.8 nghìn tỷ tham số. Nhưng với tư cách là một kỹ sư phát triển giao thức, tôi không thể không đặt câu hỏi: tại sao một bài báo về AI lại xuất hiện trên một trang tin blockchain như Crypto Briefing? Và quan trọng hơn, liệu con số 2.8T có thực sự có ý nghĩa kỹ thuật, hay chỉ là chiêu trò gây sốc?
Để hiểu rõ vấn đề, tôi đã tự mình tính toán chi phí tính toán cần thiết để huấn luyện một mô hình 2.8T tham số. Giả sử K3 sử dụng kiến trúc MoE (Mixture of Experts) với tỷ lệ kích hoạt 10% - tức là khoảng 280 tỷ tham số được kích hoạt mỗi lần suy luận. Với dữ liệu huấn luyện 3.8 nghìn tỷ token, tổng số FLOPs cần thiết là khoảng 1.5 × 10²⁵. Nếu sử dụng 10.000 GPU H100 (mỗi GPU có hiệu suất đỉnh 989 TFLOPS, hiệu suất sử dụng trung bình 35%), thời gian huấn luyện sẽ kéo dài khoảng 4,5 tháng. Nếu muốn hoàn thành trong 1 tháng, cần tới 40.000 GPU - một con số khổng lồ. Chi phí thuê GPU H100 trên thị trường hiện tại khoảng 2-3 USD/giờ, tức tổng chi phí huấn luyện có thể lên tới 500 triệu đến 1 tỷ USD.
Không có gì thay thế được việc đọc từng dòng một. Khi tôi đọc bài báo gốc, tôi nhận thấy sự thiếu vắng hoàn toàn các chi tiết kỹ thuật cốt lõi: kiến trúc chính xác (Dense hay MoE?), kết quả benchmark, độ dài ngữ cảnh, khả năng đa phương thức. Điều này rất bất thường đối với một mô hình được cho là "đối thủ của GPT-4". Trong lĩnh vực blockchain, chúng tôi có một nguyên tắc: 'Không tin tưởng, hãy xác minh'. Ở đây, không có gì để xác minh cả.
Phân tích sâu về chi phí tính toán cho thấy một nghịch lý: nếu K3 thực sự là mô hình Dense 2.8T, chi phí suy luận sẽ cực kỳ cao, không khả thi về mặt thương mại. Nếu là MoE, chi phí có thể chấp nhận được nhưng chất lượng của routing - cơ chế quyết định expert nào được kích hoạt - là yếu tố quyết định hiệu suất. Không có thông tin về routing quality, không thể đánh giá chất lượng mô hình. Dựa trên kinh nghiệm audit của tôi, các mô hình MoE kém chất lượng thường có routing ngẫu nhiên, dẫn đến hiệu suất không tốt hơn mô hình nhỏ hơn nhiều.
Về góc nhìn phản trực giác, tôi cho rằng việc Moonshot AI chọn Bitcoin/blockchain media để công bố thông tin này là một tín hiệu quan trọng. Có thể họ đang tìm kiếm sự chú ý từ cộng đồng tiền điện tử để thu hút đầu tư hoặc hợp tác trong lĩnh vực tính toán phi tập trung. Tuy nhiên, điều này cũng có thể là một chiến lược PR tinh vi: khi thông tin kỹ thuật yếu, hãy tập trung vào các con số ấn tượng (2.8T tham số, 20 tỷ USD định giá) để thu hút sự chú ý của giới đầu tư ít am hiểu kỹ thuật.
Không có gì thay thế được việc đọc từng dòng một. Thực tế, tôi đã thử tìm kiếm mã nguồn hoặc checkpoint trên Hugging Face. Kết quả: không có. Một mô hình 2.8T tham số mà không có bất kỳ bản phát hành nào trên các nền tảng mã nguồn mở? Điều này làm tăng thêm nghi ngờ về tính xác thực của thông báo. Trong cộng đồng blockchain, chúng tôi gọi đây là 'vaporware' - sản phẩm chỉ tồn tại trên báo chí, không có trong thực tế.
Về mặt tác động đến thị trường blockchain, một mô hình AI mạnh mẽ và mã nguồn mở có thể thúc đẩy sự phát triển của các ứng dụng phi tập trung thông minh hơn - từ hợp đồng thông minh tự động đến các oracle thế hệ mới. Tuy nhiên, nếu K3 không đáp ứng được kỳ vọng, nó sẽ tạo ra làn sóng thất vọng và làm chậm quá trình áp dụng AI trong DeFi và các lĩnh vực khác.
Không có gì thay thế được việc đọc từng dòng một. Tôi đã phân tích bài báo như thể nó là một smart contract - đọc từng dòng, tìm kiếm điểm yếu. Kết luận của tôi: bài báo thiếu quá nhiều thông tin kỹ thuật để có thể đưa ra đánh giá có cơ sở. Định giá 20 tỷ USD dựa trên kỳ vọng, không phải dựa trên dữ liệu thực tế. Đây là rủi ro cao cho bất kỳ nhà đầu tư nào.
Cuối cùng, câu hỏi tôi đặt ra là: nếu một mô hình AI mạnh đến vậy, tại sao lại cần đến một bài báo trên Crypto Briefing? Tại sao không phải là Nature, MIT Technology Review, hay ít nhất là Arxiv? Sự lựa chọn kênh truyền thông này nói lên nhiều điều về bản chất của thông báo: nó nhắm đến các nhà đầu tư tiền điện tử, những người dễ bị ấn tượng bởi những con số lớn, hơn là các nhà nghiên cứu AI thực thụ. Hãy nhớ: trong thế giới blockchain, cũng như trong AI, không có bữa trưa miễn phí. Nếu một điều gì đó nghe có vẻ quá tốt để trở thành sự thật, thì rất có thể nó không phải là sự thật.