Các lab AI đang cố tình khiến các mô hình nhỏ quên bớt kiến thức

Các mô hình AI mới đang giải toán khó cực đỉnh nhưng đố vui đơn giản thì lại kém đi — và đó hoàn toàn là ý đồ của các nhà phát triển.

Lập trình viên w4g1 chỉ ra rằng các phòng lab đang cố tình rút bộ nhớ kiến thức khỏi các mô hình hiện đại để nhồi khả năng tư duy cấp cao vào một dung lượng gọn nhẹ hơn. Những mô hình như DeepSeek V4-Flash chỉ chạy 13 tỷ tham số kích hoạt cho mỗi token, nhưng nếu không dùng công cụ tìm kiếm, khả năng nhớ kiến thức của nó tệ khủng khiếp. Mấy dòng Qwen3.5 cỡ nhỏ dính tỷ lệ 'ảo giác' (hallucination) từ 80% đến 82% trong các bài test kiến thức. Lưu trữ sự thật trong trọng số tốn khoảng 2 bit bộ nhớ cho mỗi tham số, mà kiến thức thì lại rất mau lỗi thời.

Vì sao việc này lại quan trọng: Thay vì lãng phí tham số để học thuộc lòng Wikipedia, các lab đang huấn luyện mô hình hoạt động như một bộ xử lý logic thuần túy. Bằng cách để công cụ tìm kiếm và file nội bộ cung cấp dữ liệu tĩnh lúc chạy, khả năng tư duy cấp độ hàng đầu sẽ sớm chạy mượt trên một con GPU 24GB phổ thông.

Nói ngắn gọn: Logic tư duy thì không bao giờ cũ, nhưng kiến thức nạp cứng thì sẽ lỗi thời. Đại số vẫn hoạt động như hàng chục năm trước, trong khi các thư viện code và tài liệu API thì đổi xoành xoạch. Ném thẳng tài liệu nội bộ vào cho mô hình sẽ giữ cho tư duy luôn sắc bén và câu trả lời luôn chuẩn xác.

Hóa ra bạn chẳng cần đến cả trung tâm dữ liệu khi mô hình ngừng cố học thuộc lòng toàn bộ internet.