Mô hình AI nhỏ tháng 10/2026: Haiku 5.5, GPT-6 Luna, Gemini 3.8 Flash — rẻ hơn vài chục lần, và ba cái bẫy trong bảng giá

Một cửa hàng nhận khoảng 30.000 tin nhắn khách hàng mỗi tháng qua Zalo, Facebook và website. Chủ cửa hàng muốn AI làm hai việc: xếp mỗi tin vào đúng nhóm (hỏi giá, đổi trả, khiếu nại, đặt hàng) và soạn sẵn một câu trả lời để nhân viên duyệt. Câu hỏi đầu tiên: dùng mô hình nào?

Bản năng tự nhiên là chọn mô hình mạnh nhất có thể. Nhưng tháng 10/2026 là thời điểm hợp lý để hỏi ngược lại: mô hình nhỏ nhất đủ làm việc này là mô hình nào? Trong khoảng năm tuần, cả ba hãng lớn đều ra mô hình nhỏ thế hệ mới, và khoảng cách giữa chúng với mô hình đầu bảng đã thu hẹp đáng kể — trong khi khoảng cách về giá thì không.

Ba mô hình nhỏ mới

• GPT-6 Luna (OpenAI), ra mắt 22/9. Giá $0,10 cho mỗi triệu token đầu vào, $0,50 cho mỗi triệu token đầu ra — bằng khoảng một nửa thế hệ trước. Ngữ cảnh tối đa khoảng 1 triệu token.
• Claude Haiku 5.5 (Anthropic), ra mắt 7/10. Giá $0,10/$0,50 cho yêu cầu dưới 100.000 token; trên mốc đó là $0,50/$2,50. Anthropic cho biết rẻ hơn Haiku 4.5 khoảng 90% với yêu cầu ngắn. Lần đầu có thiết lập mức suy luận ở hạng Haiku.
• Gemini 3.8 Flash (Google), ra mắt 2/9. Giá khuyến mãi $0,75/$3,75 tới hết năm 2026, lên $1,50/$7,50 từ ngày 1/1/2027.

Để so sánh: các mô hình hạng giữa (Claude Sonnet 5.5, GPT-6.1 Sol) có giá $2/$10, tức đắt gấp 20 lần Luna và Haiku 5.5 trên mỗi token.

Nhỏ nhưng mạnh tới đâu

Trên chỉ số trí tuệ của Artificial Analysis (bản 4.3) — một bảng đo độc lập tổng hợp khoảng mười bài kiểm tra — các con số như sau. Điểm của mỗi mô hình thay đổi theo mức suy luận được chọn, nên mỗi dòng ghi rõ mức:

• Claude Haiku 5.5: 43 ở mức cao nhất, 41 ở mức xhigh, khoảng 34 ở mức mặc định. Chi phí khoảng $0,12 mỗi bài ở mức xhigh, $0,21 ở mức cao nhất.
• GPT-6 Luna: 37–38 ở mức cao nhất (hai trang của cùng bên đo ghi lệch nhau một điểm), 22 ở mức thấp. Chi phí khoảng $0,07 mỗi bài ở mức cao nhất.
• Gemini 3.8 Flash: khoảng 41 ở mức cao.
• Để đối chiếu: GPT-6 Astra 53 với khoảng $3,26 mỗi bài; Claude Opus 5.5 đứng đầu với 58.

Nói cách khác, Haiku 5.5 ở mức xhigh đạt khoảng 77% điểm của Astra với chi phí mỗi bài bằng khoảng một phần hai mươi bảy. Luna đạt khoảng 72% điểm với chi phí bằng khoảng một phần bốn mươi bảy.

Giữa hai mô hình nhỏ rẻ nhất: Haiku 5.5 điểm cao hơn Luna vài điểm trên bảng độc lập, Luna rẻ hơn mỗi bài. Anthropic công bố thêm một bảng so Haiku 5.5 với Luna, trong đó Haiku dẫn ở mọi bài có số liệu cả hai — ví dụ thao tác máy tính (OSWorld) 72,4% so với 48,9%. Đó là số liệu do chính nhà sản xuất công bố, nên nên đọc như một tuyên bố cần kiểm chứng; hướng chênh lệch khớp với bảng độc lập, còn độ lớn thì chưa có bên thứ ba xác nhận.

Những con số này đo trên các bài kiểm tra khó — suy luận nhiều bước, lập trình, kiến thức chuyên sâu. Việc phân loại một tin nhắn hỏi giá dễ hơn nhiều. Khoảng cách 15 điểm trên bảng tổng hợp không có nghĩa là mô hình nhỏ sai nhiều hơn 15% ở việc của bạn — có thể gần như không sai thêm, có thể sai nhiều hơn thế. Cách duy nhất để biết là thử, và phần cuối bài chỉ cách thử.

Tính chi phí cho cửa hàng 30.000 tin nhắn

Giả định mỗi tin nhắn cần khoảng 2.000 token đầu vào (hướng dẫn, danh sách nhóm, vài ví dụ mẫu, nội dung tin nhắn) và 400 token đầu ra (nhóm được chọn và câu trả lời soạn sẵn), ở mức suy luận thấp. Theo giá niêm yết:

• Haiku 5.5 hoặc Luna ($0,10/$0,50): khoảng $12 mỗi tháng
• Gemini 3.8 Flash: $90 mỗi tháng theo giá khuyến mãi, $180 theo giá từ năm 2027
• Mô hình hạng giữa ($2/$10): $240 mỗi tháng
• Chia việc: 85% tin nhắn do mô hình nhỏ xử lý, 15% khó hơn chuyển lên mô hình hạng giữa: khoảng $46 mỗi tháng

Có hai điều đáng chú ý trong phép tính này. Thứ nhất, mô hình nhỏ rẻ hơn 20 lần — đúng như bảng giá. Thứ hai, và quan trọng hơn: ở quy mô này, mọi phương án đều rẻ hơn lương một nhân viên trong vài ngày. Chênh lệch 228 USD mỗi tháng là thật, nhưng không phải yếu tố quyết định. Yếu tố quyết định là mô hình nào sai ít nhất, vì mỗi tin nhắn xếp sai nhóm hay câu trả lời phải viết lại tốn thời gian của nhân viên — thứ đắt hơn token rất nhiều.

Phép tính đổi chiều khi khối lượng lớn hơn hàng trăm lần — xử lý hàng triệu tài liệu, hay một tác vụ tự động chạy liên tục. Khi đó chênh lệch 20 lần trở thành khoản tiền đáng kể, và việc tách được phần lớn khối lượng sang mô hình nhỏ là quyết định có giá trị nhất.

Cái bẫy thứ nhất: vách giá ở mốc 100.000 token

Haiku 5.5 có hai mức giá theo độ dài yêu cầu. Theo các phân tích trích từ tài liệu của Anthropic, khi một yêu cầu vượt 100.000 token, toàn bộ yêu cầu — không chỉ phần vượt — bị tính theo giá cao gấp năm lần, kể cả phần đọc từ bộ nhớ đệm.

Tính thử với 1.000 token đầu ra:

• Yêu cầu 90.000 token: 90.000 × $0,10 / 1 triệu + 1.000 × $0,50 / 1 triệu ≈ $0,0095
• Yêu cầu 120.000 token: 120.000 × $0,50 / 1 triệu + 1.000 × $2,50 / 1 triệu ≈ $0,0625

Yêu cầu dài hơn một phần ba, chi phí gấp 6,6 lần. Từng yêu cầu được tính riêng, nên một yêu cầu dài không kéo các yêu cầu khác lên giá cao — nhưng nếu hệ thống của bạn thường xuyên gửi yêu cầu dài, đây là khác biệt lớn.

Hai tình huống dễ vượt mốc mà không ai để ý:

• Hội thoại dài: mỗi lượt gửi lại toàn bộ lịch sử. Một cuộc trò chuyện chăm sóc khách hàng kéo dài có thể vượt mốc ở lượt thứ vài chục mà không ai sửa dòng mã nào.
• Bộ đếm token mới: Anthropic cho biết Haiku 5.5 dùng bộ tách token mới, sinh ra nhiều token hơn một chút cho cùng nội dung. Một bên thử nghiệm ghi nhận yêu cầu đo được 80.000 token trên Haiku 4.5 thành khoảng 104.000 trên Haiku 5.5. Hãy đo độ dài bằng chính mô hình bạn dùng, không dùng con số cũ.

Nhiều mô hình khác cũng có giá riêng cho yêu cầu rất dài, ở những mốc khác nhau — hãy đọc kỹ trang giá của đúng mô hình bạn dùng, không chỉ dòng giá đầu tiên.

Cái bẫy thứ hai: giá khuyến mãi và số token tăng dần

Giá $0,75/$3,75 của Gemini 3.8 Flash là giá khuyến mãi tới hết năm 2026. Từ ngày 1/1/2027, giá gấp đôi. Ngoài ra, Artificial Analysis ghi nhận chi phí mỗi bài của 3.8 Flash tăng khoảng 40% so với 3.7 Flash dù giá mỗi token không đổi, vì mô hình mới viết nhiều token hơn khoảng 30% cho mỗi việc và cần nhiều lượt hơn ở các việc nhiều bước.

Bài học chung: phiên bản mới của cùng một dòng mô hình có thể đắt hơn cho mỗi việc dù bảng giá giữ nguyên. Mỗi lần nâng cấp, hãy chạy lại bộ thử và so số token, không chỉ so điểm.

Cái bẫy thứ ba: mức suy luận

Cả ba mô hình đều cho chọn mức suy luận — mô hình được "nghĩ" bao nhiêu trước khi trả lời. Token suy nghĩ được tính như token đầu ra. Theo đo đạc của Artificial Analysis, chi phí mỗi bài của Luna ở mức thấp nhất là khoảng $0,0045, ở mức cao nhất là khoảng $0,07 — chênh khoảng mười lăm lần trên cùng một mô hình, cùng một bảng giá.

Mức cao cho điểm cao hơn trên bài khó. Nhưng với việc xếp một tin nhắn vào bốn nhóm, mức thấp thường là đủ. Nguyên tắc: bắt đầu ở mức thấp nhất, chỉ tăng khi bộ thử cho thấy cần. Nhiều đội làm ngược lại — để mức mặc định hoặc mức cao "cho chắc" — và trả gấp nhiều lần cho phần suy nghĩ không cần thiết.

Cách thử xem mô hình nhỏ có đủ không

Một — lấy 200 yêu cầu thật. Chọn 200 tin nhắn, tài liệu hay yêu cầu gần đây của đúng việc bạn định tự động hoá. Chạy cùng câu lệnh trên một mô hình nhỏ và một mô hình hạng giữa, ở mức suy luận thấp nhất. Lưu kết quả và số token.

Hai — đo theo loại việc. Với việc có đáp án rõ (phân loại, trích số điện thoại, trích mã đơn hàng), đếm tỉ lệ mô hình nhỏ cho cùng kết quả với mô hình lớn và với người đã xử lý trước đó. Với việc viết (soạn câu trả lời), lấy ngẫu nhiên 30 cặp, giấu tên mô hình, nhờ hai nhân viên chọn bản tốt hơn hoặc ghi là ngang nhau.

Ba — xem kỹ chỗ sai. Mười lỗi đầu tiên của mô hình nhỏ cho biết nhiều hơn tỉ lệ đúng. Nếu các lỗi tập trung ở một loại tin nhắn (ví dụ tin nhắn vừa khiếu nại vừa hỏi đổi hàng), đó là loại nên chuyển lên mô hình lớn. Nếu lỗi rải đều, mô hình nhỏ có thể chưa đủ cho việc này.

Bốn — đặt quy tắc chuyển lên. Cho mô hình nhỏ xử lý trước. Chuyển lên mô hình lớn khi: kết quả sai định dạng (ví dụ JSON thiếu trường bắt buộc), mô hình nhỏ tự xếp vào nhóm "không chắc" mà bạn đưa sẵn trong danh sách nhóm, hoặc yêu cầu dài vượt một ngưỡng bạn đặt. Theo dõi tỉ lệ chuyển lên mỗi tuần — nếu nó tăng dần, có thể nội dung tin nhắn đã thay đổi.

Năm — tính ngân sách theo giá chuẩn và số token đo được. Không lấy độ dài câu trả lời nhân với bảng giá — con số đó bỏ qua token suy nghĩ và các lượt gọi lại. Dùng tổng token thực tế từ bước một.

Kết

Mô hình nhỏ tháng 10/2026 không phải phiên bản kém của mô hình lớn. Chúng là công cụ cho một loại việc khác: việc lặp lại nhiều lần, có tiêu chí đúng sai tương đối rõ, nơi tốc độ và chi phí mỗi lần chạy quan trọng hơn khả năng suy luận sâu.

Với doanh nghiệp nhỏ và vừa, câu hỏi thường không phải "tiết kiệm được bao nhiêu tiền token" — ở quy mô vài chục nghìn yêu cầu mỗi tháng, mọi phương án đều rẻ. Câu hỏi đúng là mô hình nào sai ít nhất ở đúng việc của bạn, và hệ thống có biết chuyển việc khó lên đúng chỗ không. Ba cái bẫy trong bài — vách giá 100.000 token, giá khuyến mãi, mức suy luận — đều phát hiện được bằng một lần chạy thử 200 yêu cầu.

Bài trước trong loạt này so sánh ba mô hình hạng giữa cùng giá $2/$10. Nếu bạn muốn dựng quy trình thử và chia việc giữa mô hình nhỏ và lớn trên chính dữ liệu của mình, liên hệ với chúng tôi hoặc xem năng lực AI & ML của KonexForge.