SFT dạy model cách trả lời, nhưng không dạy được thế nào là trả lời tốt. Đi từ giới hạn của SFT sang preference data, xây reward model bằng Bradley–Terry, rồi dùng PPO cùng KL penalty để tối ưu policy, cùng những cái giá phải trả: alignment tax, chi phí tính toán, và reward hacking.
Model benchmark đẹp, demo trên máy cá nhân mượt — nhưng đưa lên production cho 5000 người dùng cùng lúc thì GPU báo Out-of-memory. Đi từ prefill/decode, KV Cache, PagedAttention, continuous batching, chunked prefill, đến cách chọn serving engine (vLLM, SGLang…) — và vì sao vấn đề không nằm ở model mà nằm ở cách serving.
Vì sao general model chưa đủ cho bài toán domain-specific, và fine-tuning giải quyết gì mà Prompt Engineering hay RAG không làm được. Đi từ format dữ liệu, sequence packing, Full Fine-tuning, đến LoRA, QLoRA và DoRA — cùng lý do từng kỹ thuật ra đời.
Loop Engineering Is Dead. Enter Graph Engineering — khi một vòng lặp đơn lẻ không còn đủ, thứ bạn thu được là một đồ thị. Tổng hợp và phân tích về xu hướng kiến trúc đồ thị cho hệ thống AI agent đa thành phần.
Tóm tắt và một vài suy nghĩ về báo cáo ‘Conjecture Machines’ của Google DeepMind (7/2026): AI agent đang khiến việc tạo ra ý tưởng khoa học trở nên rẻ và dồi dào, nhưng khâu kiểm chứng lại chưa theo kịp.