https://vo-hoang-kh4ng.github.io/tags/llm/ Recent content in LLM on Kh4ng Hugo vi-VN Sat, 22 Aug 2026 10:00:00 +0700 https://vo-hoang-kh4ng.github.io/posts/serving-llm/ Sat, 22 Aug 2026 10:00:00 +0700 https://vo-hoang-kh4ng.github.io/posts/serving-llm/ Model benchmark đẹp, demo trên máy cá nhân mượt — nhưng đưa lên production cho 5000 người dùng cùng lúc thì GPU báo Out-of-memory. Đi từ prefill/decode, KV Cache, PagedAttention, continuous batching, chunked prefill, đến cách chọn serving engine (vLLM, SGLang…) — và vì sao vấn đề không nằm ở model mà nằm ở cách serving. https://vo-hoang-kh4ng.github.io/posts/fine-tuning-llm/ Sat, 15 Aug 2026 10:00:00 +0700 https://vo-hoang-kh4ng.github.io/posts/fine-tuning-llm/ Vì sao general model chưa đủ cho bài toán domain-specific, và fine-tuning giải quyết gì mà Prompt Engineering hay RAG không làm được. Đi từ format dữ liệu, sequence packing, Full Fine-tuning, đến LoRA, QLoRA và DoRA — cùng lý do từng kỹ thuật ra đời. https://vo-hoang-kh4ng.github.io/posts/graph-engineering/ Mon, 03 Aug 2026 23:00:00 +0700 https://vo-hoang-kh4ng.github.io/posts/graph-engineering/ Loop Engineering Is Dead. Enter Graph Engineering — khi một vòng lặp đơn lẻ không còn đủ, thứ bạn thu được là một đồ thị. Tổng hợp và phân tích về xu hướng kiến trúc đồ thị cho hệ thống AI agent đa thành phần.