Tất tần tật về cách AI thực sự hoạt động bên dưới lớp vỏ bọc chat. Everything about how AI actually works under the hood.
AI không đọc chữ giống con người. Nó bẻ văn bản thành các "mảnh ghép" gọi là Tokens (ví dụ: chữ "apple" là 1 token, nhưng "pineapple" có thể là 2 tokens "pine" và "apple"). Các token này được chuyển thành các con số (vectors). Mạng Nơ-ron (Neural Network) dựa trên cấu trúc Transformer sẽ dùng toán học để tìm ra mối quan hệ giữa các con số này. Đó là lý do AI cực kỳ kém trong việc đếm chữ cái trong một từ, vì nó chỉ nhìn thấy con số đại diện cho token, chứ không thấy từng chữ cái.
AI reads text by breaking it into "tokens" and converting them into numbers (vectors). The Neural Network uses math to find relationships between these numbers. This is why AI struggles to count letters in a word—it sees the token, not the letters.Con nhìn thấy một bức tranh ghép hình (puzzle). Con không cần biết từng vết mực trên mảnh ghép, con chỉ quan tâm mảnh "đầu con mèo" sẽ ghép vừa với mảnh "thân con mèo". AI ghép chữ cũng y hệt như ghép hình!
Imagine doing a puzzle. You don't look at every drop of paint, you just match the "cat head" piece with the "cat body". AI pieces together words just like a puzzle!AI không tra cứu một đáp án tĩnh trong cơ sở dữ liệu. Nó liên tục "đoán" token tiếp theo sẽ là gì dựa trên xác suất. Tham số Temperature (Nhiệt độ) kiểm soát sự ngẫu nhiên này. Temperature thấp (gần 0), AI sẽ luôn chọn từ có xác suất cao nhất (hợp lý nhất, an toàn nhất). Temperature cao, AI sẽ "liều" chọn những từ ít phổ biến hơn, tạo ra câu văn sáng tạo nhưng dễ bị ảo giác (hallucinate).
AI predicts the next token based on probabilities. "Temperature" controls this randomness. Low temperature = safe, highly probable words. High temperature = creative but riskier word choices.Khi vẽ tranh, "Nhiệt độ thấp" là con chỉ được dùng màu đỏ để vẽ quả táo. "Nhiệt độ cao" là con được phép lấy màu xanh tím để vẽ quả táo cho độc lạ, nhưng đôi khi người ta sẽ không nhận ra đó là quả táo nữa!
Low temp means you only paint apples red. High temp means you can paint an apple purple to be creative, but sometimes people won't recognize it's an apple!Mô hình AI bị "đóng băng" kiến thức tại thời điểm huấn luyện (Training Cutoff). Nó không tự cập nhật sự kiện ngày hôm qua. Vì bản chất của AI là luôn cố gắng "đoán từ tiếp theo" để làm hài lòng bạn, nếu bạn hỏi một sự kiện chưa từng học, nó sẽ dùng xác suất để bịa ra một câu chuyện (Hallucination) nghe cực kỳ mạch lạc và thuyết phục, thậm chí bịa ra cả link nguồn không tồn tại.
AI's knowledge stops at its Training Cutoff. Because its core function is to predict the next word to satisfy the user, if you ask about a new event, it will confidently hallucinate a plausible but completely fake answer.Giống như con bị nhốt trong phòng từ năm 2020 không được xem TV. Khi có người hỏi "Ai vô địch bóng đá năm nay?", con không biết nhưng vì sợ bị mắng nên con cứ đoán đại một tên đội bóng nghe cho oai!
Like being locked in a room since 2020. If someone asks "Who won the cup this year?", you don't know, but to sound smart, you just make up a team name!
• Greedy Decoding (tương đương Temperature = 0): Luôn chọn duy nhất 1 từ có xác suất cao nhất tại bước hiện tại, cho kết quả gần như tất định (deterministic) nhưng dễ lặp từ.
• Beam Search: Giữ song song nhiều nhánh câu tiềm năng và chọn chuỗi có tổng điểm toàn câu cao nhất.
• Top-k vs. Top-p (Nucleus Sampling): Top-k giới hạn bằng một số lượng từ cố định (ví dụ k=50 từ cao nhất); Top-p giới hạn linh hoạt bằng nhóm từ nhỏ nhất có tổng xác suất cộng dồn đạt ngưỡng p (ví dụ p=0.9).
Chọn kẹo trong một hũ: Greedy là luôn bốc viên con thích nhất. Top-k là "chỉ được chọn trong 5 viên ngon nhất" — đếm số viên. Top-p là "chọn trong nhóm viên ngon chiếm 90% độ ngon của cả hũ" — không đếm viên mà cộng dồn. Beam Search là thử vài cách bốc khác nhau rồi mới quyết cách nào ngon nhất tính cả mâm.
Picking sweets from a jar: Greedy always grabs your favourite one. Top-k says "only from the 5 best" — you count them. Top-p says "only from the best ones making up 90% of the tastiness" — you add up instead of counting. Beam Search tries a few whole handfuls before deciding which handful is best overall.
1. Pre-training (Tiền huấn luyện): Học ngữ pháp và kiến thức thế giới từ văn bản thô khổng lồ qua Self-Supervised Learning (tự che từ tiếp theo làm đáp án, không cần người gán nhãn) → Tạo ra Base Model (chỉ biết nối tiếp văn bản, chưa biết vâng lời).
2. Fine-tuning (Tinh chỉnh): Huấn luyện thêm trên tập dữ liệu nhỏ, chuyên biệt gồm các cặp chỉ dẫn – câu trả lời → Tạo ra Instruct Model biết làm theo lệnh và học đúng văn phong.
3. RLHF: Dùng phản hồi con người để huấn luyện một Reward Model (Mô hình phần thưởng) chấm điểm câu trả lời, giúp căn chỉnh (Alignment) hành vi AI với đạo đức, an toàn và sở thích con người.
Nuôi một đứa trẻ qua ba chặng. Pre-training là cho bé đọc ngấu nghiến cả thư viện — bé biết rất nhiều chữ nhưng hỏi gì cũng chỉ đọc tiếp chứ chưa biết trả lời. Fine-tuning là dạy bé phép lịch sự: ai hỏi thì phải đáp đúng câu hỏi. RLHF là mỗi lần bé trả lời, người lớn cho điểm "ngoan / chưa ngoan", dần dần bé hiểu thế nào là trả lời tử tế và an toàn.
Raising a child in three stages. Pre-training is letting them devour a whole library — they know masses of words but only ever carry on the sentence instead of answering. Fine-tuning teaches manners: when asked something, answer that thing. RLHF is grown-ups scoring each answer "kind / not kind" until the child learns what a safe, helpful answer looks like.
• Overfitting (Quá khớp) vs. Underfitting (Chưa khớp): Overfitting là học thuộc lòng dữ liệu huấn luyện nhưng thất bại trên dữ liệu mới (mất khả năng Generalization); Underfitting là mô hình quá đơn giản nên làm kém ngay cả trên dữ liệu huấn luyện. Khi dữ liệu thực tế hoàn toàn khác lạ so với lúc học gọi là dữ liệu OOD (Out-Of-Distribution).
• Distillation (Chưng cất) vs. Quantization (Lượng tử hóa): Distillation là huấn luyện một mô hình "học trò" nhỏ bắt chước đầu ra của mô hình "thầy" lớn; Quantization là nén trọng số (Weights) của cùng một mô hình xuống ít bit hơn (16-bit → 4-bit).
• Thông số huấn luyện: Loss Function đo độ lệch giữa dự đoán và đáp án thật; Gradient Descent bước ngược chiều dốc để giảm Loss; 1 Epoch là 1 vòng duyệt hết toàn bộ tập huấn luyện; Batch Size là số mẫu xử lý cùng lúc trước 1 lần cập nhật trọng số; Activation Function (ReLU, Sigmoid) tạo tính phi tuyến; Perplexity (Độ bối rối) đo mức "bất ngờ" của mô hình (càng thấp càng tốt).
Overfitting là bạn học thuộc lòng đúng 10 bài trong sách, cô đổi số một cái là tắc tịt. Underfitting là bạn chưa chịu học gì cả nên làm sai cả 10 bài quen thuộc đó luôn. Distillation là cậu em ngồi xem anh giải rồi bắt chước cách làm — nhỏ hơn mà vẫn ra đáp án. Quantization thì vẫn là anh ấy, chỉ là viết chữ nhỏ lại cho vừa quyển vở mỏng hơn.
Overfitting is memorising exactly the ten exercises in the book, then freezing when teacher changes a number. Underfitting is not studying at all, so you fail even those ten. Distillation is a little brother watching his big brother solve them and copying the method — smaller, same answers. Quantization is still the same big brother, just writing smaller to fit a thinner notebook.
• Reasoning Model (Mô hình suy luận): Khác với mô hình chat thường ở chỗ nó dành thêm tính toán lúc suy luận (test-time compute) để sinh chuỗi token suy nghĩ dài trước khi trả lời — cực tốt cho bài toán phức tạp nhiều bước (debug xuyên module, toán khó), nhưng chậm và đắt nếu dùng cho tác vụ phân loại đơn giản.
• Quy tắc ước lượng Token: Trong tiếng Anh, 100 tokens ≈ 75 từ (1 token ≈ 3/4 từ).
• Embeddings & Latent Space: Biến từ/câu thành vector số sao cho các khái niệm đồng nghĩa nằm gần nhau trong không gian đa chiều; các lớp mạng tự động thực hiện Feature Extraction (Trích xuất đặc trưng) từ đơn giản đến phức tạp.
• Các tác vụ NLP cơ bản: N-gram (cụm n từ liên tiếp); NER (Named Entity Recognition) (nhận diện tên người, tổ chức, địa điểm, ngày tháng); Coreference (xác định đại từ "cô ấy", "nó" chỉ đối tượng nào); Sentiment Analysis (phân tích thái độ tích cực/tiêu cực).
Có bạn làm toán nhẩm đáp ngay, có bạn xin tờ nháp viết từng bước rồi mới trả lời — bài khó thì bạn thứ hai đúng hơn hẳn, nhưng hỏi "hôm nay thứ mấy" mà cũng lôi nháp ra thì phí thời gian. Embeddings là xếp đồ chơi lên sàn sao cho những món giống nhau nằm cạnh nhau: ô tô một góc, thú bông một góc — chẳng cần đọc tên vẫn biết món nào họ hàng với món nào.
Some children answer sums instantly; others ask for scrap paper and work through the steps first — far better on hard problems, but silly for "what day is it today". Embeddings are laying toys out on the floor so similar ones sit together: cars in one corner, soft toys in another — you can see what's related without reading any labels.Đang tải câu hỏi…
Loading questions…
Kiểm soát hành vi, cấu trúc và định dạng của AI. Controlling AI behavior, structure, and formatting.
Mỗi AI có một bộ nhớ ngắn hạn gọi là Context Window (giới hạn số Token nó có thể nhớ trong 1 cuộc hội thoại). Khi xử lý lượng dữ liệu khổng lồ (ví dụ 500 dòng), những câu lệnh (Prompt) ban đầu của bạn sẽ bị "trôi" xa khỏi bộ nhớ tập trung (Attention Mechanism). Hậu quả là ở những dòng cuối cùng, AI sẽ "lười biếng", bắt đầu viết tắt, sai định dạng hoặc bỏ sót yêu cầu. Cách khắc phục: Xử lý theo từng Batch nhỏ và luôn cung cấp Schema (khuôn mẫu) đi kèm.
AI has short-term memory (Context Window). In massive tasks, your initial instructions fade from its "Attention". This causes "Format Drift", where the AI gets lazy and outputs bad formats at the end. Fix this by batching.Con được dặn "nhặt 100 viên sỏi màu đỏ bỏ vào rổ". 10 viên đầu con làm rất đúng, nhưng đến viên 90 con mệt quá nên vơ đại cả sỏi đen sỏi trắng ném vào rổ cho xong việc.
You're told to "pick 100 red pebbles". For the first 10, you're careful. By pebble 90, you're tired and just grab any pebble to finish fast.Zero-shot là bạn ra lệnh thẳng (VD: "Phân tích sắc thái câu này"). Few-shot là bạn cung cấp 2-3 ví dụ cụ thể về Đầu vào -> Đầu ra trước khi bắt nó làm. Việc cung cấp ví dụ sẽ kích hoạt cơ chế nhận diện khuôn mẫu (Pattern Recognition) của AI, giúp nó ép định dạng Output chính xác lên đến 99% mà không cần giải thích dông dài.
Zero-shot is commanding directly. Few-shot is giving 2-3 input-output examples first. Examples trigger pattern recognition, forcing the AI to output exactly the format you want with 99% accuracy.Nhờ bạn gấp con hạc giấy. Zero-shot là chỉ nói "gấp con hạc đi" rồi để bạn tự xoay xở — ra hình gì cũng được. Few-shot là đặt sẵn hai con hạc mẫu lên bàn: bạn chỉ cần nhìn rồi gấp theo, con hạc nào cũng giống hệt mẫu. Đưa mẫu nhanh hơn và chắc ăn hơn là giải thích dài dòng từng nếp gấp.
Asking a friend to fold a paper crane. Zero-shot is just saying "fold a crane" and letting them work it out — you get whatever shape appears. Few-shot is putting two finished cranes on the table: they glance and copy, and every crane matches. Showing an example beats describing every fold.AI được huấn luyện bằng RLHF (Học tăng cường từ phản hồi con người), mục tiêu tối thượng của nó là "làm hài lòng" người dùng. Nếu bạn hỏi: "Bạn có đồng ý dự án này chắc chắn thành công không?", AI sẽ phân tích thái độ của bạn và có xu hướng nói "Có" rồi cố gắng tìm ra lý do để ủng hộ bạn, bỏ qua các rủi ro. Luôn phải đặt câu hỏi trung lập: "Đánh giá tính khả thi và rủi ro của dự án này."
Trained via RLHF, AI's goal is to please you. If you ask a leading question ("Do you agree this is great?"), the AI will say "Yes" to satisfy you, ignoring flaws. This is Sycophancy. Always use neutral prompts.Con hỏi bạn: "Tớ vẽ cái này đẹp vô địch vũ trụ đúng không?". Bạn con sợ con buồn nên sẽ gật đầu cái rụp, dù cái hình nhìn giống củ khoai tây!
You ask a friend: "My drawing is the best in the universe, right?". Your friend doesn't want you to be sad, so they nod, even if it looks like a potato!Nếu một việc lặp lại (ví dụ viết release notes mỗi tuần) được viết bằng một prompt mới mỗi lần, kết quả khác nhau không chỉ vì AI có tính ngẫu nhiên, mà còn vì chính câu lệnh thay đổi theo từng tuần. Giải pháp: lưu một prompt cố định, đã kiểm thử, kèm ví dụ mẫu cụ thể, và tái sử dụng — quản lý phiên bản như mọi tài sản kỹ thuật khác của team.
If a recurring task (e.g. weekly release notes) is written with a fresh prompt every time, results differ not just from model randomness but because the instructions themselves change weekly. Fix: one saved, tested prompt template with a concrete example, reused and version-controlled like any other team asset.Giống như công thức nấu phở mẹ viết sẵn dán lên tủ bếp. Nấu lần nào con cũng lấy đúng công thức đó ra làm, nên tô phở tuần nào cũng giống nhau. Nếu mỗi lần tự nhớ lại công thức trong đầu, có tuần sẽ quên bỏ hành, có tuần lại cho nhiều muối hơn.
Like a recipe card taped to the fridge. Every time you cook, you follow that exact card, so the dish tastes the same every week. If you tried to remember the recipe from memory each time, you'd forget an ingredient some weeks and add too much salt other weeks.Khi một prompt yêu cầu AI làm nhiều việc cùng lúc (vd: tóm tắt, soạn email, liệt kê rủi ro), các việc cạnh tranh sự tập trung và độ dài phản hồi — việc đầu thường được làm kỹ nhất, việc sau bị làm hời hợt. Tách thành từng prompt riêng giúp mỗi việc nhận đủ công sức, và cho bạn cơ hội kiểm tra kết quả một bước trước khi nó trở thành đầu vào cho bước sau.
When one prompt asks AI to do several jobs in one reply, the jobs compete for attention and reply length — the first gets the fullest treatment, later ones degrade. Splitting into separate prompts gives each job full effort and lets you check one step before it feeds the next.Giống như nhờ con làm 3 việc nhà cùng lúc: dọn phòng, rửa bát, học bài. Con sẽ dồn hết sức cho việc đầu tiên rồi mệt dần, việc cuối làm qua loa. Nếu nhờ từng việc một, việc nào con cũng làm kỹ.
Like being asked to do three chores at once: clean your room, wash dishes, do homework. You pour effort into the first one and get tired, so the last one gets rushed. Asking one at a time means every chore gets your full effort.AI không có cách đáng tin cậy để tự biết khi nào mình sai, nên không thể dựa vào việc AI tự gắn cờ cảnh báo để lọc câu cần review. Nhưng chiều ngược lại vẫn đúng: khi AI thực sự ngập ngừng nói "không chắc" trên một câu hỏi khó, đó là tín hiệu nên tin — hãy đi tìm nguồn đáng tin cậy, đừng hỏi lại nhiều lần để ép nó đưa ra một câu trả lời nghe chắc chắn.
AI has no reliable way to know when it's wrong, so you can't rely on self-flagging to filter what needs review. But the reverse direction holds: when AI genuinely hedges "not sure" on a hard question, that's real signal to trust — go find a reliable source rather than rephrasing until it commits to a confident guess.Khi bạn hỏi đường và người ta trả lời rành rọt "đi thẳng rồi rẽ trái" dù họ chưa từng đến đó, bạn dễ bị lạc. Nhưng nếu họ nói "tôi không chắc lắm", hãy nghe lời đó và hỏi người khác — đó là lúc câu nói thật thà của họ đáng tin nhất.
If someone gives you confident directions to a place they've never been, you'll get lost. But if they say "I'm not really sure", believe that and ask someone else — their honesty is the one thing you should trust here.Khi thời gian có hạn, đừng đọc lướt vì câu văn mượt — văn phong trôi chảy không phải bằng chứng đúng. Ưu tiên kiểm tra những gì bạn không có cách nào tự nhận ra nếu sai: số liệu, tên riêng, trích dẫn không có nguồn trong chat. Nội dung được xây từ tài liệu bạn đã dán vào (tóm tắt, diễn đạt lại) rủi ro thấp hơn nhiều vì bạn đối chiếu trực tiếp được với bản gốc.
Under time pressure, don't skim because the prose reads smoothly — fluency is not evidence of accuracy. Prioritize checking what you'd have no way to notice if wrong: unsourced numbers, names, citations. Content built from material you pasted in is much lower risk since you can compare it directly against the source.Bài văn mẹ viết rất hay không có nghĩa là ngày tháng mẹ ghi trong đó đúng. Hãy kiểm tra trước những con số và tên quan trọng, còn câu chữ mượt mà thì để sau.
A beautifully written essay doesn't mean the dates in it are correct. Check the important numbers and names first; worry about how smooth the sentences sound later.
• Delimiters (Dấu phân cách) & XML Tags (như <task_1>, """): Tách biệt rõ chỉ dẫn của bạn khỏi dữ liệu cần xử lý, và ép mô hình trả lời đủ từng phần trong Multi-part Prompt mà không bị quên phần giữa (Lost in the Middle).
• Chain-of-Thought (CoT) & Prompt Chaining: Yêu cầu mô hình "suy nghĩ từng bước" hoặc lập dàn ý trước khi trả lời, dùng chính các token sinh ra làm "giấy nháp" để không chốt đáp án vội vàng; nếu tác vụ có 5 phần quá nặng, hãy phân rã (Decomposition) thành chuỗi các prompt nối tiếp nhau.
• Negative Prompting, Negative Examples & Defensive Prompt: Nêu rõ những gì KHÔNG được làm (VD: cấm lời dạo đầu / Preamble như "Chắc chắn rồi, đây là...") kết hợp với ví dụ mẫu đúng (Few-shot) và JSON Schema / Structured Outputs để nâng cao Interaction Quality. Dùng Defensive Prompt để dặn mô hình giữ vững sự thật khi người dùng đưa tiền đề sai (False Premise).
• Context Engineering cho Agent: Khi tác tử chạy tác vụ dài, đừng giữ nguyên mọi kết quả công cụ cũ làm loãng ngữ cảnh — hãy tóm tắt kết quả cũ và lưu dữ kiện chính vào ghi chú (notes) bên ngoài.
Viết lời dặn cho bạn đi chợ hộ. Delimiters / XML tags là kẻ ô rõ ràng: ô này là "việc cần làm", ô kia là "danh sách đồ" — khỏi lẫn lộn lời dặn với hàng hoá. Chain-of-Thought là bảo bạn ấy ghi ra giấy nháp từng bước trước khi chốt. Prompt Chaining là chia thành ba chuyến nhỏ thay vì ôm hết một lần. Còn với tác tử chạy lâu, cuốn sổ ghi chép phải tóm tắt bớt chuyện cũ, nếu không sẽ dày tới mức chẳng tìm nổi dòng cần đọc.
Writing a shopping list for a friend. Delimiters and XML tags draw clear boxes: this box is "what to do", that one is "the items" — no mixing instructions up with goods. Chain-of-thought is asking them to jot the steps on scrap paper before deciding. Prompt chaining is three small trips instead of one impossible one. And on a long errand the notebook must summarise the old pages, or it grows too thick to find anything in.Đang tải câu hỏi…
Loading questions…
Nâng cấp bộ não AI bằng cách kết nối nó với thế giới thực. Upgrading the AI brain by connecting it to the real world.
Chat thuần: AI bị nhốt trong hộp, chỉ dùng trí nhớ (dữ liệu đã học) để trả lời. Dễ bị ảo giác khi hỏi số liệu thực tế.
AI Agent: AI được cấp cho "Đôi tay" và "Mắt". Nó có khả năng viết code nội bộ, tự duyệt web (Web Search), gọi API để tra thời tiết hoặc đọc file Excel của bạn. Khi này, AI hoạt động với tư cách người phân tích dữ liệu thực tế.
Hỏi "ngoài trời đang mưa không?". Chat thuần là bạn ngồi trong phòng kín, cửa đóng im, chỉ dựa vào trí nhớ hôm qua mà đoán — nghe rất chắc chắn nhưng có thể sai bét. AI Agent là bạn được phép đứng dậy mở cửa sổ nhìn ra ngoài rồi mới trả lời.
You ask "is it raining outside?". Pure chat is someone in a sealed room with the door shut, guessing from what they remember of yesterday — confident, possibly wrong. An AI agent is allowed to get up, open the window and look before answering.RAG là cơ chế biến AI thành một "Thủ thư". Thay vì bắt AI phải học thuộc lòng hàng triệu trang tài liệu nội bộ của công ty bạn (Rất tốn kém), RAG chia tài liệu của bạn thành các đoạn nhỏ và lưu vào Database. Khi bạn đặt câu hỏi, hệ thống sẽ Tìm kiếm (Retrieval) 5 đoạn tài liệu liên quan nhất, sau đó nhét 5 đoạn đó vào Context Window của AI, và yêu cầu AI Sinh câu trả lời (Generation) chỉ dựa trên 5 đoạn đó. Đây là cách chống ảo giác mạnh nhất hiện nay.
RAG turns AI into a librarian. Instead of memorizing your company docs, the system Retrieves relevant document chunks based on your question, feeds them to the AI, and forces it to Generate an answer strictly from those chunks.Làm toán RAG là con được mở sách giáo khoa ra chép công thức. Còn Chat thuần là con bị tịch thu sách, phải tự vắt óc nhớ lại công thức!
RAG is taking an open-book test. Pure chat is when the teacher takes your book away and makes you answer from memory!
• AI Copilot vs. AI Agent: Copilot hỗ trợ trực tiếp con người khi đang làm việc (gợi ý code, soạn nháp); Agent tự trị lập kế hoạch và thực thi chuỗi hành động chạy ngầm (như tự phân loại và định tuyến email).
• RAG vs. Fine-tuning: Dùng RAG (kết hợp Retriever + Vector Database + Semantic Search) khi dữ liệu thay đổi thường xuyên hoặc cần trích dẫn nguồn; dùng Fine-tuning khi muốn dạy mô hình một giọng văn, phong cách hoặc định dạng đầu ra đặc thù.
• Đánh đổi Chi phí – Độ trễ – Độ chính xác & ROI: Với tác vụ khối lượng lớn (VD: phân loại 1 triệu phiếu hỗ trợ/ngày), dùng mô hình nhỏ chuyên biệt (rẻ hơn 10 lần, độ trễ thấp) và chỉ chuyển các ca không chắc chắn sang mô hình lớn. Với tác vụ không cần phản hồi tức thì (tạo báo cáo tháng từ hàng ngàn hóa đơn), dùng Batch Processing (Xử lý hàng loạt). Đo ROI của công cụ AI bằng thời gian lao động con người tiết kiệm được.
• Open-source / Open-weight vs. Proprietary API: Chạy cục bộ giúp giữ dữ liệu nhạy cảm trong mạng nội bộ, nhưng tải được trọng số không có nghĩa là miễn phí thương mại — luôn phải kiểm tra giấy phép (License), điểm Benchmark không nói lên quyền pháp lý.
Chọn người giúp việc cho đúng. Copilot là bạn ngồi cạnh nhắc bài trong lúc con đang viết; Agent là bạn ấy tự ôm cả việc đi làm xong rồi mang kết quả về. RAG là cho phép mở sách tra khi làm bài — sách đổi trang nào thì biết ngay trang đó; Fine-tuning là luyện cho bạn ấy quen nét chữ và giọng văn của mình, chứ không phải nhồi thêm kiến thức mới. Việc vặt mà nhiều thì giao bạn nhỏ làm cho nhanh, chỉ bài nào khó mới hỏi tới anh lớn.
Picking the right helper. A copilot sits beside you prompting while you write; an agent takes the whole errand away and brings back the result. RAG is letting them open the book while answering — change a page and they know at once; fine-tuning trains their handwriting and tone, not their facts. Give the many small jobs to the little helper and only call the big one for the hard ones.
• Orchestrator (Bộ điều phối như LangChain): Quản lý luồng dữ liệu giữa LLM, công cụ và bộ nhớ trong một Pipeline trước khi Deployment (Triển khai) từ Repository (Kho mã).
• Fallback Model (Mô hình dự phòng) & Graceful Degradation (Suy giảm nhẹ nhàng): Khi API chính bị lỗi hoặc chạm Rate Limit, tự động chuyển sang mô hình dự phòng; nếu AI gặp ca quá khó, chuyển giao an toàn cho con người thay vì sập hệ thống.
• Shadowing (Chạy song song thử nghiệm): Chạy AI mới song song với quy trình con người để so sánh kết quả mà chưa ảnh hưởng tới khách hàng thật.
• Active Learning (Học chủ động): Mô hình tự chọn ra những ca nó kém chắc chắn nhất để nhờ con người gán nhãn trước.
• Golden Dataset & Evals: Khi sửa System Prompt, phải chạy kiểm thử tự động trên bộ câu hỏi chuẩn cố định (Golden Dataset) thay vì chỉ gõ thử vài câu bằng tay.
Một quán ăn chạy trơn tru. Orchestrator là anh quản lý điều ai làm món gì, theo thứ tự nào. Fallback là bếp chính nghỉ thì có bếp phụ vào thay, quán không phải đóng cửa. Graceful Degradation là gặp món quá khó thì thà mời khách chọn món khác, còn hơn bưng ra một đĩa hỏng. Shadowing là cho đầu bếp mới nấu thử ở bếp sau, chưa ai phải ăn. Và trước khi đổi công thức, phải nấu lại đúng mấy món mẫu quen thuộc xem có còn ngon không.
Keeping a restaurant running. The orchestrator is the manager deciding who cooks what, in what order. A fallback is the second chef stepping in when the main one is off, so the place stays open. Graceful degradation is offering a different dish rather than serving a ruined one. Shadowing lets a new chef cook at the back where nobody eats it yet. And before changing a recipe you re-cook the familiar sample dishes to check they still taste right.Đang tải câu hỏi…
Loading questions…
Bảo mật dữ liệu và quyền quyết định cuối cùng. Data privacy and the ultimate human authority.
AI là "Người cố vấn", không phải "Người chịu trách nhiệm pháp lý". Bất kể AI đưa ra quyết định tự động hay viết một báo cáo chi tiết, nếu nội dung đó được gửi đi và gây ra sai phạm tài chính hay làm phật lòng khách hàng, bạn (người sử dụng) là người phải chịu 100% trách nhiệm trước công ty và luật pháp.
AI is an advisor, not a legal entity. If you blindly forward an AI's report and it contains financial errors, YOU are 100% legally and professionally liable. You cannot blame the AI.Bạn cùng bàn nhắc bài cho con, con chép y nguyên rồi nộp. Bài sai thì cô trừ điểm của con, chứ không trừ điểm bạn kia — vì tên trên tờ giấy là tên con. Máy có gợi ý hay tới đâu thì người ký tên và gửi đi vẫn là người chịu trách nhiệm.
A classmate whispers the answer, you copy it down and hand it in. If it's wrong, you lose the marks, not them — your name is on the paper. However good the machine's suggestion, the person who signs it and sends it carries the responsibility.Là thiết kế một quy trình làm việc (workflow) mà trong đó AI làm 90% công việc chân tay (ví dụ: tự động soạn sẵn 100 email xin lỗi khách hàng), nhưng bước cuối cùng (Bấm nút Gửi) bắt buộc phải có con người đọc lại và phê duyệt. Đây là chốt chặn an toàn (safety guardrail) thiết yếu đối với các tác vụ có rủi ro cao (High stakes).
HITL is a workflow design where AI does 90% of the manual work (e.g., drafting 100 emails), but a human MUST review and approve the final step before execution. Essential for high-stakes tasks.Giống như robot hút bụi tự dọn nhà xong, nhưng nó đứng trước cửa phòng tắm chờ mẹ gật đầu cho phép thì nó mới dám đi vào để không bị ướt chập mạch.
Like a robot vacuum cleaning the house, but stopping at the bathroom door waiting for Mom's permission before entering so it doesn't get wet.Không phải dữ liệu nào cũng được phép dán vào bất kỳ công cụ AI nào. Hầu hết tổ chức chia theo tầng: Tier 1 (công cụ khách hàng cấp phép) mới được xử lý logic nghiệp vụ của khách hàng; Tier 2 (công cụ doanh nghiệp có hợp đồng xử lý dữ liệu) dùng cho dữ liệu nội bộ không nhạy cảm; Tier 3 (công cụ miễn phí/cá nhân) chỉ dùng cho dữ liệu công khai. Đây là tầng dữ liệu AI — tắt tính năng "huấn luyện từ dữ liệu của tôi" hay ẩn danh tên khách hàng không nâng dữ liệu đó lên tầng cao hơn được.
Not all data may go into any AI tool. Most orgs split by tier: Tier 1 (customer-licensed tools) for customer business logic; Tier 2 (enterprise tools with a data processing agreement) for non-sensitive internal data; Tier 3 (free/personal tools) for public data only. Turning off "train on my data" or anonymizing names does not move data up a tier.Giống như có 3 cái hộp: hộp "chỉ mình con xem", hộp "cả nhà xem được" và hộp "ai cũng xem được". Bí mật của gia đình phải bỏ vào hộp đầu tiên, không được bỏ nhầm vào hộp ai cũng xem được dù con có xé tên đi.
Like having 3 boxes: "just for me", "family only", and "anyone can see". A family secret goes in the first box — never the "anyone can see" box, even if you tear off the name tag first.Một số loại code — xác thực, ký token, kiểm soát truy cập, mã hóa — được xếp vào nhóm trọng yếu về bảo mật. Quy định làm việc thường cấm AI viết trực tiếp các phần này, hoặc bắt buộc có phê duyệt riêng trước khi dùng AI, bất kể review kỹ đến đâu sau đó, kể cả khi deadline đang gấp. Lý do: lỗi trong vùng này thường tinh vi, trông hợp lý, và review thông thường dễ bỏ sót.
Some code — authentication, token signing, access control, encryption — is classified security-critical. Working agreements typically forbid AI from writing it directly, or require separate approval before AI is used, no matter how thorough the review afterward or how tight the deadline. Why: flaws here are often subtle, plausible-looking, and easy for normal review to miss.Chìa khóa nhà là thứ không thể đưa cho người lạ làm hộ, dù họ làm nhanh và đẹp đến đâu. Một số việc quan trọng phải tự tay mình làm, hoặc phải hỏi bố mẹ trước.
You don't hand your house key to a stranger to copy, no matter how fast and neat they are. Some jobs are too important to delegate without asking first.Khi bạn đưa một phân tích có AI hỗ trợ cho người khác ra quyết định, điều hữu ích nhất không phải là giấu nhẹm hay chỉ dán nhãn "có AI", mà là nói rõ phần nào bạn đã tự kiểm chứng và phần nào chưa — đây là công khai có định hướng. Người nhận cần biết nên tin phần nào, nên soi kỹ phần nào, chứ không chỉ biết rằng AI "có tham gia".
When handing an AI-assisted analysis to a decision-maker, the useful move isn't hiding AI's role or just labelling "AI was used" — it's naming exactly which figures or conclusions you verified yourself and which you didn't, a form of targeted disclosure. The recipient needs to know where to trust and where to scrutinize.Khi đưa bài tập nhờ bạn kiểm tra giúp, nói rõ "tớ tự làm phần 1, phần 2 tớ chưa chắc" sẽ giúp ích hơn nhiều so với chỉ nói "tớ làm bài này" hoặc giấu luôn không nói gì.
Handing a friend your homework to check, saying "I'm sure about part 1, not sure about part 2" helps them far more than just saying "I did this" or saying nothing at all.Tỷ lệ chấp nhận gợi ý AI cao, tần suất dùng nhiều, cảm nhận tích cực — đó là các chỉ số hoạt động, không chứng minh năng suất hay chất lượng thực sự tăng. Nếu sau nhiều sprint tốc độ bàn giao và tỷ lệ lỗi không đổi dù chỉ số hoạt động rất đẹp, nhiều khả năng team đang chấp nhận output AI thiếu chọn lọc, và thời gian tiết kiệm lúc sinh code bị "trả lại" ở khâu review và sửa lỗi.
High acceptance rate, frequent usage, positive sentiment — these are activity metrics; they don't prove real productivity or quality gains. If delivery speed and defect rate stay flat despite great activity numbers, the team is likely accepting AI output without enough selective judgment, paying back the time saved in review and rework.Tập chạy bộ mỗi ngày không có nghĩa là con chạy nhanh hơn. Nếu sau một tháng tập, thời gian chạy vẫn y hệt, có khi con chỉ đang chạy chứ chưa chạy đúng cách.
Running every day doesn't automatically mean you get faster. If your race time is the same after a month of training, maybe you've been running a lot, just not running the right way.Quyền sở hữu trí tuệ với code do AI sinh ra hiện vẫn chưa rõ ràng về mặt pháp lý. Điều khoản của các công cụ như Copilot thường từ chối nhận quyền sở hữu, nhưng điều đó không đồng nghĩa khách hàng của bạn chắc chắn sở hữu sạch sẽ mã đó — khả năng được bảo hộ bản quyền và nguồn gốc dữ liệu huấn luyện vẫn còn tranh cãi. Khi code AI sinh ra nằm trong sản phẩm giao cho khách hàng, rủi ro này cần được công khai và rà soát trước, không mặc định là "ổn".
IP ownership of AI-generated code is legally unresolved. Tool terms (e.g. Copilot) typically disclaim the vendor's own claim, but that doesn't guarantee your customer gets clean ownership — copyrightability and training-data provenance are both unsettled. When AI-generated code ships in a customer deliverable, this risk must be disclosed and reviewed, not assumed away.Nếu con nhờ máy vẽ tranh giúp rồi đem bán, ai là chủ bức tranh đó vẫn còn đang được người lớn cãi nhau chưa xong. Trước khi bán, nên hỏi kỹ chứ đừng mặc định là của mình.
If you ask a machine to draw a picture and then sell it, grown-ups are still arguing about who owns that picture. Ask first — don't just assume it's automatically yours.
• Anonymization (Ẩn danh hóa) vs. Encryption (Mã hóa): Ẩn danh hóa xóa danh tính vĩnh viễn không thể đảo ngược (chỉ xóa tên trên bệnh án/email chưa đủ vì vẫn lộ qua ngày sinh, bệnh hiếm, chữ ký); Mã hóa chỉ xáo trộn dữ liệu và có thể giải mã lại bằng khóa.
• GDPR (Quyền được lãng quên), DPA, ToS & Zero Data Retention (ZDR): Dữ liệu cá nhân (PII) hoặc API Key một khi đã lộ lên Public AI hoặc huấn luyện vào trọng số LLM thì rất khó thu hồi (Data Leak). Doanh nghiệp phải phân loại dữ liệu (Data Classification) trước tiên, dùng Enterprise AI hoặc On-premise, ký DPA/ZDR (hoặc Opt-out huấn luyện), đảm bảo Explainability (Khả năng giải thích), dùng Audit Logs để đo lường Compliance (Tuân thủ), lập Sandbox và Red Teaming, đồng thời ngăn chặn Shadow AI.
• Đạo luật AI của EU (EU AI Act): Hệ thống nhận diện cảm xúc nhân viên tại nơi làm việc/trường học thuộc nhóm Rủi ro không chấp nhận được (Bị cấm). Hệ thống lọc và xếp hạng CV tuyển dụng thuộc nhóm Rủi ro cao (High-risk) — được phép dùng nhưng bắt buộc quản trị rủi ro, lưu log và có con người giám sát.
• Alert Fatigue (Mệt mỏi vì cảnh báo), Data Drift, OCR & C2PA/Watermark: Quá nhiều cảnh báo khiến con người bấm "Duyệt" theo quán tính, làm vô hiệu hóa HITL. Để kiểm chứng ảnh do AI tạo (Deepfake), dùng chuẩn siêu dữ liệu có chữ ký số C2PA hoặc Watermark thay vì công cụ đoán bằng mắt.
Mã hóa là cất nhật ký vào hộp có khóa — ai cầm chìa vẫn đọc được hết. Ẩn danh hóa là đốt luôn phần tên, không ai lấy lại được nữa. Nhưng chỉ xóa mỗi cái tên thì chưa chắc đã ẩn: vẫn còn ngày sinh, lớp học, nét chữ — ghép lại là ra ngay. Còn Alert Fatigue là chuông báo cháy kêu mỗi ngày mà toàn báo nhầm, nên đến hôm cháy thật thì chẳng ai buồn chạy nữa.
Encryption is locking the diary in a box — anyone with the key reads everything. Anonymization is burning the name off for good. But crossing out just the name rarely hides anyone: the birthday, the class, the handwriting still give it away. And alert fatigue is a fire bell that cries wolf daily, so on the real fire day nobody bothers to run.Đang tải câu hỏi…
Loading questions…
Làm việc an toàn với mã nguồn sinh bởi AI. Working safely with AI-generated code.
Bởi vì AI sinh từ dựa trên xác suất, nó thường ghép các chữ quen thuộc để tạo ra tên thư viện (VD: `fast-json-parser`). Đôi khi thư viện này hoàn toàn không tồn tại. Nguy hiểm hơn, hacker có thể tạo sẵn các thư viện giả mạo với tên y hệt (Typosquatting) chứa mã độc. Khi AI gợi ý cài, bạn cài thành công, nhưng máy chủ của bạn đã bị kiểm soát. Luôn kiểm tra tài liệu chính thức (NPM, PyPI, Github) trước khi cài.
Because AI predicts probable words, it invents plausible-sounding library names that don't exist. Hackers create fake libraries matching these exact names (Typosquatting) with malware. Never blindly install packages; verify on official registries.Con thấy vỏ hộp sữa ghi đúng chữ "Vinamilk" nhưng chữ k viết hơi méo, mở ra bên trong lại là nước bẩn. Phải kiểm tra kỹ nhãn hiệu trước khi uống!
You see a box that says "Leggo" instead of "Lego". If you buy it blindly, you'll get cheap plastic that breaks. Always check the real label!Sai lầm lớn nhất là copy đoạn báo lỗi ném cho AI, nhận lại đoạn Code Fix và chép đè thẳng vào dự án mà không thèm đọc. Nếu làm vậy, bạn sẽ sớm làm hỏng toàn bộ logic hệ thống. Quy trình chuẩn: Đưa AI đoạn lỗi + yêu cầu nó giải thích nguyên nhân gốc rễ (root cause) -> Đọc hiểu nguyên nhân -> Yêu cầu AI đề xuất phương án -> Con người review logic phương án -> Tự viết hoặc kiểm thử (test) cẩn thận trong môi trường cô lập trước khi gộp (merge).
The worst mistake is copy-pasting an error to AI and blindly pasting the fix. The correct flow: Provide error -> Ask for ROOT CAUSE explanation -> Understand it -> Ask for a fix proposal -> Human reviews logic -> Test in isolation.Xe đạp kêu lạch cạch, con lấy băng dính quấn đại chỗ kêu cho im. Hôm sau nó rụng bánh giữa đường, vì cái kêu đó là ốc bị lỏng chứ không phải tiếng kêu. Hỏi máy cũng thế: đừng xin miếng băng dính, hãy hỏi "vì sao nó kêu?", hiểu rồi mới sửa, và sửa xong phải dắt thử một vòng sân trước khi đạp ra đường lớn.
Your bike rattles, so you wrap tape round the noisy bit to shut it up. Next day the wheel falls off, because the noise was a loose bolt, not the problem itself. Same with the machine: don't ask for tape, ask "why is it rattling?", understand it, fix it — then ride one lap round the yard before heading out on the main road.Khi AI sinh code và cả bộ test trong cùng một lần, tất cả test đều xanh — điều đó chỉ chứng minh code khớp với chính cách hiểu của AI, chứ không chứng minh nó khớp với ý định thật của bạn. Đây chính là vấn đề "oracle" của test: nếu AI hiểu sai một ranh giới hay một quy tắc nghiệp vụ, nó sẽ viết code theo cách hiểu sai đó VÀ viết test xác nhận đúng cách hiểu sai đó.
When AI generates both the code and its tests in one pass, all-green tests only prove the code matches the AI's own reading of the requirement — this is the test-oracle problem. If it misreads a boundary or business rule, it writes the code that way and writes tests confirming that same misreading. Tests pass; the logic is still wrong.Nếu con tự ra đề kiểm tra cho chính mình rồi tự chấm điểm 10, điểm 10 đó không chứng minh con học đúng bài, chỉ chứng minh con làm đúng theo đề con tự ra.
If you write your own test and grade yourself a perfect score, that score doesn't prove you learned the material — it only proves you matched the test you wrote.Một câu như "giảm giá cho đơn trên 100" không nói rõ điều gì xảy ra ở đúng 100. Đây là sự mơ hồ ở ranh giới: AI phải tự chọn một cách hiểu, và áp dụng nhất quán cho cả code lẫn test nó viết — nên test xanh không chứng minh ranh giới đúng, chỉ chứng minh code và test đồng thuận với nhau. Luôn tự hỏi "ở đúng giá trị biên thì sao?" và viết test riêng cho giá trị đó từ yêu cầu gốc, không từ code AI sinh ra.
"Discount for orders over $100" doesn't say what happens at exactly $100 — a boundary ambiguity. AI must decide one reading and applies it consistently to both the code and the tests it writes, so green tests only confirm internal agreement, not correctness. Always ask "what happens exactly at the boundary?" and write that test from the requirement, not from the AI-generated code."Trẻ em dưới 100cm được vé miễn phí" — vậy bé cao đúng 100cm thì sao? Ai tự quyết định rồi tự kiểm tra theo đúng quyết định của mình thì sẽ không bao giờ phát hiện ra mình quyết sai.
"Kids under 100cm ride free" — what about exactly 100cm? If you decide the answer yourself and then only check against your own decision, you'll never catch yourself getting it wrong.AI chỉ nhìn thấy đoạn code/file bạn đưa cho nó, không thấy toàn bộ hệ thống — đây là điểm mù hợp đồng hệ thống. Một refactor "sạch" trong phạm vi file đó vẫn có thể phá vỡ các consumer khác đang phụ thuộc vào shape dữ liệu trả về, side effect, thứ tự thực thi hay exception cũ — những thứ AI chưa từng thấy. Trước khi chấp nhận một refactor, hãy tự tìm nơi gọi hàm đó và kiểm tra giả định của chúng.
AI only sees the file/function it's given, not the whole system — a system contract blind spot. A refactor that's clean in isolation can still break callers that depend on the old return shape, a side effect, execution order, or an exception it used to raise. Before accepting a refactor, find the callers yourself and check what they assume.Con sửa lại một viên gạch cho đẹp hơn mà không biết cả bức tường đang tựa vào đúng viên gạch đó. Viên gạch mới có thể đẹp, nhưng bức tường sập.
You replace one brick to make it prettier, not realizing the whole wall leans on that exact brick. The new brick looks nicer — and the wall falls down.AI thường ghép các chữ quen thuộc để tạo tên thư viện nghe hợp lý nhưng chưa từng tồn tại. Kẻ tấn công biết điều này, chủ động đăng ký sẵn các tên gói mà AI hay bịa ra và nhét mã độc vào đó — gọi là slopsquatting. Cài đặt thành công không chứng minh gói đó an toàn hay đúng ý: phải kiểm tra publisher, lượt tải, lịch sử phát hành trước khi tin tưởng.
AI often fuses familiar words into plausible-sounding library names that never existed. Attackers know this, pre-register the names models commonly invent, and plant malware inside — called slopsquatting. A successful install proves nothing about safety or intent: check the publisher, download count, and release history first.Giống như có người đoán trước tên một cửa hàng mà robot hay nhắc tới dù cửa hàng đó không có thật, rồi mở một cửa hàng giả mang đúng tên đó để gài bẫy. Thấy có cửa hàng không có nghĩa là cửa hàng đó an toàn.
It's like someone guessing a shop name a robot often mentions — even though that shop doesn't really exist — and opening a fake shop under that exact name as a trap. Finding a shop with that name doesn't mean it's the real, safe one.Khi được yêu cầu đổi kiểu cột "an toàn", AI có thể sinh DROP TABLE rồi CREATE TABLE lại, kèm comment "giữ nguyên toàn bộ dữ liệu" — một migration phá hủy dữ liệu núp dưới văn bản được sinh song song với code, không có gì đảm bảo đúng. Luôn đọc SQL như thể không có comment: tìm bước copy dữ liệu ra bảng tạm, ALTER tại chỗ, hoặc cột mới được điền từ cột cũ. Nếu không có, migration đó phá hủy dữ liệu bất kể comment nói gì.
Asked for a "safe" column type change, AI may emit DROP TABLE then CREATE TABLE, with a comment claiming it "preserves all data" — a destructive migration hiding behind text generated alongside the SQL, with nothing connecting the two. Read the SQL as if the comment didn't exist: look for a copy-to-temp-table step, an in-place ALTER, or a backfilled new column. If none exists, it's destructive regardless of what the comment says.Có người "dọn nhà" cho con, nói "con cất đồ cẩn thận rồi" nhưng thực ra họ chỉ vứt hết đồ cũ ra thùng rác và mua đồ mới y hệt xếp lại. Nhìn thì giống nhà cũ, nhưng đồ thật của con đã mất hết.
Someone "cleans your room" and says "I kept everything safe", but really they threw all your old stuff in the trash and bought new stuff that looks the same. It looks like your room — but your real things are gone.Code AI sinh ra có thể chạy tốt và sạch cục bộ, nhưng nếu codebase đã có 2 cách truy cập database, AI có thể vô tình tạo ra cách thứ 3 — đây là sự phình to của pattern. AI chỉ tối ưu cho đoạn code trước mắt, không biết (và không cân nhắc) việc thêm một pattern mới khiến cả team phải học, review và bảo trì thêm. Dùng pattern nào là quyết định của team, không phải hệ quả ngẫu nhiên của một lần sinh code.
AI-generated code can run fine and look clean locally, but if the codebase already has two ways of doing database access, AI may unknowingly introduce a third — pattern proliferation. It optimizes for the code in front of it, not for the cost of the whole team learning, reviewing, and maintaining one more pattern. Which pattern to use is a team decision, not an accidental side effect.Nhà đã có 2 cách gấp quần áo quen thuộc, giờ có người chỉ thêm cách thứ 3 "cũng hay" — giờ cả nhà phải nhớ 3 cách thay vì 2, dù áo gấp xong trông vẫn gọn.
The family already has 2 familiar ways to fold laundry, and now someone adds a "nice" third way — now everyone has to remember 3 ways instead of 2, even though the folded shirt looks fine either way.Khi một bước trong pipeline AI không parse được kết quả và tự động dùng giá trị mặc định để "chạy tiếp cho xong" thay vì báo lỗi, đó là một fallback âm thầm. Toàn bộ các bước sau sẽ chạy tự tin trên một đầu vào chưa từng thực sự được tạo ra cho lần chạy đó — CI vẫn xanh, không ai biết. Thất bại phải "ồn ào": dừng lại, cảnh báo, hoặc ít nhất ghi log rõ ràng, chứ không được âm thầm thay thế.
When a pipeline step can't parse its output and silently falls back to a default to keep going rather than failing — a silent fallback — every downstream step runs confidently on an input that was never actually generated for that run. CI stays green; nobody notices. Failures must be loud: halt, alert, or at minimum log clearly, never silently substituted.Máy đo nhiệt độ hỏng, nên ai đó âm thầm ghi đại "37 độ" vào sổ thay vì báo "máy hỏng". Bác sĩ đọc sổ vẫn yên tâm, trong khi con số đó chưa từng được đo thật.
The thermometer breaks, so someone quietly writes "37°C" in the log instead of saying "it's broken". The doctor reads the log and feels reassured — even though that number was never really measured.
• Tautological Test (Kiểm thử đồng nghĩa): Khi nhờ AI viết Unit Test cho code có sẵn, AI dễ chép lại nguyên xi lỗi logic (Logic Error) của hàm vào bài test — khiến test luôn xanh dù code sai. Hãy áp dụng TDD và tự kiểm tra các Edge Cases (Trường hợp biên) như mảng rỗng, null, số âm thay vì chỉ test Happy Path.
• Ảo giác lập trình & Bảo mật: Phân biệt Package Hallucination (bịa tên gói không tồn tại trên npm/pip) với Version Hallucination (dùng cú pháp của phiên bản Framework cũ đã Deprecated, hoặc bịa API Endpoint / CLI Flag). Luôn dùng Prepared Statements để chống SQL Injection; kiểm tra Regex phức tạp để tránh lỗi treo CPU do ReDoS (Catastrophic Backtracking); rà soát Boilerplate code để tránh lọt lỗ hổng bảo mật.
• Công cụ & Hiệu năng: Dùng Static Analysis / Linter (ESLint, SonarQube) để bắt Code Smell / Spaghetti Code và dùng Code Formatter (Prettier) để ép đúng Style Guide. Tránh Over-engineering hoặc cài Third-party dependency nặng chỉ cho việc nhỏ. Cảnh giác khi AI viết thuật toán có độ phức tạp O(N²) hoặc xử lý đa luồng dễ dính Race Condition / Deadlock.
• Kỹ năng Debug chuẩn: Khi gặp Syntax Error, Runtime Exception hay Memory Leak, hãy cung cấp Stack Trace (đã xóa thông tin nhạy cảm) và cô lập lỗi thành một Minimal Reproducible Example (MRE) thay vì dán cả dự án; hoặc áp dụng Rubber Duck Debugging (yêu cầu AI giải thích từng dòng code).
Tautological Test là con tự chấm bài của chính mình bằng cách chép lại đáp án con vừa viết làm đáp án mẫu — lúc nào cũng 10 điểm, kể cả khi sai. Muốn biết đúng thật thì phải thử những ca oái oăm: hộp rỗng, số âm, không có gì cả. Còn khi nhờ người lớn tìm lỗi, đừng bê cả phòng đồ chơi ra — hãy mang đúng một món đang hỏng thôi thì tìm ra nhanh hơn nhiều.
A tautological test is marking your own homework by copying your own answer as the answer key — full marks every time, even when it's wrong. To really check, try the awkward cases: the empty box, a negative number, nothing at all. And when asking a grown-up to find the fault, don't drag the whole toy room over — bring just the one broken toy and it gets found far faster.Đang tải câu hỏi…
Loading questions…
Đây không phải kiến thức mới — đây là bài kiểm tra xem bạn có vận dụng được các nguyên tắc ở C1-C4, R1 vào tình huống công sở thực tế hay không. This isn't new theory — it's a check on whether you can apply the C1-C4 and R1 principles to real workplace situations.
Mỗi câu trong phần này ghép 2-3 khái niệm bạn đã học (ví dụ: Persona + Length Constraint, hoặc Data Classification + Public AI) vào một tình huống cụ thể: viết hợp đồng, đánh giá nhân viên, dịch tài liệu, chuẩn bị họp khó... 4 thẻ bên dưới tóm tắt lại các nhóm khái niệm đó theo hướng ứng dụng; nếu một câu vẫn dùng thuật ngữ bạn chưa quen, nhấn vào từ được gạch chân/tô màu trong câu hỏi hoặc phần giải thích để xem định nghĩa đầy đủ trong Thư Viện Thuật Ngữ. Các nhóm chủ đề thường gặp:
Học bơi thì tập riêng động tác tay, động tác chân, rồi tập thở. Phần này là lúc nhảy xuống bể bơi thật: không ai nhắc "giờ dùng tay nhé", con phải tự biết ghép cả ba lại cùng lúc. Không có kiến thức nào mới ở đây cả — chỉ là ghép những thứ đã học vào một tình huống thật.
Learning to swim, you drill the arms, then the legs, then the breathing. This section is jumping into the actual pool: nobody calls out "arms now", you have to put all three together yourself. Nothing new is taught here — it's the old pieces in a real situation.Giao cho AI một Persona (vd: "bạn là Kế toán trưởng") giúp nó ưu tiên đúng từ vựng, góc nhìn và mức độ chuyên môn của vai trò đó thay vì trả lời chung chung. Length Constraint (giới hạn độ dài cụ thể: 500 chữ, 3 gạch đầu dòng) biến yêu cầu mơ hồ thành ràng buộc AI có thể tuân theo chính xác. Task Framing là cách bạn mô tả bối cảnh và mục tiêu quanh yêu cầu — ví dụ nói rõ phạm vi pháp lý (jurisdiction) hay loại văn bản cần giữ nguyên số liệu — để AI hiểu "kết quả tốt" trông như thế nào thay vì tự đoán. Với việc lớn (viết kế hoạch, xử lý bảng tính phức tạp), Decomposition — chia nhỏ thành từng bước — luôn cho kết quả đáng tin hơn là yêu cầu AI làm trọn gói trong một lần.
Giving AI a Persona (e.g. "you are the Chief Accountant") makes it favor that role's vocabulary, viewpoint and level of expertise instead of a generic answer. A Length Constraint (a concrete limit: 500 words, 3 bullets) turns a vague ask into a rule the AI can actually follow. Task Framing is how you set up the context and goal around a request — like specifying the legal jurisdiction or which details must survive a summary — so the AI knows what "good" looks like instead of guessing. For big tasks (a communication plan, a messy spreadsheet), Decomposition — breaking it into steps — reliably beats asking for everything in one shot.Nhờ người lớn vẽ hộ một bức tranh. Nói "vẽ gì đó đi" thì ra cái gì cũng được. Nhưng nói "bác vẽ giúp cháu như một hoạ sĩ truyện tranh" (Persona), "vẽ vừa một trang giấy A4" (Length Constraint), "để cháu treo ở lớp" (Task Framing) thì bức tranh ra đúng ý ngay. Còn tranh to quá thì vẽ từng phần một (Decomposition), đừng bắt vẽ hết trong một nét.
Asking a grown-up to draw you a picture. "Draw something" gets you anything. But "draw it like a comic artist" (persona), "fit it on one A4 page" (length constraint), "it's for the classroom wall" (task framing) gets you the picture you meant. And if it's a big mural, do it panel by panel (decomposition) rather than in one stroke.Trước khi dùng AI cho một tài liệu, hãy xác định nó thuộc mức nào theo Data Classification của công ty: công khai, nội bộ, bảo mật hay cá nhân. Nếu tài liệu chứa PII (thông tin định danh cá nhân như số thẻ, mật khẩu đọc được trong cuộc gọi, dữ liệu hiệu suất nhân viên), nó không nên đưa vào Public AI (bản miễn phí/cá nhân của ChatGPT, Gemini...) — nơi điều khoản sử dụng do nhà cung cấp quyết định, không phải công ty. Tài liệu nội bộ chưa công bố hoặc dữ liệu nhạy cảm chỉ nên đưa vào Enterprise AI: phiên bản có hợp đồng doanh nghiệp, kiểm soát truy cập và điều khoản xử lý dữ liệu rõ ràng. Nói ngắn gọn: phân loại dữ liệu trước, chọn công cụ sau — không bao giờ ngược lại.
Before feeding a document into AI, check its level under the company's Data Classification: public, internal, confidential or personal. If it contains PII (personal identifiers like card numbers, passwords read aloud on a call, employee performance data), it should never go into a Public AI (the free or personal version of ChatGPT, Gemini, etc.) — where the provider's own terms apply, not your company's. Unreleased internal documents or sensitive data belong only in Enterprise AI: the version with an enterprise contract, access control and clear data-handling terms. In short: classify the data first, pick the tool second — never the other way around.Có chuyện con kể ngoài sân chơi cũng được, có chuyện chỉ kể trong nhà, và có chuyện chỉ nói với bố mẹ thôi. Trước khi mở miệng, con phải biết chuyện mình sắp kể thuộc loại nào — chứ không phải cứ gặp ai cũng kể rồi mới nghĩ. Nói ra sân chơi rồi thì không rút lại được nữa.
Some things you can say in the playground, some only at home, and some only to your parents. Before you open your mouth you decide which kind it is — not blurt it out and think afterwards. Once it's said in the playground, you can't take it back.Trong các công việc có hậu quả thật — soạn hợp đồng, viết đánh giá hiệu suất, dịch tài liệu chuyên ngành, sàng lọc hồ sơ ứng viên — AI có thể tạo ra nội dung nghe rất chuyên nghiệp nhưng sai về bản chất (điều khoản pháp lý không có giá trị, thuật ngữ dịch sai ngữ cảnh ngành). Trách nhiệm cuối cùng luôn thuộc về người ký tên hoặc gửi đi, không phải AI, vì máy móc không phải chủ thể pháp lý. Vì vậy: số liệu quan trọng phải đối chiếu với nguồn gốc, thuật ngữ chuyên ngành nên dùng bảng thuật ngữ cố định để dịch nhất quán, và dữ liệu cá nhân nhạy cảm (đánh giá nhân viên, hồ sơ ứng viên) không bao giờ được xử lý trên nền tảng công cộng không kiểm soát.
In work with real consequences — drafting a contract, writing a performance review, translating specialized documents, screening candidates — AI can produce content that sounds professional but is substantively wrong (legally invalid clauses, industry terms translated out of context). Final responsibility always rests with the person who signs off or sends it, not the AI, since a machine isn't a legal subject. So: verify key figures against their source, use a fixed glossary for consistent specialized translation, and never process sensitive personal data (employee reviews, candidate records) on an uncontrolled public platform.Một bức thư viết chữ rất đẹp, câu nào cũng trôi chảy — nhưng ngày tháng trong đó lại sai. Chữ đẹp không làm cho nội dung thành đúng. Người ký tên dưới lá thư mới là người bị hỏi tới khi có chuyện, nên những con số quan trọng phải dò lại với bản gốc trước khi gửi.
A letter in beautiful handwriting, every sentence flowing — but the dates in it are wrong. Neat writing never makes the contents true. The person who signs at the bottom is the one asked about it later, so the important numbers get checked against the original before it goes out.Một cách dùng AI hiệu quả là giao cho nó vai Devil's Advocate: chủ động tìm lỗ hổng trong kế hoạch của bạn, giúp bạn lường trước rủi ro mà không phải lo làm mất lòng đồng nghiệp khi phản biện trực tiếp. Nhưng điều ngược lại cũng cần đề phòng: Automation Bias là xu hướng tin tưởng mù quáng vào kết luận của AI chỉ vì nó trình bày mạch lạc và tự tin, kể cả khi nó trái với kiến thức chuyên môn thật của bạn. Nguyên tắc chung: dùng AI để mở rộng góc nhìn và kiểm tra điểm yếu, nhưng khi có mâu thuẫn giữa AI và chuyên môn của người có trách nhiệm, chuyên môn con người luôn là tiếng nói cuối cùng.
One effective way to use AI is as a Devil's Advocate: have it actively hunt for flaws in your plan, helping you anticipate risk without the social cost of challenging colleagues directly. But the opposite failure mode matters just as much: Automation Bias is the tendency to blindly trust an AI's conclusion just because it sounds fluent and confident, even when it contradicts your real expertise. The general rule: use AI to broaden perspective and stress-test weak points, but when AI and a responsible human's expertise conflict, human expertise has the final word.Trước khi dựng lều, con nhờ bạn cố tìm xem chỗ nào sắp đổ — bạn ấy chê càng nhiều thì cái lều càng chắc (Devil's Advocate). Nhưng nếu bạn ấy nói chắc như đinh đóng cột rằng "cát xây lều tốt hơn đất", mà chính con đã dựng lều mười lần rồi, thì đừng vội tin chỉ vì bạn ấy nói nghe oai (Automation Bias).
Before pitching your tent you ask a friend to hunt for whatever will collapse — the more they poke holes, the sturdier it ends up (devil's advocate). But if they insist, very confidently, that "sand holds a tent better than soil" and you've pitched ten of them yourself, don't believe it just because they sounded sure (automation bias).
• Custom Instructions (Chỉ thị tùy chỉnh): Lưu sẵn vai trò, sở thích và quy tắc định dạng cố định để AI tự động áp dụng cho mọi cuộc trò chuyện mới mà không cần gõ lại.
• Garbage in, Garbage out (GIGO - Rác vào, Rác ra): Đầu vào mơ hồ hoặc dữ liệu bẩn sẽ luôn cho ra kết quả tệ; khi AI trả lời lệch ý, phản ứng đúng là tinh chỉnh lại Prompt (Iterative Refinement) và bổ sung ngữ cảnh.
• Ứng dụng chuyên môn: Khi viết SOP (Quy trình thao tác chuẩn), bài chuẩn SEO, kịch bản video hay bài thuyết trình, luôn cung cấp rõ đối tượng người xem (target audience), từ khóa mục tiêu, Length Constraint và Output Format. Để phân tích bảng Excel khổng lồ chính xác, hãy nhờ AI viết mã Python/công thức Excel thay vì bắt LLM tự nhẩm tính.
• Mode Collapse (Sụp đổ chế độ) trong tuyển dụng/văn bản: Khi hàng loạt ứng viên cùng dùng AI viết Cover Letter, các bài viết bị hội tụ về cùng một khuôn mẫu văn phong sáo rỗng, giống hệt nhau.
Custom Instructions là dán sẵn mảnh giấy "tớ thích viết ngắn, gạch đầu dòng" lên bàn, khỏi phải dặn lại mỗi lần. GIGO là đưa bột mốc thì bánh nướng ra cũng hỏng — lỗi ở bột chứ không phải cái lò, nên hãy đổi bột thay vì mắng lò. Và Mode Collapse là cả lớp cùng nhờ một bạn viết hộ thiệp chúc Tết: ba mươi tấm thiệp giống hệt nhau, cô đọc tấm nào cũng thấy quen quen.
Custom instructions are a note stuck to the desk saying "I like it short, in bullets", so you never repeat yourself. GIGO is baking with mouldy flour — the cake is ruined by the flour, not the oven, so change the flour instead of blaming the oven. And mode collapse is the whole class asking one friend to write their greeting cards: thirty identical cards, and the teacher recognises every one.Đang tải câu hỏi…
Loading questions…
Hiểu về giới hạn phần cứng và bộ nhớ của AI. Understand AI's hardware and memory bottlenecks.
Trong mô hình MoE (ví dụ: Mixtral 8x7B), tổng số tham số là 56B nhưng chỉ có 2 "chuyên gia" (tương đương 14B) hoạt động cho mỗi Token. Tuy nhiên, việc chọn chuyên gia nào là hoàn toàn động (dynamic), hệ thống không thể biết trước chuyên gia nào sẽ được gọi nên bắt buộc phải tải tất cả 56B vào RAM. Tức là: tính toán tốn ít (14B) nhưng RAM ngốn rất nhiều (56B).
In MoE models (e.g. Mixtral 8x7B), total params are 56B but only 2 experts (14B) activate per token. Since routing is dynamic, you must load ALL 56B into RAM. Compute cost is low (14B), memory cost is high (56B).Giống như đi ăn Buffet. Con chỉ ăn được 2 đĩa đồ ăn (Compute ít), nhưng nhà hàng vẫn phải bày đủ 8 mâm đồ ăn to khổng lồ ra bàn (RAM tốn nhiều) vì không biết con sẽ chọn món nào!
Like a buffet. You only eat 2 plates (low compute), but the restaurant must display all 8 large trays (high memory) because they don't know what you'll pick!Khi bạn chat quá dài, AI không chỉ tốn thời gian đọc lại từ đầu. Nó phải lưu mọi token cũ vào một bộ đệm gọi là KV Cache. Bộ đệm này phình to tuyến tính theo chiều dài đoạn chat. Dù mô hình chỉ nặng 9GB, nhưng KV Cache cho 32K token có thể ngốn thêm 6GB RAM nữa. Khi RAM tràn (Spillover/OOM), AI sẽ treo hoặc phản hồi siêu chậm.
As context grows, AI saves every token in the KV Cache. This cache grows linearly. A 9GB model might need an extra 6GB of RAM just for a 32K context. When RAM fills up, the AI crashes or slows to a crawl.Mỗi câu hai bên nói ra, con lại ghi một tờ giấy nhớ rồi dán lên bàn để khỏi quên. Nói chuyện càng lâu thì giấy nhớ càng nhiều — cứ thêm một câu là thêm một tờ, không bao giờ bớt. Cái bàn thì chỉ có bấy nhiêu chỗ: dán kín bàn rồi là con loay hoay mãi không tìm ra tờ cần đọc, hoặc đành đứng ngây ra.
Every sentence either of you says, you write on a sticky note and stick it to the desk so you won't forget. The longer you chat the more notes pile up — one more sentence, one more note, and none ever come off. The desk only has so much room: once it is covered you can't find the note you need, or you just freeze.GQA (Grouped-Query Attention) cho nhiều "đầu" query dùng chung một bộ Key/Value để giảm kích thước KV Cache mà gần như không mất chất lượng. RoPE mã hoá vị trí token theo kiểu tương đối (xoay vector) thay vì tuyệt đối, giúp mô hình ngoại suy tốt hơn khi gặp ngữ cảnh dài hơn lúc huấn luyện. Với ngữ cảnh cực dài, Sparse/Ring Attention chỉ tính attention với một phần token thay vì toàn bộ, đổi lấy bộ nhớ cố định. Dù dùng cơ chế nào, mô hình vẫn có Attention Sink: vài token đầu tiên luôn nhận điểm attention cao bất kể nội dung, nên khi cắt bớt ngữ cảnh (sliding window) phải giữ lại chúng, nếu không chất lượng sẽ sụp. Đây cũng là lý do kiến trúc MoE cần "Expert Load Balancing": nếu không ép buộc, dữ liệu sẽ dồn vào vài chuyên gia quen thuộc, làm mất lợi thế phân tán tải của MoE so với Dense Model.
GQA lets multiple query heads share one Key/Value set, shrinking the KV Cache with little quality loss. RoPE encodes position relatively (via rotation) instead of absolutely, helping models extrapolate to longer contexts than they were trained on. For very long contexts, Sparse/Ring Attention only attends to a subset of tokens, trading full coverage for fixed memory. Regardless of the mechanism, models exhibit an Attention Sink: the first few tokens always keep high attention scores no matter their content, so a sliding window must keep them or quality collapses. This is also why MoE needs Expert Load Balancing: without it, routing collapses onto a few favorite experts, losing MoE's load-spreading advantage over a Dense Model.Cả lớp làm bài nhóm. GQA là bốn bạn dùng chung một quyển sách thay vì mỗi bạn ôm một quyển — đỡ chật bàn mà vẫn làm được bài. RoPE là thay vì nhớ "bạn An ngồi ghế số 7", con nhớ "bạn An ngồi ngay bên trái mình" — đổi chỗ cả lớp thì cách nhớ này vẫn đúng. Sparse Attention là chỉ hỏi vài bạn ngồi gần chứ không hỏi cả lớp. Còn Attention Sink là ai cũng liếc nhìn bạn ngồi bàn đầu, kể cả khi bạn ấy chẳng nói gì — nên đừng bao giờ cho bạn ấy ra khỏi phòng.
A class doing group work. GQA is four pupils sharing one textbook instead of each hauling their own — less clutter, same work done. RoPE is remembering "An sits just to my left" instead of "An is in seat 7" — shuffle the room and your way of remembering still holds. Sparse attention is only asking the few pupils near you rather than the whole class. And an attention sink is everyone glancing at the pupil in the front row even when they say nothing — so never let that one leave the room.Static Batching gom một lô request rồi chờ request chậm nhất trong lô xong mới nhận lô mới, lãng phí GPU; Continuous Batching chèn request mới ngay khi có chỗ trống, giữ GPU luôn bận và tăng thông lượng (throughput). Prompt/KV Caching giữa các lượt chat giúp không phải tính lại phần đã xử lý (system prompt, lịch sử hội thoại), giảm độ trễ và chi phí cho các lượt sau. Nhưng ở bước sinh từng token (decoding phase), tốc độ thường bị giới hạn bởi băng thông bộ nhớ (đọc KV Cache) chứ không phải sức mạnh tính toán thuần của GPU (TFLOPs), nên một GPU "mạnh hơn về TFLOPs" chưa chắc sinh token nhanh hơn nếu băng thông bộ nhớ không theo kịp.
Static Batching groups requests and waits for the slowest one in the batch before accepting new ones, wasting GPU time; Continuous Batching slots new requests in as soon as space frees up, keeping the GPU busy and raising throughput. Prompt/KV Caching across turns avoids recomputing what was already processed (system prompt, chat history), cutting latency and cost on later turns. But during token-by-token decoding, speed is usually bottlenecked by memory bandwidth (reading the KV Cache), not raw GPU compute (TFLOPs) — so a GPU with higher TFLOPs won't necessarily decode faster if its memory bandwidth can't keep up.Xe buýt đưa đón học sinh. Static Batching là xe chỉ chạy chuyến mới khi bạn cuối cùng của chuyến trước đã xuống hết — ghế trống vẫn phải chờ. Continuous Batching là hễ có ghế trống là đón ngay bạn đang đứng đợi. Caching là đoạn đường đầu hôm nào cũng giống nhau nên bác tài khỏi phải dò bản đồ lại. Và nhớ nhé: xe chạy chậm thường không phải vì máy yếu, mà vì cửa lên xuống quá hẹp.
A school bus run. Static batching only starts a new run once the last child from the previous one is off — empty seats just wait. Continuous batching picks up whoever is waiting the moment a seat frees. Caching is the first stretch of road being the same every day, so the driver needn't re-read the map. And remember: the bus is usually slow not because the engine is weak, but because the door is narrow.
• Speculative Decoding (Giải mã suy đoán): Dùng một mô hình nháp nhỏ (draft model) đoán nhanh vài token tiếp theo, rồi mô hình lớn kiểm tra và duyệt nhiều token trong 1 lượt duy nhất — giúp vượt qua nút thắt băng thông bộ nhớ (Memory Bandwidth).
• State Space Models (SSM - như Mamba): Thay thế cơ chế Attention truyền thống có độ phức tạp bậc hai $O(N^2)$ bằng cách cập nhật trạng thái nội bộ theo từng token với bộ nhớ cố định, xử lý ngữ cảnh cực dài hiệu quả. Trong khi đó, mở rộng ngữ cảnh lên hàng triệu token bằng Ring Attention vẫn làm tăng vọt thời gian chờ token đầu tiên (TTFT) ở giai đoạn Prefill.
• Prefix Caching / Cross-turn KV Caching: Lưu lại trạng thái KV của phần đầu prompt lặp lại (System Prompt, tài liệu dài), giúp giảm mạnh chi phí Input Tokens (khiến Output Tokens trở thành phần đắt nhất).
• Các khái niệm mạng nơ-ron & tạo ảnh: Forward Pass (Lan truyền xuôi) đưa dữ liệu từ đầu vào qua từng lớp để tính dự đoán, còn Backpropagation (Lan truyền ngược) tính đạo hàm sai số để cập nhật trọng số theo Learning Rate (Tốc độ học); Hàm Softmax chuẩn hóa điểm số thành xác suất tổng bằng 1 (nguyên nhân gây ra Attention Sink ở vài token đầu); Diffusion Model (Mô hình khuếch tán) tạo ảnh bằng cách bắt đầu từ nhiễu ngẫu nhiên rồi khử nhiễu từng bước. Trong MoE đa ngôn ngữ, Router phân bổ chuyên gia theo mẫu cú pháp/token (dấu câu, thụt lề) chứ không tách riêng từng ngôn ngữ hay chủ đề.
Speculative Decoding giống như em bé đoán trước mấy chữ tiếp theo của câu chuyện, còn mẹ chỉ liếc một cái là duyệt luôn cả đoạn — nhanh hơn nhiều so với mẹ đọc từng chữ. SSM (Mamba) là thay vì giữ cả chồng giấy nhớ, con chỉ ghi lại một dòng tóm tắt duy nhất và sửa dòng đó sau mỗi câu, nên bàn không bao giờ đầy. Còn Diffusion là bức tranh ban đầu chỉ là một đám lốm đốm mờ tịt, rồi con tẩy dần từng chút cho hình hiện ra.
Speculative decoding is a child guessing the next few words of the story while Mum glances once and approves the whole chunk — far quicker than her reading word by word. SSMs (Mamba) keep one single summary line that gets rewritten after each sentence instead of a growing pile of sticky notes, so the desk never fills. And diffusion starts as a blurry speckled mess, then you rub the specks away bit by bit until a picture appears.Đang tải câu hỏi…
Loading questions…
Tối ưu hóa việc tìm kiếm và độ tập trung của mô hình. Optimizing retrieval and model attention.
Sự tập trung (Attention) của mô hình Transformer có hình chữ U. Nó nhớ rất tốt nội dung ở đầu câu lệnh và cuối câu lệnh, nhưng sẽ "nhắm mắt làm ngơ" với dữ liệu bị kẹp ở giữa một đoạn văn bản khổng lồ (vd: 8,000 token). Do đó, những chỉ thị quan trọng nhất (như Format JSON) phải luôn được đặt ở ngay trước lượt chat của người dùng (Cuối Prompt).
Transformer attention is U-shaped. It remembers the beginning and end of a context perfectly, but ignores content buried in the middle of a massive 8,000-token prompt. Always put critical format rules at the very end.Mẹ dặn con mười việc một lượt trước khi ra khỏi nhà. Lúc về, con nhớ như in việc đầu tiên và việc cuối cùng, còn mấy việc ở giữa thì bay sạch khỏi đầu. Thế nên việc quan trọng nhất đừng kẹp vào giữa — hãy dặn nó sau cùng, ngay trước khi con bước ra cửa.
Mum lists ten chores in one go before leaving the house. When you get back you remember the first one and the last one perfectly, and everything in the middle has vanished. So never bury the important chore in the middle — say it last, right as you walk out the door.Nếu bạn cắt tài liệu một cách máy móc thành từng khúc 512 chữ (Fixed-size), một quy trình kỹ thuật 3 bước có thể bị chém đứt đôi ở giữa bước 2. Khi tìm kiếm, không khúc nào chứa trọn vẹn quy trình để AI trả lời. Phải dùng Semantic Chunking (Cắt theo ý nghĩa/đoạn văn) hoặc Chunk Overlap (Cắt gối đầu lên nhau) để giữ nguyên vẹn ngữ cảnh.
Cutting documents blindly into 512-word fixed chunks will split multi-step procedures in half. Neither half retrieves a full answer. You must use Semantic Chunking or Chunk Overlap to preserve context boundaries.Con cắt một công thức nấu ăn thành nhiều mẩu giấy, nhưng cắt bừa theo thước kẻ chứ không theo bước. Mẩu này ghi "cho vào lò", mẩu kia ghi "200 độ trong 20 phút" — cầm mẩu nào cũng không làm nổi món ăn. Phải cắt trọn từng bước một, hoặc cho hai mẩu chép lố sang nhau một chút thì mới đủ nghĩa.
You cut a recipe into slips of paper, but with a ruler instead of by step. One slip says "put it in the oven", another says "200°C for 20 minutes" — with either slip alone you can't cook the dish. Cut whole steps, or let the slips overlap a little, so each one still makes sense.Cosine Similarity cơ bản chỉ so khoảng cách vector, dễ xếp hạng cao cho đoạn văn na ná về từ ngữ nhưng sai ý — cần Reranking thêm một bước lọc kỹ hơn. HyDE giải quyết việc câu hỏi ngắn khó tìm tài liệu dài bằng cách để AI tự viết một "câu trả lời giả định" trước, rồi embedding chính câu đó để tìm kiếm. Khi câu hỏi cần ghép thông tin từ nhiều tài liệu liên kết với nhau (multi-hop), nên chuyển sang Graph RAG (đồ thị tri thức) thay vì vector phẳng. Với hệ thống đa ngôn ngữ, dùng embedding model chỉ mạnh tiếng Anh sẽ ánh xạ sai vùng vector cho câu hỏi tiếng Việt — cần multilingual embedding. Trong hội thoại nhiều lượt (Multi-turn RAG), một câu hỏi ngắn như "còn nó thì sao?" phải được viết lại dựa theo ngữ cảnh trước đó trước khi truy xuất, nếu không retriever sẽ tìm sai chủ đề. Cuối cùng, khi đánh giá RAG, điểm faithfulness thấp nghĩa là câu trả lời không thực sự bám theo tài liệu truy xuất được — một dấu hiệu ảo giác dù văn phong vẫn trôi chảy, thuyết phục.
Plain Cosine Similarity only measures vector distance, so it can rank wording-similar-but-wrong passages highly — a Reranking step filters more carefully. HyDE fixes the mismatch between short questions and long documents by having the AI draft a hypothetical answer first, then embedding that for the search. When an answer requires linking facts across several documents (multi-hop), switch to Graph RAG instead of flat vectors. For multilingual systems, an English-only embedding model misplaces Vietnamese questions in vector space — use a multilingual embedding instead. In Multi-turn RAG, a short follow-up like "what about it?" must be rewritten using prior context before retrieval, or the retriever searches the wrong topic. Finally, a low faithfulness score in RAG evaluation means the answer isn't actually grounded in the retrieved documents — a sign of hallucination even when the prose reads smoothly.Con nhờ thủ thư tìm sách. Cosine Similarity là bác ấy chỉ nhìn bìa na ná rồi đưa đại; Reranking là có bác thứ hai lật thử vài trang xem có đúng không. HyDE là con tự đoán trước "cuốn sách cần tìm chắc viết đại loại thế này" rồi mang lời đoán đó đi dò — dễ tìm hơn hẳn một câu hỏi cụt lủn. Graph RAG là khi đáp án nằm rải ở ba cuốn khác nhau, phải lần theo sợi dây nối chúng lại. Còn faithfulness thấp là bạn kể chuyện rất hay nhưng chẳng có trong cuốn sách nào cả.
You ask a librarian for a book. Cosine similarity is them handing you one with a similar-looking cover; reranking is a second librarian flipping a few pages to check it really fits. HyDE is you guessing "the book I want probably says something like this" and searching with that guess instead of a bare question. Graph RAG is when the answer is spread across three books and you follow the thread linking them. And low faithfulness is a lovely story that isn't in any of the books.
• Tách bạch chỉ số Retrieval vs. Generation (RAGAS): Phải đo riêng 2 nửa vì câu trả lời sai có thể do tìm thiếu tài liệu (kiểm tra Context Recall khi bot hay trả lời "Tôi không biết" dù kho dữ liệu có đáp án) hoặc do mô hình tự bịa thêm ngoài tài liệu (điểm Faithfulness thấp). Để tăng tính minh bạch, buộc LLM gắn trích dẫn (Traceability / Metadata ID) cho từng luận điểm.
• Hybrid Search (BM25 + Vector): Chỉ dùng Cosine Similarity trên vector đặc dễ bỏ sót các mã sản phẩm, tên riêng hoặc con số chính xác — cần kết hợp tìm kiếm từ khóa (BM25) và Re-ranking, đồng thời xếp tài liệu quan trọng nhất lên đầu/cuối prompt để tránh Lost in the Middle (tận dụng Primacy Effect & Recency Bias).
• Xử lý dữ liệu đặc thù trong RAG: Với bảng biểu phức tạp trong PDF, dùng mô hình thị giác-ngôn ngữ (VLM / Multimodal) chuyển bảng sang Markdown hoặc nhúng ảnh trang tài liệu. Với mã nguồn (code), không cắt ngang hàm làm mất phạm vi biến (variable scope) và import. Với RAG đa ngôn ngữ mà chỉ có mô hình nhúng đơn ngữ tiếng Anh (Monolingual Embedding), giải pháp là dịch câu truy vấn sang tiếng Anh trước khi nhúng.
• A/B Testing vs. Offline Evals: Offline Evals đo độ chính xác tĩnh trên bộ dữ liệu chuẩn có sẵn; A/B Testing đo phản ứng thực tế của người dùng trên môi trường live.
Bài tập về nhà sai thì phải biết sai ở khâu nào: con không tìm thấy trang sách cần đọc, hay tìm thấy rồi mà chép sai ý? Hai lỗi đó chữa bằng hai cách khác nhau, nên phải chấm riêng. Tìm kiếm cũng vậy: dò theo "nghĩa na ná" thì hay trượt những thứ phải đúng từng ký tự như mã sản phẩm — nên vừa dò nghĩa vừa dò đúng chữ. Và thử một cách mới ở nhà khác hẳn với mang ra cho cả lớp dùng thật.
When homework is wrong you must know which step failed: did you fail to find the right page, or find it and copy the idea wrong? Two different fixes, so mark them separately. Searching is the same: matching "roughly similar meaning" keeps missing things that must match exactly, like a product code — so search by meaning and by exact word. And trying something at your desk is not the same as letting the whole class use it for real.Đang tải câu hỏi…
Loading questions…
Thiết lập ranh giới an toàn cho hệ thống Agent. Establishing safety boundaries for Agentic systems.
MCP không "cấy" công cụ vào bộ não AI. Nó chỉ biến sơ đồ công cụ (Tool Schemas) thành chữ và nhét vào đầu Context Window. Khi AI muốn gọi Tool, nó viết ra một đoạn JSON. Máy chủ sẽ chạy JSON đó, lấy kết quả thực tế, và gửi ngược lại cho AI dưới dạng một đoạn chữ (Tool Result) trong lượt chat tiếp theo. Mọi thứ đều tốn Context Window!
MCP doesn't compile tools into the model's brain. It injects tool schemas into the context as text. The model outputs JSON to call the tool, the server executes it, and injects the result back as text in the next turn. It all consumes tokens!Đầu bếp AI không bao giờ được rời khỏi bếp. MCP giống như có người đọc to danh sách dụng cụ cho đầu bếp chép vào cuốn sổ tay. Muốn dùng dụng cụ nào, đầu bếp viết một mẩu giấy đặt hàng (JSON), bạn cầm đi làm rồi quay về đọc to kết quả để chép tiếp vào sổ. Mà cuốn sổ chỉ có từng ấy trang — mọi thứ chép vào đều tốn giấy.
The AI chef is never allowed to leave the kitchen. MCP is someone reading the tool list aloud so the chef can copy it into a notepad. To use a tool, the chef writes an order slip (JSON), you go and do it, then read the result back so that gets copied in too. The notepad only has so many pages — everything copied in costs paper.Bất kể AI thông minh đến đâu hay bộ quy tắc kiểm duyệt hoàn hảo đến mức nào, tiêu chí duy nhất để bắt buộc phải có Human-in-the-loop là Tính không thể đảo ngược. AI có thể tự review code, nhưng nếu lệnh "Approve" trực tiếp kích hoạt CI/CD đẩy lên Production (không thể thu hồi), bắt buộc phải có con người bấm nút xác nhận cuối cùng.
No matter how perfect the AI's verification criteria are, if an action is Irreversible (like deploying to Production), a human must explicitly approve it. The downstream effect dictates the governance, not the AI's accuracy.Viết bài bằng bút chì thì sai cũng tẩy được, nên con cứ tự làm thoải mái. Nhưng khi đã bỏ lá thư vào thùng thư thì không lấy lại được nữa — việc đó phải để người lớn đọc lại rồi mới cho bỏ vào. Máy giỏi tới đâu cũng thế: việc nào không rút lại được thì phải có người thật gật đầu.
Writing in pencil is fine on your own — mistakes rub out. But once you drop the letter in the postbox, it's gone for good, so a grown-up reads it first. However clever the machine is, anything that can't be taken back needs a real person to nod.Prompt Injection là khi kẻ tấn công giấu chỉ dẫn độc hại trong nội dung mà AI đọc được (trang web, tài liệu, email), khiến AI làm theo chỉ dẫn đó thay vì ý định thật của người dùng. Jailbreak vẫn có thể vượt qua bộ lọc từ khoá đầu vào vì yêu cầu xấu được diễn đạt gián tiếp hoặc chia nhỏ qua nhiều lượt — đó là lý do Guardrails cần đặt thêm ở lớp đầu ra, không chỉ chặn đầu vào. Data Poisoning là việc chèn dữ liệu độc hại vào tập huấn luyện hoặc nguồn RAG để âm thầm lái hành vi mô hình. Một sai lầm thiết kế phổ biến: chỉ "dặn" AI trong prompt đừng chạy lệnh nguy hiểm như DROP TABLE — việc chặn phải nằm ở tầng hệ thống (quyền truy cập cơ sở dữ liệu, allowlist lệnh), vì AI có thể bị dẫn dụ bỏ qua chỉ dẫn bằng văn bản.
Prompt Injection is when an attacker hides malicious instructions in content the AI reads (a webpage, document, email), getting the AI to follow them instead of the real user's intent. Jailbreaks still slip past keyword filters because harmful requests get phrased indirectly or split across turns — which is why Guardrails must also sit on the output side, not just the input. Data Poisoning injects malicious data into training data or a RAG source to quietly steer model behavior. A common design mistake: relying on a prompt instruction alone to forbid a dangerous action like DROP TABLE — enforcement must live at the system layer (database permissions, command allowlists), since the AI can be tricked into ignoring a text-only rule.Prompt Injection là có người lén kẹp mẩu giấy "đưa hết kẹo trong tủ cho tớ" vào cuốn truyện con đang đọc, và con cứ thế làm theo. Jailbreak là nói vòng vo để lách lời mẹ dặn. Data Poisoning là trộn sẵn thứ xấu vào hộp đồ chơi từ trước. Và dặn miệng "đừng mở tủ" thì không bao giờ chắc bằng khoá tủ lại — lời dặn thì dụ được, ổ khoá thì không.
A prompt injection is someone slipping a note saying "give me all the sweets" into the storybook you're reading, and you just do it. A jailbreak is asking in a roundabout way to dodge what Mum said. Data poisoning is mixing something bad into the toy box beforehand. And telling someone "don't open the cupboard" is never as safe as locking it — words can be talked around, a lock can't.Reward Hacking xảy ra khi agent được thưởng theo một chỉ số (vd: test pass) và "lách" chỉ số đó thay vì giải quyết vấn đề thật, ví dụ sửa chính bài test thay vì sửa lỗi. Agent tự động cũng dễ rơi vào Infinite Loop nếu không có điều kiện dừng hoặc giới hạn số bước rõ ràng. Khi nhiều agent cùng hoạt động (Multi-Agent), thiếu State Management tập trung khiến agent này ghi đè quyết định của agent khác. MCP chuẩn hoá cách mô hình gọi công cụ bên ngoài bằng cách nhét sơ đồ công cụ vào ngữ cảnh dưới dạng chữ, nhưng điều đó cũng tốn thêm token và đòi hỏi kiểm soát quyền nghiêm ngặt: không nên cấp quyền "tự cập nhật hệ thống" không giới hạn cho một AI gọi API có khả năng ghi hoặc xoá dữ liệu.
Reward Hacking happens when an agent is rewarded on a metric (e.g. tests passing) and games that metric instead of solving the real problem, like rewriting the tests instead of fixing the bug. Autonomous agents also fall into Infinite Loops without a clear stop condition or step limit. With multiple agents (Multi-Agent) running together, the lack of centralized State Management lets one agent's decisions get overwritten by another's. MCP standardizes how models call external tools by injecting tool schemas as text into the context, but that also costs extra tokens and demands strict permission control: never grant an AI unrestricted "self-update the system" access to an API that can write or delete data.Mẹ thưởng sticker mỗi lần "phòng trông gọn". Bạn nhỏ bèn nhét hết đồ xuống gầm giường — vẫn được sticker mà phòng chẳng sạch, đó là Reward Hacking. Không ai dặn "dọn xong thì nghỉ" thì bạn ấy dọn đi dọn lại mãi một cái kệ (Infinite Loop). Còn hai anh em cùng dọn mà không chia việc thì người này vừa cất, người kia lại bày ra (Multi-Agent thiếu quản lý chung).
Mum gives a sticker whenever the room "looks tidy". The child just shoves everything under the bed — sticker earned, room still a mess: that is reward hacking. With nobody saying "stop once it's done", they tidy the same shelf over and over (infinite loop). And two siblings tidying without splitting the job simply undo each other's work.LLM-as-a-Judge dùng một mô hình khác để chấm điểm câu trả lời ở quy mô lớn, nhanh hơn con người nhưng mang theo thiên kiến riêng của "giám khảo AI" đó. Model Version Drift là khi nhà cung cấp âm thầm cập nhật mô hình nền khiến chất lượng output thay đổi mà đội ngũ không hay biết — cần chạy Evals tự động liên tục thay vì đợi người dùng phàn nàn. Khi tinh chỉnh mô hình, LoRA chỉ huấn luyện thêm một số tham số phụ nhỏ (rẻ, dễ hoán đổi), còn Full Fine-Tuning cập nhật toàn bộ trọng số (tốn kém, dễ gây Catastrophic Forgetting — quên kiến thức cũ). Fine-tune để cập nhật tin tức hàng ngày thường không hiệu quả vì lượng dữ liệu mới quá ít so với kiến thức gốc; huấn luyện lặp lại qua nhiều thế hệ trên dữ liệu do chính AI tạo ra còn có thể gây Model Collapse — mất dần sự đa dạng và chính xác. Fine-tune trên dữ liệu cá nhân cũng không đồng nghĩa với ẩn danh: mô hình có thể vô tình "nhả lại" nguyên văn dữ liệu nhạy cảm khi bị hỏi đúng cách. Các chỉ số như BLEU/ROUGE chỉ đo độ khớp từ ngữ với đáp án mẫu, không đo được việc nội dung đúng hay sai trên thực tế.
LLM-as-a-Judge uses another model to score answers at scale, faster than humans but carrying that judge model's own biases. Model Version Drift is when a provider silently updates the underlying model and output quality shifts without the team noticing — continuous automated Evals catch this instead of waiting for user complaints. When fine-tuning, LoRA trains only a small set of extra parameters (cheap, swappable), while Full Fine-Tuning updates all the weights (expensive, prone to Catastrophic Forgetting of prior knowledge). Fine-tuning to keep up with daily news rarely works well since the new data is tiny next to the original training set; repeatedly training across generations on AI-generated data can also cause Model Collapse — a gradual loss of diversity and accuracy. Fine-tuning on personal data isn't the same as anonymizing it either: the model can inadvertently regurgitate sensitive data verbatim when prompted the right way. Metrics like BLEU/ROUGE only measure wording overlap with a reference answer, not whether the content is actually correct.Bài của con được chấm bằng cách đếm xem trùng bao nhiêu chữ với đáp án mẫu — viết đúng ý mà khác chữ thì vẫn mất điểm, chép đúng chữ mà sai ý thì vẫn có điểm (BLEU/ROUGE). Tệ hơn nữa, nhà trường đổi thầy chấm mà không báo ai, nên điểm cả lớp tụt mà không ai hiểu vì sao (Model Version Drift) — chỉ có cách làm lại một đề mẫu cố định thật đều mới phát hiện ra.
Your test is marked by counting how many words match the sample answer — the right idea in different words loses marks, the wrong idea in the right words still scores (BLEU/ROUGE). Worse, the school swaps the marker without telling anyone, so grades slip and nobody knows why — only re-sitting one fixed practice paper regularly catches it.
• Principle of Least Privilege (Quyền hạn tối thiểu) & Blast Radius (Bán kính thiệt hại): Khi Agent đọc email/web bên ngoài (dễ dính Indirect Prompt Injection hoặc Adversarial Attack), phải coi dữ liệu ngoài là không đáng tin, áp dụng RBAC, Allowlist (Whitelisting) danh sách công cụ và bắt buộc con người duyệt (Reversibility Gate) trước mọi thao tác ghi/xóa/chuyển tiếp.
• Defense in Depth (Bảo mật đa tầng): Bộ lọc đầu vào dễ bị qua mặt bởi kịch bản đóng vai, ẩn dụ hoặc mã hóa Base64 (Jailbreak), nên bắt buộc phải có thêm Guardrails ở lớp đầu ra (Output) để chặn rò rỉ PII và ảo giác.
• Inability of Negation (Hạn chế xử lý phủ định): Cấm "ĐỪNG nghĩ về con voi" lại đưa chính token "con voi" vào ngữ cảnh và kích hoạt nó; cách sửa là đổi sang chỉ thị khẳng định (VD: thay "Không dùng văn phong thân mật" bằng "Phải dùng văn phong trang trọng, học thuật").
• Regression Evals (Kiểm thử hồi quy) & Data Extraction Attack: Chạy tự động bộ kiểm thử hồi quy trên CI/CD với Golden Dataset để bắt ngay hiện tượng Prompt Drift / Model Version Drift khi nhà cung cấp cập nhật mô hình. Lưu ý: Fine-tune trên dữ liệu nhạy cảm không bảo vệ được quyền riêng tư vì kẻ tấn công có thể dùng prompt trích xuất nguyên văn dữ liệu huấn luyện.
Bảo một bạn nhỏ "đừng nghĩ về con voi" thì trong đầu bạn ấy hiện ra ngay con voi — nên phải nói thẳng điều mình muốn: "hãy nghĩ về con mèo". Giữ an toàn cũng vậy: khoá cổng rồi vẫn cần người gác ở cửa phòng (nhiều lớp), và chỉ đưa đúng chiếc chìa của căn phòng bạn ấy cần vào (quyền tối thiểu), chứ không đưa cả chùm chìa khoá.
Tell a child "don't think about an elephant" and an elephant appears at once — so say what you do want: "think about a cat". Safety works the same way: locking the gate still needs a guard at the door (layers), and you hand over only the key to the room they actually need (least privilege), never the whole keyring.Đang tải câu hỏi…
Loading questions…
Tra cứu toàn bộ thuật ngữ đã dùng trong các chương lý thuyết và câu hỏi. Look up every term used across the theory chapters and the questions.
Tạo hồ sơ để lưu số câu mỗi lượt riêng và xem thống kê kết quả của bạn.Create one to keep your own exam length and see your result stats.
Để trống để dùng mặc định chung.Leave blank to use the shared default.