Roadmap Agentic AI Engineer là chủ đề trọng tâm của bài viết này. Agentic AI Engineer không chỉ viết Prompt và cũng không nhất thiết là AI Researcher tự huấn luyện LLM. Vai trò này nằm giữa Software Engineering, Data, AI và Automation. Công việc chính là biến năng lực của Model thành hệ thống hoàn thành nhiệm vụ có quyền, dữ liệu, Evaluation và khả năng vận hành.

Bài cuối của series đưa ra lộ trình thực tế cho người mới, kể cả học sinh lớp 12 hoặc người chuyển ngành. Bạn không cần học mọi Framework. Bạn cần xây nền tảng theo thứ tự, hoàn thành dự án có bằng chứng và giải thích được các quyết định kỹ thuật.

Mục lục

1. Agentic AI Engineer làm gì?
2. Bản đồ năng lực
3. Giai đoạn 1: Python và Git
4. Giai đoạn 2: API, Database và Backend
5. Giai đoạn 3: Nền tảng LLM
6. Giai đoạn 4: Tool Calling
7. Giai đoạn 5: RAG và Memory
8. Giai đoạn 6: Workflow và Agent
9. Giai đoạn 7: Evaluation và Observability
10. Giai đoạn 8: Security và Deployment
11. Ba dự án Portfolio
12. Cách viết Case Study
13. Những sai lầm học tập
14. Kế hoạch 24 tuần
15. Chuẩn bị phỏng vấn
16. Tiêu chí sẵn sàng đi làm
17. Kết luận
18. Tài liệu tham khảo

Agentic AI Engineer làm gì?

Trong một dự án production, Engineer phân tích quy trình, thiết kế Tool, kết nối API và dữ liệu, quản lý State, xây Evaluation, áp dụng Permission, triển khai Service và theo dõi chất lượng. Prompt chỉ là một phần.

Công việc gần với xây Backend có thành phần LLM. Model có tính xác suất nên hệ thống cần Test Set và Guardrails khác phần mềm truyền thống. Nhưng API, Database, Authentication, Queue, Logging, CI/CD và Cloud vẫn là nền tảng quen thuộc.

Bản đồ năng lực

• Programming: Python, cấu trúc dữ liệu, typing, error handling và testing.
• Backend: HTTP, REST, authentication, async, queue và caching.
• Data: SQL, schema, data quality, warehouse và vector search.
• LLM: token, context, structured output, embedding và tool calling.
• Agents: state, orchestration, planning, memory và human approval.
• Quality: evaluation, tracing, monitoring và cost.
• Security: least privilege, prompt injection, secrets và audit.
• Delivery: Docker, CI/CD, cloud và product thinking.

Không cần giỏi ngang nhau ở mọi mục. Một Junior cần nền tảng chắc, hoàn thành dự án nhỏ và biết giới hạn. Khả năng Debug quan trọng hơn thuộc nhiều thuật ngữ.

Giai đoạn 1: Python và Git

Học biến, hàm, List, Dictionary, Class, Module, Exception, File, JSON, virtual environment và package manager. Sau đó học Git commit, branch, merge và pull request.

Dự án nhỏ là chương trình đọc CSV doanh thu, tính tổng theo chi nhánh và xuất JSON. Viết Unit Test cho dữ liệu rỗng, cột thiếu và ngày sai. Mục tiêu là tạo code có cấu trúc, không chỉ chạy được một lần.

Giai đoạn 2: API, Database và Backend

Học HTTP Method, Status Code, Header, JSON, REST và Authentication. Dùng FastAPI hoặc Framework tương tự để tạo API. Học SQL SELECT, JOIN, GROUP BY, Window Function, Transaction và Index cơ bản.

Xây API GET /sales-summary nhận ngày và Branch, truy vấn Database rồi trả schema rõ. Thêm validation, permission giả lập, logging và test. Đây sẽ là Tool cho Agent ở giai đoạn sau.

Giai đoạn 3: Nền tảng LLM

Hiểu Token, Context Window, Message Role, Temperature, Structured Output, Embedding, Grounding, latency và cost. Gọi Model qua API và ghi usage. Không cần học sâu quá trình pre-training ngay từ đầu.

Bài tập là phân loại phản hồi khách hàng thành JSON. Tạo 50 mẫu có nhãn, đo Accuracy, JSON Valid Rate, Token và latency. So sánh hai Prompt hoặc hai Model.

Giai đoạn 4: Tool Calling

Kết nối Model với API doanh thu. Model chọn Tool, Runtime validate Arguments, gọi API và đưa Result lại Context. Dùng Registry thay cho eval. Thêm Max Steps và error code.

user question
  model decision
  tool arguments
  validation and permission
  API execution
  tool result
  final answer

Evaluation đo đúng Tool, đúng Arguments và đúng Answer. Khi một lỗi xuất hiện, xác định nó thuộc Model, Tool, Data hay Orchestrator.

Giai đoạn 5: RAG và Memory

Học Parsing, Chunking, Embedding, Vector Search, Hybrid Search, Metadata Filter, Reranking và Citation. Tạo bộ 20 tài liệu chính sách cùng câu hỏi chuẩn. Đo Retrieval Recall trước khi đo câu trả lời.

Với Memory, lưu một loại thông tin đơn giản như preference trình bày đã được xác nhận. Record cần Source, Scope và Timestamp. Không lưu toàn bộ hội thoại.

Giai đoạn 6: Workflow và Agent

Xây Workflow trước: phân loại, truy xuất, tạo Answer, kiểm tra Citation. Sau đó cho Model quyết định có cần tìm thêm hay không. So sánh chất lượng, số bước, latency và cost.

Chỉ thử Multi-Agent khi có lý do rõ như phân chia Domain hoặc chạy Subtask độc lập. Luôn giữ Baseline Single Agent để so sánh.

Giai đoạn 7: Evaluation và Observability

Tạo Evaluation Dataset từ tình huống thật. Dùng deterministic grader cho schema và Tool Calls, Model-based grader cho tiêu chí ngữ nghĩa, Human Review cho mẫu khó.

Gắn Trace ID cho mỗi Task. Ghi Model Version, Prompt Version, Tool Calls, Token, latency, cost, error và approval. Dashboard hiển thị Task Success và Failure theo loại.

Giai đoạn 8: Security và Deployment

Áp dụng Authentication, Authorization, least privilege, Secret Manager, input validation, output handling, rate limit và audit. Red Team với Prompt Injection và yêu cầu vượt quyền.

Đóng gói Service bằng Docker, tạo CI chạy Test và Evaluation, triển khai môi trường Staging trước Production. Dùng Canary hoặc giới hạn nhóm người dùng. Thiết lập Kill Switch cho Write Tools.

Ba dự án Portfolio

Dự án 1: Sales Analysis Agent

Agent dùng Read Tools lấy doanh thu và tồn kho, trả Finding có Evidence. Có User Role, Row Filter, Max Steps, Trace và 50 Evaluation Cases. Đây là dự án thể hiện Tool Calling và Data.

Dự án 2: Policy RAG Assistant

Hệ thống đọc tài liệu chính sách, Hybrid Search, Reranking và Citation. Có Permission theo phòng ban, Document Version, Retrieval Metrics và test Prompt Injection trong tài liệu.

Dự án 3: Support Resolution Workflow

Workflow phân loại Ticket, tìm Knowledge Base, tạo Draft Response và đề xuất Action. Gửi hoặc cập nhật Ticket cần Approval. Có Idempotency, retry và cost dashboard.

Cách viết Case Study

README không nên chỉ có ảnh giao diện. Hãy mô tả Problem, Users, Constraints, Architecture, Data Flow, Security Model, Evaluation Set, Metrics, Failure Cases, Cost và Trade-offs. Cung cấp lệnh chạy và dữ liệu mẫu không nhạy cảm.

Problem
Baseline
Architecture
Tool contracts
Security controls
Evaluation design
Results
Known limitations
Next experiments

Nhà tuyển dụng cần thấy cách bạn suy nghĩ. Một dự án nhỏ có Test, Trace và số đo thuyết phục hơn một Demo nhiều Agent nhưng không có Evaluation.

Những sai lầm học tập

• Học quá nhiều Framework trước khi hiểu Tool Loop.
• Bỏ qua Python, SQL và HTTP.
• Chỉ xem Video mà không xây dự án.
• Dùng Output đẹp thay cho Evaluation.
• Xây Multi-Agent quá sớm.
• Không ghi Failure và Trade-off trong Portfolio.
• Đưa API Key lên GitHub.
• Chờ học xong mọi thứ mới ứng tuyển.

Kế hoạch 24 tuần

• Tuần 1 đến 4: Python, Git, testing và xử lý dữ liệu.
• Tuần 5 đến 8: SQL, API, FastAPI và Authentication.
• Tuần 9 đến 11: LLM, Structured Output và Evaluation cơ bản.
• Tuần 12 đến 14: Tool Calling và Agent Loop.
• Tuần 15 đến 17: RAG, Retrieval Metrics và Citation.
• Tuần 18 đến 20: State, Workflow, Observability và Cost.
• Tuần 21 đến 22: Security, Permission và Red Teaming.
• Tuần 23 đến 24: hoàn thiện Portfolio, README và phỏng vấn.

Mỗi tuần nên có sản phẩm chạy được, Test hoặc số đo. Lịch có thể kéo dài theo thời gian cá nhân. Điều quan trọng là chu kỳ học, xây, đo, sửa.

Chuẩn bị phỏng vấn

Bạn cần giải thích vì sao chọn Agent thay vì Workflow, cách Tool Calling hoạt động, RAG lỗi ở đâu, cách ngăn Prompt Injection, cách đo Task Success và cách giảm cost. Hãy chuẩn bị một Failure Case bạn đã Debug.

Phỏng vấn hệ thống có thể yêu cầu thiết kế Agent đọc dữ liệu doanh nghiệp. Hãy bắt đầu từ User, Identity, Data, Tool, State, Permission, Evaluation và Monitoring trước khi nói đến Framework.

Tiêu chí sẵn sàng đi làm

• Tự xây được Python Service gọi Model và Tool.
• Viết được SQL và API có validation.
• Giải thích được Token, Context, RAG và Tool Calling.
• Có Evaluation Set và biết đọc Trace.
• Áp dụng Identity, Permission và Secret Management.
• Có ít nhất hai Case Studies với Metrics.
• Biết giới hạn của hệ thống và khi nào cần Human Approval.

Kết luận

Con đường trở thành Agentic AI Engineer không bắt đầu từ Multi-Agent. Nó bắt đầu từ khả năng viết một hàm đúng, tạo API rõ, truy vấn dữ liệu chính xác và kiểm thử kết quả. LLM bổ sung reasoning và giao diện ngôn ngữ, nhưng Engineering biến khả năng đó thành sản phẩm.

Hãy chọn một bài toán nhỏ, xây Baseline, thêm Tool, tạo Evaluation, quan sát Failure rồi cải tiến. Portfolio tốt nhất không phải dự án tuyên bố AI làm mọi thứ. Đó là dự án cho thấy bạn biết Agent được phép làm gì, làm đúng bao nhiêu, sai ở đâu và hệ thống phản ứng thế nào khi sai.

Ghi nhớ khi học Roadmap Agentic AI Engineer

Roadmap Agentic AI Engineer hiệu quả cần kết hợp kiến thức nền, dự án thực hành, Evaluation và khả năng giải thích quyết định kỹ thuật. Người học nên hoàn thành từng hệ thống nhỏ trước khi tăng độ phức tạp.

Đọc thêm: cấu tạo AI Agent và bảo mật AI Agent.

Tài liệu tham khảo

• Python Documentation. The Python Tutorial.
• Git Documentation.
• Anthropic. Building Effective Agents.
• OpenAI Documentation. Function calling.
• Google Cloud. Agentic AI design patterns.
• OWASP Top 10 for LLM Applications.
• NIST AI Risk Management Framework.

TechData.AI - Leading The Future.

Hoàng Minh.