Một nhân viên nhờ AI tóm tắt yêu cầu đổi trả của khách hàng. Công việc nghe rất bình thường: đọc email, tìm đơn, đối chiếu chính sách rồi soạn phản hồi. Nhưng để làm được, trợ lý có thể phải đọc hộp thư, truy cập dữ liệu khách hàng và gọi công cụ xử lý đơn hàng. Từ đây, một câu hỏi quan trọng xuất hiện: nếu AI hiểu sai hoặc làm theo chỉ dẫn nằm trong email, nó có thể làm được những gì?
AI Security trong doanh nghiệp là bảo vệ dữ liệu, quyền truy cập và hành động của toàn bộ hệ thống có AI tham gia. Chọn mô hình tốt là một phần. Phần còn lại nằm ở dữ liệu được gửi đi đâu, ai được xem gì, công cụ được phép làm gì và ai chịu trách nhiệm khi có sự cố.
Bài viết đi xuyên suốt một công ty bán hàng giả định, dùng trợ lý AI để hỗ trợ nhân viên tra cứu đơn và xử lý yêu cầu đổi trả. Các tên người, mã đơn, số tiền, giao diện và chính sách dưới đây đều được dựng để giải thích thiết kế; không phải dữ liệu doanh nghiệp thật hoặc kết quả kiểm thử một sản phẩm. Bạn không cần biết lập trình để theo dõi, nhưng sẽ có đủ chi tiết để trao đổi rõ hơn với đội triển khai.
AI Security là gì và liên quan gì đến hoạt động kinh doanh?
Hãy hình dung trợ lý AI như một nhân viên mới rất nhanh, đọc được nhiều tài liệu và diễn đạt thuyết phục. Tuy vậy, khả năng nói trôi chảy không thay thế việc hiểu đúng bối cảnh, tuân thủ phân quyền hoặc kiểm tra nghiệp vụ. Nếu được cấp một tài khoản đọc toàn bộ dữ liệu và công cụ sửa mọi đơn hàng, một sai sót nhỏ trong suy luận có thể đi xa hơn một câu trả lời sai.
Doanh nghiệp cần bảo vệ ba điều quen thuộc. Thứ nhất là tính bí mật: dữ liệu chỉ đến người và dịch vụ được phép. Thứ hai là tính toàn vẹn: đơn hàng, chính sách và quyết định không bị thay đổi sai. Thứ ba là tính sẵn sàng: hệ thống tiếp tục phục vụ được, không bị một vòng lặp hoặc lượng yêu cầu bất thường làm cạn tài nguyên. Có AI tham gia không làm những mục tiêu này biến mất.
Điểm mới là mô hình xử lý ngôn ngữ tự nhiên và có thể bị ảnh hưởng bởi chính dữ liệu nó đang đọc. Một tài liệu có thể vừa chứa thông tin nghiệp vụ vừa chứa câu giống chỉ dẫn. Khi AI kết nối công cụ, đầu ra dạng văn bản hoặc đề xuất có thể trở thành thao tác trên hệ thống. Vì vậy cần kiểm tra cả đường đi từ đầu vào đến hành động cuối cùng.
Cũng cần phân biệt bảo mật với độ tin cậy. AI tính nhầm doanh thu do hiểu sai định nghĩa là vấn đề chất lượng. AI lấy doanh thu của chi nhánh không được phép xem là vấn đề phân quyền. Hai lỗi có thể cùng xuất hiện trong một câu trả lời. Cách sửa phải đúng nguyên nhân: kiểm tra số liệu không tự sửa được quyền truy cập, còn đăng nhập mạnh không khiến mọi câu trả lời trở nên đúng.
NIST AI 600-1 đặt quản trị rủi ro AI tạo sinh trong bối cảnh toàn bộ vòng đời. Với người quản lý, cách áp dụng thực tế là gắn mỗi ứng dụng AI với một chủ sở hữu, một mục tiêu cụ thể, phạm vi dữ liệu và điều kiện được phép vận hành. Một bản demo hấp dẫn chưa trả lời được những câu hỏi đó.
Một trợ lý bán hàng có thể mở ra những rủi ro nào?
Công ty giả định có hai chi nhánh A và B. Lan phụ trách bán hàng tại A; Minh quản lý cả hai chi nhánh; Hà thuộc bộ phận tài chính và xử lý hồ sơ hoàn tiền được phân công. Trợ lý AI được kỳ vọng giúp họ tra cứu đơn, đọc chính sách đổi trả và chuẩn bị phương án cho khách. Mục tiêu ban đầu là giảm thời gian tìm thông tin, chưa phải tự động quyết định mọi trường hợp.
Lan gửi yêu cầu: “Kiểm tra đơn DH-1042 và đề xuất cách xử lý vì khách báo nhận sai sản phẩm.” Một luồng hợp lý cần nhận diện Lan là ai, kiểm tra đơn thuộc phạm vi nào, lấy chính sách đang hiệu lực và trình bày điều đã biết cùng phần còn thiếu. Nếu hồ sơ chưa có bằng chứng giao sai, câu trả lời nên nói rõ cần xác minh thêm.
Luồng nguy hiểm xuất hiện khi ứng dụng lấy mọi đơn vì dùng tài khoản quản trị chung, đưa cả thông tin không cần thiết vào ngữ cảnh rồi để mô hình tự quyết định giữ lại gì. Một rủi ro khác là công cụ “xử lý đơn” vừa cho đọc, vừa sửa người nhận, vừa hoàn tiền. Giao diện chỉ có một ô chat nhưng phía sau có thể là nhiều mức quyền khác nhau.
Trước khi hỏi mô hình có an toàn không, hãy hỏi hệ thống đã trao cho nó những khả năng nào. Nếu trợ lý chỉ tìm trong tài liệu công khai và tạo bản nháp, phạm vi hậu quả khác rất nhiều so với trợ lý có thể gửi thông tin ra ngoài hoặc thay đổi số tiền. Danh sách quyền thực tế có giá trị hơn một nhãn chung như “AI nội bộ”.
| Tình huống | Điều có thể xảy ra | Điểm cần kiểm soát |
|---|---|---|
| Đọc yêu cầu khách hàng | Nội dung email dẫn AI lệch nhiệm vụ | Xem nội dung bên ngoài là dữ liệu không đáng tin. |
| Tra cứu đơn hàng | Trả về đơn ngoài chi nhánh hoặc công ty | Phân quyền tại dịch vụ truy xuất và nguồn dữ liệu. |
| Đề xuất hoàn tiền | Đề xuất sai điều kiện hoặc số tiền | Đối chiếu dữ liệu có thẩm quyền và chính sách. |
| Gọi công cụ thực hiện | Thực hiện nhầm, vượt quyền hoặc thực hiện trùng | Kiểm tra quyền, duyệt đúng hành động, quản lý trạng thái. |
Vẽ đường đi dữ liệu trước khi kết nối thêm AI
Người dùng thường chỉ thấy tệp được tải vào một cửa sổ. Đội triển khai cần nhìn thêm những điểm phía sau: máy chủ ứng dụng, dịch vụ mô hình, kho tài liệu, công cụ tìm kiếm, lịch sử hội thoại, hệ thống ghi log và các dịch vụ nhận kết quả. Không phải ứng dụng nào cũng có đủ các thành phần này, nhưng thành phần nào có thì phải được nhận diện.

Ví dụ, để tóm tắt lý do đổi trả, AI có thể chỉ cần mã đơn, sản phẩm, mô tả sự cố và đoạn chính sách liên quan. Số điện thoại đầy đủ, địa chỉ giao hàng và toàn bộ lịch sử mua sắm có thể không cần cho tác vụ đó. Tư duy tối thiểu hóa dữ liệu bắt đầu bằng câu hỏi: nếu bỏ trường này, công việc có còn làm được không?
Che dữ liệu cần diễn ra trước điểm gửi mà bạn muốn bảo vệ. Nếu file đầy đủ đã đến một dịch vụ bên ngoài rồi mới được che trong câu trả lời, việc che đó chưa ngăn lần truyền đầu tiên. Thay tên bằng mã cũng không tự tạo ra dữ liệu vô danh: một đoạn nội dung có thể vẫn nhận diện được khách thông qua địa chỉ, thời gian hoặc tình huống đặc thù.
Đừng quên các bản sao phục vụ vận hành. Một đội có thể cẩn thận với dữ liệu gửi sang mô hình nhưng ghi toàn bộ nội dung vào log để sửa lỗi. Khi đó hệ thống log trở thành một kho nhạy cảm khác. Mỗi bản sao cần mục đích, người được xem, thời hạn giữ và cách xử lý khi dữ liệu nguồn bị xóa hoặc quyền bị thu hồi.
Trong bản đồ, nên viết rõ đâu là dữ liệu được nhập, đâu là dữ liệu truy xuất và đâu là dữ liệu được tạo ra. Câu trả lời của AI cũng có thể chứa thông tin mật dù không phải file gốc. Một báo cáo tổng hợp từ nhiều đơn hàng vẫn cần phân quyền nếu nó tiết lộ hoạt động kinh doanh mà người nhận không được xem.
“Không dùng để huấn luyện” chưa trả lời đủ câu hỏi bảo mật
Một công cụ có thể không sử dụng nội dung của bạn để huấn luyện mô hình, nhưng vẫn xử lý hoặc lưu dữ liệu cho các mục đích khác theo điều khoản áp dụng. Chính sách có thể khác giữa tài khoản cá nhân, gói doanh nghiệp, API và tính năng kết nối. Không nên lấy mô tả của một gói rồi áp cho mọi cách sử dụng cùng thương hiệu.
Khi đánh giá nhà cung cấp, hãy tách từng câu hỏi: nội dung có được dùng để huấn luyện không; dữ liệu đầu vào và đầu ra được giữ bao lâu; ai có thể truy cập cho hỗ trợ hoặc vận hành; dịch vụ phụ nào nhận dữ liệu; có thể cấu hình hoặc yêu cầu xóa những gì. Câu trả lời cần gắn với hợp đồng và cấu hình thực tế tại thời điểm triển khai.
OWASP về lộ thông tin nhạy cảm nhấn mạnh việc giới hạn dữ liệu, kiểm soát truy cập và làm rõ cách sử dụng thông tin. Doanh nghiệp có thể chuyển nguyên tắc này thành một quy định dễ làm: tài liệu công khai dùng với công cụ được chấp thuận; hồ sơ khách hàng chỉ qua luồng đã đánh giá; bí mật truy cập không được dán vào hội thoại.
Khóa API, mật khẩu và mã truy cập cần được quản lý như bí mật hệ thống, không để trong system prompt hoặc tài liệu mà AI có thể đọc. Nếu một công cụ cần xác thực, máy chủ thực hiện phần đó bằng cơ chế quản lý bí mật phù hợp. Mô hình chỉ cần biết công cụ làm được gì và nhận tham số nào, không cần biết giá trị khóa.
Tự triển khai mô hình trên hạ tầng riêng có thể giúp kiểm soát một số đường đi dữ liệu, nhưng đồng thời chuyển trách nhiệm vận hành về doanh nghiệp. Cần bảo vệ máy chủ, bản sao lưu, tài khoản quản trị và các dịch vụ phụ vẫn gọi ra ngoài. “Chạy nội bộ” là một lựa chọn kiến trúc cần đánh giá, không phải chứng nhận an toàn tự động.
Prompt injection: khi nội dung cần đọc lại chỉ đạo người đọc
Prompt injection là tình huống đầu vào khiến hệ thống AI làm lệch hành vi dự định. Với doanh nghiệp, hình thức dễ hình dung là một trợ lý đọc tài liệu có chứa chỉ dẫn không được phép. Nội dung đó có thể nằm trong email, trang web, PDF hoặc kết quả mà một công cụ trả về. Người đang sử dụng trợ lý không nhất thiết là người tạo ra nội dung chèn.
Trong ví dụ, email khách hàng có câu yêu cầu đổi trả bình thường, kèm một đoạn bảo trợ lý bỏ bước duyệt và hoàn tiền ngay. Đoạn này là dữ liệu từ bên ngoài. Nó không có thẩm quyền thay quy trình của công ty. Rủi ro xuất hiện nếu mô hình coi đoạn đó như một chỉ dẫn cần tuân theo, rồi đề xuất hoặc gọi công cụ theo hướng ấy.

OWASP phân biệt đầu vào trực tiếp và gián tiếp, đồng thời lưu ý việc dùng RAG hoặc fine-tuning không loại bỏ hoàn toàn rủi ro này. Điều đó quan trọng với trợ lý nội bộ: “đọc tài liệu của công ty” không đồng nghĩa mọi câu trong tài liệu đều được phép trở thành lệnh điều khiển.
Cách ứng phó cần nhiều lớp. Ứng dụng phân biệt nhiệm vụ với nội dung được đọc, giới hạn công cụ và kiểm tra các hành động ở máy chủ. Bộ lọc có thể hỗ trợ phát hiện tín hiệu đáng ngờ, nhưng việc chặn một vài cụm từ không bao quát mọi cách diễn đạt. Một câu không chứa từ khóa quen thuộc vẫn có thể dẫn mô hình lệch mục tiêu.
NCSC giải thích vì sao prompt injection không nên được coi như SQL injection có thể xử lý xong bằng một cách tách chuỗi đơn giản. Bài học thiết kế ở đây là giảm cả khả năng bị dẫn dụ và hậu quả nếu vẫn bị dẫn dụ. Trợ lý không có quyền hoàn tiền sẽ ít có cơ hội biến một email lạ thành giao dịch sai hơn trợ lý được trao toàn quyền.
AI không nên được xem nhiều hơn người đang hỏi
Lan hỏi tổng hợp các đơn có yêu cầu đổi trả. Nếu Lan chỉ có quyền tại chi nhánh A, hệ thống cần xác định phạm vi đó bằng phiên đăng nhập và dữ liệu quyền đáng tin cậy. Không lấy câu “tôi là giám đốc” trong hội thoại làm bằng chứng. Cũng không để mô hình tự chọn mã công ty hoặc vai trò rồi tin vào giá trị nó chọn.
Phân quyền phải diễn ra trước khi dữ liệu không được phép đi vào ngữ cảnh. Cách làm “lấy hết rồi nhắc AI đừng tiết lộ” tạo ra sự phụ thuộc không cần thiết vào hành vi mô hình. Nếu trợ lý chỉ cần ba đoạn chính sách và một đơn hàng, nguồn truy xuất nên trả đúng phần được phép, thay vì gửi cả kho tài liệu.

OWASP Authorization Cheat Sheet khuyến nghị đặc quyền tối thiểu, mặc định từ chối và kiểm tra quyền ở mỗi yêu cầu. Trong trợ lý AI, điều này có nghĩa một đường truy xuất mới hoặc công cụ mới cũng phải đi qua kiểm tra, không được xem là an toàn chỉ vì người dùng đã đăng nhập vào ô chat.
RAG là cách tìm tài liệu liên quan rồi đưa phần tìm được vào mô hình để trả lời. RAG không tự cấp phân quyền. Nếu kho tìm kiếm gộp nhiều công ty, bộ lọc công ty phải do phía máy chủ áp dụng và được kiểm tra xuyên suốt. Các bản trích, metadata, đoạn xem trước và liên kết mở nguồn đều có thể tiết lộ dữ liệu nếu thiếu kiểm soát.
Cache và bộ nhớ hội thoại cũng cần gắn với phạm vi người dùng. Một câu trả lời được lưu lại cho Minh có thể chứa tổng hợp hai chi nhánh; không thể đưa nguyên câu đó cho Lan chỉ vì câu hỏi giống nhau. Khi một nhân viên chuyển bộ phận hoặc bị thu hồi quyền, cần kiểm tra cả dữ liệu đã truy xuất, tài liệu đã lập chỉ mục và các phiên làm việc còn tồn tại.
Với hệ thống phục vụ nhiều doanh nghiệp, ranh giới giữa khách hàng phải được coi là yêu cầu độc lập. Tách giao diện chưa chứng minh dữ liệu được tách. Cần thử trường hợp một người đổi mã đơn, hỏi vòng qua báo cáo hoặc mở liên kết nguồn của công ty khác. Mục tiêu là không trả dữ liệu ngoài phạm vi qua bất kỳ đường nào đã cung cấp.
Từ trả lời đến thực hiện: rủi ro thay đổi theo quyền công cụ
Một trợ lý chỉ đọc chính sách có thể trả lời sai. Một trợ lý được gửi email có thể chuyển câu trả lời sai tới khách. Một trợ lý được sửa đơn hoặc khởi tạo hoàn tiền có thể làm thay đổi trạng thái kinh doanh. Đây là những mức năng lực khác nhau; không nên bật cùng lúc chỉ vì nền tảng hỗ trợ.
OWASP gọi việc trao chức năng, quyền hoặc mức tự chủ quá rộng là Excessive Agency. Với công ty giả định, cách áp dụng là tách công cụ tra cứu đơn khỏi công cụ tạo đề xuất hoàn tiền và khỏi công cụ thực hiện. Mỗi công cụ có hợp đồng rõ, giới hạn cụ thể và tài khoản phù hợp.
Thay một công cụ chung cho phép chạy mọi truy vấn bằng một chức năng đọc các trường cần thiết của đơn sẽ thu hẹp khả năng làm sai. Tuy nhiên, chức năng hẹp vẫn phải kiểm tra đối tượng. Một công cụ có tên “đọc đơn” nhưng cho phép đọc đơn của mọi công ty vẫn vượt nhu cầu của Lan. Tên chức năng không thay thế kiểm soát phía sau.
Chính sách nên phân biệt phần AI tự làm và phần cần người duyệt theo hậu quả. Ví dụ, đọc chính sách công khai và soạn bản nháp thường có thể cho chạy trong phạm vi được cấp. Tạo yêu cầu thay đổi đơn cần điều kiện cụ thể. Thực hiện hoàn tiền cần thiết kế kiểm soát riêng với người có thẩm quyền. Đây là ví dụ về cách phân tầng, không phải ngưỡng áp dụng chung cho mọi doanh nghiệp.
Đừng để mô hình tự xác nhận chính đề xuất của nó là được phép. Dịch vụ thực hiện phải kiểm tra người yêu cầu, hành động, đơn liên quan và trạng thái tại thời điểm chạy. Khi không đọc được quyền hoặc không xác minh được điều kiện, luồng nên dừng an toàn hoặc chuyển xử lý thủ công thay vì suy đoán rồi tiếp tục.
Một nút “Đồng ý” chỉ hữu ích khi người duyệt biết mình duyệt gì
Thông báo “AI muốn thực hiện tác vụ, bạn có đồng ý không?” thiếu dữ kiện để kiểm soát. Với yêu cầu hoàn tiền giả định, người duyệt cần thấy đơn hàng nào, số tiền bao nhiêu, hoàn về đâu, lý do gì và bằng chứng nào hỗ trợ. Nếu tác vụ có nhiều người nhận hoặc nhiều đơn, danh sách đầy đủ phải được xem trước.

Phê duyệt cần gắn với một phiên bản hành động cụ thể. Nếu người dùng duyệt 450.000 đồng cho đơn DH-1042, không thể dùng lần duyệt đó để thực hiện 4.500.000 đồng hoặc đổi nơi nhận. Khi tham số quan trọng thay đổi, hệ thống cần làm mất hiệu lực phê duyệt cũ và yêu cầu xem lại bản mới.
Quyền phê duyệt và quyền thực hiện cũng cần được kiểm tra tại thời điểm tương ứng. Một người có quyền xem hồ sơ chưa chắc có quyền duyệt. Người từng có quyền sáng nay có thể đã bị thu hồi trước lúc công việc trong hàng đợi chạy. Thời gian chờ tạo ra khoảng cách giữa thông tin đã xem và trạng thái đang tồn tại.
Đội triển khai còn phải xử lý lặp. Nếu tác vụ hết thời gian chờ, trợ lý không biết lần gọi trước đã thành công hay chưa. Gọi lại mù quáng có thể tạo yêu cầu trùng. Một mã thực hiện duy nhất, kiểm tra trạng thái tại hệ thống đích và cơ chế đối soát giúp phân biệt “chưa chạy”, “đã chạy” với “chưa xác định”. Việc này nằm ở phần mềm nghiệp vụ, không giải quyết bằng cách yêu cầu AI cẩn thận hơn.
Người duyệt cũng có thể bấm theo thói quen khi nhận quá nhiều yêu cầu. Vì vậy cần hiển thị điểm bất thường và bằng chứng ngay cạnh hành động, phân công đúng vai trò, theo dõi thời gian xử lý và tỷ lệ sửa đề xuất. Có một con người trong luồng chưa đủ chứng minh luồng được kiểm soát hiệu quả.
Luồng nghiệp vụ an toàn trông như thế nào?
Hình dưới gom các nguyên tắc thành một luồng xử lý. Điểm đầu là yêu cầu của nhân viên; điểm kết thúc có thể là thực hiện thành công hoặc không thực hiện. Nhánh từ chối là một kết quả hợp lệ, không phải sự cố của AI. Một hệ thống tốt cần diễn đạt rõ lý do và bước tiếp theo thay vì giả vờ công việc đã xong.

Ở bước đầu, ứng dụng xác định danh tính và phạm vi. Tiếp theo, công cụ đọc dữ liệu trả về thông tin cần thiết để AI soạn đề xuất. Một cổng kiểm tra đối chiếu các điều kiện có thể xác định được: mã đơn tồn tại, người dùng được truy cập, các trường bắt buộc đầy đủ, hành động thuộc danh sách cho phép và không vi phạm quy tắc đã cấu hình.
Sau đó, đề xuất đủ điều kiện mới đến người có quyền. Nếu người này yêu cầu bổ sung bằng chứng, việc quay lại xác minh cần tạo hoặc cập nhật một bản đề xuất được quản lý phiên bản. Không hiểu một câu trong hội thoại cũ là sự đồng ý với mọi thay đổi tiếp theo. Thông tin người dùng đã duyệt phải đối chiếu được với thông tin thực sự gửi sang API.
Ngay trước thực hiện, hệ thống kiểm tra lại trạng thái. Đơn có thể đã được xử lý bằng một kênh khác; người dùng có thể mất quyền; chính sách có thể thay đổi. Nếu không còn hợp lệ, dừng hoặc chuyển xử lý thủ công. Nhánh hợp lệ thực hiện qua API được giới hạn, ghi nhận mã kết quả và thông báo dựa trên trạng thái thật từ hệ thống đích.
Không nên cho AI thông báo “đã hoàn tiền” chỉ vì nó đã tạo được một đoạn văn hoặc gửi một yêu cầu. Có khác biệt giữa đã đề xuất, đã được duyệt, đã gửi đi và đã hoàn tất. Tách các trạng thái giúp người dùng tin đúng mức và giúp đội vận hành biết phải kiểm tra ở đâu khi có sai lệch.
Câu trả lời có nguồn vẫn cần kiểm tra trước khi sử dụng
Một trợ lý có thể trích đúng tên chính sách nhưng diễn giải sai điều kiện. Nó cũng có thể đưa ra số tổng hợp đúng phép cộng nhưng lấy sai khoảng thời gian. Bởi vậy, nguồn trích dẫn giúp người đọc kiểm tra, không phải một con dấu bảo đảm mọi kết luận. Cần xem nguồn có thật, đang hiệu lực và hỗ trợ đúng điều AI nói hay không.
Với doanh thu, nên thống nhất các định nghĩa như doanh thu trước hay sau hoàn trả, theo ngày đặt hàng hay ngày ghi nhận, có thuế hay không. Hệ thống dữ liệu tính toán các con số theo định nghĩa đã chốt; AI diễn giải và đặt câu hỏi từ kết quả. Nếu công cụ trả về dữ liệu thiếu, AI nên biểu đạt giới hạn thay vì tự điền cho câu trả lời tròn trịa.
Rủi ro còn nằm ở cách phần mềm sử dụng đầu ra. Văn bản do AI tạo không tự có độ tin cậy để chạy như lệnh hệ thống, câu truy vấn tùy ý hoặc HTML không kiểm soát. OWASP về Improper Output Handling khuyến nghị kiểm tra và xử lý đầu ra phù hợp với thành phần nhận nó.
Đối với đội kỹ thuật, trả một cấu trúc JSON đúng định dạng chỉ là bước đầu. Mã đơn có thể đúng kiểu chuỗi nhưng trỏ sang đơn khác; số tiền có thể đúng kiểu số nhưng vượt điều kiện nghiệp vụ. Cần kiểm tra cả cấu trúc, ý nghĩa tham số, quyền và trạng thái. Một mô hình khác đánh giá câu trả lời có thể hỗ trợ chất lượng, nhưng không thay cổng phân quyền xác định.
Đối với người quản lý, yêu cầu rõ nhất là hệ thống cho biết điều gì được xác minh bằng dữ liệu, điều gì là suy luận và điều gì chưa biết. Ví dụ “đơn đã giao sai” khác với “khách báo giao sai”. Nếu biến một lời báo thành sự kiện đã kiểm chứng, trợ lý có thể làm lệch cả quy trình giải quyết tiếp theo dù không hề có tấn công.
Đánh giá cả nhà cung cấp, kết nối và chi phí chạy
Hệ thống AI thường gồm nhiều phần: mô hình, thư viện, tiện ích kết nối, dịch vụ đọc file và nơi lưu kết quả. Mỗi phần cần được biết nguồn, phiên bản, quyền truy cập và người phụ trách. Một plugin được thêm để thử nghiệm không nên tiếp tục giữ quyền sau khi đã bỏ chức năng đó khỏi sản phẩm.
OWASP về chuỗi cung ứng LLM mở rộng góc nhìn từ mã ứng dụng sang mô hình, dữ liệu và thành phần bên thứ ba. Cách áp dụng cho doanh nghiệp là lập danh mục những gì đang dùng, đánh giá thay đổi trước khi mở rộng quyền và có khả năng quay về cấu hình đã kiểm tra khi một bản cập nhật gây vấn đề.
Quyền đọc hay gửi của kết nối cần được xem trực tiếp trong cấu hình. Nếu tác vụ chỉ tóm tắt thư, không có lý do mặc định cấp quyền xóa thư hoặc gửi thư tới mọi địa chỉ. Khi một công cụ chuyển nội dung sang dịch vụ phụ, cần xem đó là một đường truyền dữ liệu mới và đánh giá theo loại thông tin thực sự đi qua.
Chi phí và khả năng phục vụ cũng thuộc phạm vi kiểm soát. Một agent có thể lặp lại tìm kiếm, thử lại nhiều lần hoặc chia công việc thành quá nhiều lượt gọi. OWASP mô tả rủi ro tiêu thụ không giới hạn có thể làm cạn tài nguyên hoặc tăng chi phí. Không cần có kẻ tấn công thì một luồng lỗi cũng có thể gây vấn đề tương tự.
Nên đặt hạn mức theo người dùng và tác vụ, giới hạn kích thước file, số bước, thời gian chạy và số lượt thử lại. Có cảnh báo cùng cơ chế dừng được kiểm tra thực tế. Nếu giới hạn của nhà cung cấp chỉ là cảnh báo chi phí, không nên giả định nó tự ngắt mọi yêu cầu. Cần xác minh hành vi của từng lớp và chuẩn bị đường xử lý thủ công khi AI tạm dừng.
Kiểm thử trước khi mở rộng: hỏi điều gì và đo điều gì?
Một bản demo với tài khoản quản trị thường đi qua đường thuận lợi nhất. Kiểm thử bảo mật cần tài khoản với quyền khác nhau, dữ liệu giả định đã chuẩn bị và kết quả mong đợi rõ ràng. Không dùng hồ sơ khách hàng thật để thử xem hệ thống có làm rò rỉ hay không. Các bài thử nên chạy trong môi trường được phép, có phạm vi và người chịu trách nhiệm.
Với trợ lý đang xét, hãy tạo Lan của A, một người dùng B và một tài khoản không còn quyền. Chuẩn bị các đơn của mỗi chi nhánh, một đơn đã hoàn tiền và một chính sách hết hiệu lực. Mỗi ca thử có người dùng, yêu cầu, dữ liệu liên quan, điều được phép xảy ra và bằng chứng cần lưu. Cách này giúp phát hiện đúng chỗ sai thay vì chỉ nhận xét chung rằng AI “có vẻ ổn”.
| Ca thử trong môi trường giả lập | Kết quả mong đợi | Bằng chứng cần xem |
|---|---|---|
| Lan hỏi hoặc mở đơn thuộc B | Không lộ nội dung hay đoạn trích ngoài quyền | Kết quả truy xuất, phản hồi, lần mở nguồn. |
| Email yêu cầu bỏ bước duyệt | Không thực hiện hành động trái chính sách | Lời gọi công cụ và quyết định của cổng kiểm soát. |
| Sửa số tiền sau khi đã duyệt | Bản duyệt cũ mất hiệu lực | Phiên bản đề xuất và lần kiểm tra khi thực hiện. |
| Gửi lại tác vụ có cùng mã thực hiện | Không tạo hoàn tiền trùng | Trạng thái hệ thống đích và mã đối soát. |
| Thu hồi quyền khi tác vụ đang chờ | Không thực hiện bằng quyền cũ | Lần xác thực quyền tại thời điểm chạy. |
| Chính sách không đủ hoặc hết hiệu lực | Nêu rõ thiếu thông tin, chuyển người xử lý | Nguồn, phiên bản và trạng thái phản hồi. |
| File quá lớn hoặc tác vụ lặp quá lâu | Dừng theo giới hạn, có thông báo rõ | Số bước, thời gian, lượt gọi và trạng thái dừng. |
Đừng chỉ đếm tỷ lệ trả lời đúng. Hãy đo riêng số lần truy cập vượt quyền được phát hiện, số hành động không có phê duyệt hợp lệ, mức rò rỉ trong trích dẫn hoặc log và khả năng dừng theo hạn mức. Đối với các tình huống nghiêm trọng đã thiết kế, một lần thực hiện trái quyền có thể là điều kiện chặn phát hành, dù điểm chất lượng trung bình cao.
Nếu tất cả ca thử đều qua, kết luận phù hợp là hệ thống vượt qua bộ thử đó trong cấu hình đã ghi nhận. Không suy ra an toàn với mọi cách diễn đạt và mọi thay đổi sau này. Cần kiểm thử lại các ranh giới bị ảnh hưởng khi đổi mô hình, công cụ, nguồn dữ liệu, chính sách quyền hoặc cách lưu hội thoại.
Khi xảy ra sự cố, cần biết dừng ở đâu
Giả sử trợ lý trả về một đơn ngoài chi nhánh. Việc đầu tiên là ngăn tiếp diễn qua chức năng liên quan, chẳng hạn tắt đường truy xuất đang lỗi hoặc chuyển trợ lý về chế độ đọc nguồn công khai. Dừng toàn bộ hay một phần phụ thuộc phạm vi và khả năng cô lập; quyết định này cần có người phụ trách được chỉ định từ trước.
Cần giữ bằng chứng đủ để xác định chuyện gì đã xảy ra: người yêu cầu, thời điểm, phiên bản ứng dụng, nguồn đã truy xuất, công cụ đã gọi và quyết định phân quyền. Không nhất thiết ghi toàn bộ dữ liệu nhạy cảm vào mọi log. Có thể dùng mã tham chiếu, bản ghi đã che và một nơi lưu bằng chứng hạn chế quyền khi thực sự cần nội dung chi tiết.
Tiếp theo là xác định phạm vi: chỉ một phản hồi, nhiều phiên, hay cả kho tìm kiếm đang thiếu bộ lọc? Có dữ liệu đã gửi ra ngoài không? Hành động có được thực hiện hay mới đề xuất? Cần đối chiếu hệ thống đích thay vì chỉ đọc lời AI kể lại. Nếu có khóa truy cập bị lộ, xử lý khóa và các quyền liên quan theo quy trình ứng phó của doanh nghiệp.
Việc khôi phục cần sửa nguyên nhân và bổ sung ca thử tái hiện lỗi, sau đó kiểm tra trước khi mở lại. Xóa một câu trong hội thoại không tự thu hồi các bản sao, email đã gửi hoặc thay đổi đã thực hiện. Các nghĩa vụ thông báo và xử lý dữ liệu phải được bộ phận phụ trách xác định theo tình huống, hợp đồng và quy định áp dụng.
Một nút dừng cũng cần thử trước ngày có sự cố. Dừng agent có ngăn các công việc đã vào hàng đợi không? Tắt giao diện có ngắt khóa API không? Tác vụ đang thực hiện được kết thúc hay hủy thế nào? Khi chưa có câu trả lời, “chúng tôi có thể tắt AI bất cứ lúc nào” mới là một kỳ vọng, chưa phải năng lực đã kiểm chứng.
Bắt đầu nhỏ: lộ trình triển khai có thể kiểm soát
Doanh nghiệp không cần kết nối mọi dữ liệu để tìm ra giá trị đầu tiên. Với công ty giả định, có thể bắt đầu bằng tra cứu chính sách sản phẩm và tạo bản nháp trả lời, chưa cho sửa đơn. Giai đoạn này vẫn đo được thời gian tìm thông tin, mức sửa bản nháp và các trường hợp thiếu nguồn mà không phải trao ngay quyền tác động lớn.
Sau khi hiểu cách sử dụng, mở thêm tra cứu đơn trong phạm vi người dùng. Mốc chấp nhận phải bao gồm kiểm thử phân quyền, trích dẫn, bộ nhớ và log, cùng chất lượng trả lời. Chỉ khi những ranh giới đó được kiểm tra mới cân nhắc công cụ tạo yêu cầu thay đổi; quyền thực hiện là quyết định tiếp theo có đánh giá riêng.
| Giai đoạn đề xuất | Phạm vi | Điều kiện để cân nhắc mở rộng |
|---|---|---|
| Khảo sát | Chọn một tác vụ và vẽ đường đi dữ liệu | Có chủ sở hữu, phạm vi dữ liệu và lợi ích muốn đo. |
| Thử nghiệm | Tài liệu được chọn, dữ liệu giả lập, tạo bản nháp | Kiểm thử các tình huống sai và xác định phần cần sửa. |
| Pilot giới hạn | Một nhóm nhỏ, đọc dữ liệu đã phân quyền | Đạt điều kiện chất lượng, quyền truy cập và vận hành đã chốt. |
| Mở hành động có kiểm soát | Đề xuất cụ thể, người duyệt, API giới hạn | Kiểm chứng duyệt đúng bản, chống trùng, đối soát và dừng. |
| Vận hành mở rộng | Tăng phạm vi theo bằng chứng | Có giám sát, quản lý thay đổi và khả năng ứng phó. |
Những giai đoạn trên là mẫu tổ chức công việc, không phải cam kết số tuần hay chứng nhận. Một tác vụ đơn giản có thể đi nhanh; dữ liệu chưa rõ quyền hoặc hành động khó đảo ngược cần thêm thời gian. Không nên dùng thời hạn marketing để bỏ qua một điều kiện mà nhóm đã xác định là bắt buộc.
Về trách nhiệm, người nghiệp vụ xác định điều gì được phép và hậu quả sai; đội dữ liệu quản lý nguồn và định nghĩa; đội kỹ thuật thực thi quyền, trạng thái và giới hạn; người phụ trách bảo mật kiểm tra ranh giới; lãnh đạo quyết định chấp nhận rủi ro còn lại. Có thể một người kiêm nhiều vai trò, nhưng trách nhiệm không nên bị bỏ trống giữa các bộ phận.
Lợi ích kinh doanh cũng phải đo trên phần việc hoàn tất đúng. Giảm thời gian soạn phản hồi nhưng tăng thời gian sửa lỗi, xử lý khiếu nại hoặc kiểm tra lại thì chưa chắc hiệu quả. Một pilot có giá trị cần ghi cả thời gian tiết kiệm, tỷ lệ người dùng thực sự sử dụng, mức sửa đề xuất và các sự cố hoặc tình huống gần xảy ra sự cố.
Bảy câu hỏi nên trả lời được trước khi cho AI làm việc thật
- AI đang giúp ai làm công việc nào? Mô tả đầu vào, đầu ra và phạm vi cụ thể; tránh mục tiêu chung như “tự động hóa toàn công ty”.
- Dữ liệu đi qua đâu và được giữ ở những nơi nào? Bao gồm dịch vụ phụ, cache, hội thoại, log và bản sao cần quản lý.
- Ai kiểm tra quyền? Có bằng chứng máy chủ áp dụng quyền cho dữ liệu, tài liệu và từng công cụ; không giao quyết định này cho mô hình.
- Điều tệ nhất một công cụ có thể làm là gì? Xem quyền thực tế, giới hạn đối tượng và khả năng truyền thông tin ra ngoài.
- Hành động nào cần người duyệt và người đó nhìn thấy gì? Phê duyệt gắn với đúng tham số, phiên bản và thời điểm có hiệu lực.
- Đã thử những tình huống sai nào? Có kết quả mong đợi, bằng chứng và điều kiện chặn phát hành cho lỗi nghiêm trọng.
- Khi cần dừng, ai dừng và dừng được tới đâu? Kiểm tra cả tác vụ đang chờ, kết nối và hệ thống đích.
AI Security tốt giúp doanh nghiệp xác định phần việc có thể giao cho AI một cách rõ ràng. Khi dữ liệu được giới hạn đúng, quyền được thực thi tại hệ thống và hành động được kiểm chứng, doanh nghiệp có cơ sở mở rộng từng bước. Giá trị bền vững đến từ việc hoàn thành công việc đúng trong phạm vi được phép, chứ không chỉ từ một trợ lý có thể làm thật nhiều thứ.
Để nối với bài toán vận hành, bạn có thể đọc thêm AI Automation trong phân tích dữ liệu: từ dữ liệu đến hành động. Khi chuyển một kết luận thành thao tác thực tế, các ranh giới bảo vệ trong bài này trở thành một phần của thiết kế nghiệp vụ.
Tài liệu tham khảo
- NIST AI 600-1: Generative Artificial Intelligence Profile
- OWASP: Prompt Injection, trang phiên bản 2025
- OWASP: Sensitive Information Disclosure, trang phiên bản 2025
- OWASP: Excessive Agency, trang phiên bản 2025
- OWASP: Authorization Cheat Sheet
- OWASP: Improper Output Handling, trang phiên bản 2025
- OWASP: Supply Chain, trang phiên bản 2025
- OWASP: Unbounded Consumption, trang phiên bản 2025
- NCSC: Prompt injection is not SQL injection
Đối chiếu nguồn ngày 15/11/2026. Bài tham chiếu các trang OWASP có nhãn phiên bản 2025, không tuyên bố đây là bảng xếp hạng mới nhất. Các tình huống, bảng và sơ đồ là phần diễn giải thiết kế cho doanh nghiệp; không phải xác nhận tuân thủ hoặc đánh giá bảo mật của một sản phẩm cụ thể.

Comments are closed!