Tri thức có ranh giới truy cập

Trích dẫn chỉ tới một hợp đồng, nhưng hợp đồng thuộc khách hàng khác. Trong ca minh họa này, trợ lý hỗ trợ tìm ngày gia hạn trong thư mục của hai khách hàng. Nó thấy hợp đồng tương tự của khách hàng kia, đưa vào ngữ cảnh rồi trả lời trôi chảy.

Đây không phải sự cố được ghi nhận. Trích dẫn làm câu trả lời có vẻ cẩn thận trong khi lộ dữ liệu khách hàng khác. Lỗi xảy ra trước khi mô hình viết một câu.

Bài nói được thu thập về nơi lưu tri thức AI nêu điểm kiến trúc hữu ích: tri thức thay đổi theo người dùng cần lớp truy xuất có kiểm soát truy cập. Hướng dẫn kiểm quyền cấp tài liệu của Microsoft mô tả kiểm quyền gắn với tài liệu đã lập chỉ mục và định danh lúc truy vấn. Quy tắc chung đơn giản hơn bất kỳ sản phẩm tìm kiếm nào: chỉ tài liệu được phép mới vào đường trả lời.

Đặt ranh giới trước câu trả lời

Prompt có thể yêu cầu trợ lý ngắn gọn, trích nguồn hoặc hỏi rõ. Nó không thể nói an toàn “nhớ đừng dùng tài liệu khách hàng khác” trong khi trao chính tài liệu đó cho mô hình. Nếu truy xuất đã vượt ranh giới, prompt bị giao sửa một lỗi truy cập.

Ứng dụng cần xác lập định danh người gọi. Truy vấn tìm kiếm phải mang phạm vi tương ứng: tenant, vai trò, tài khoản hoặc quyền tài liệu tùy miền. Kết quả ứng viên phải được lọc hoặc kiểm quyền trước khi văn bản đến mô hình. Nếu câu trả lời có thể kích hoạt lượt ghi, đường ghi phải kiểm quyền lại trên bản ghi đích.

Đây không chỉ là vấn đề tìm kiếm vector. Tìm từ khóa, bản tóm tắt lưu đệm, bộ nhớ hội thoại và kết quả công cụ đều có thể mang nội dung riêng. Tóm tắt từ tài liệu của một tenant vẫn riêng dù văn bản nguồn đã rút ngắn.

Hướng dẫn kết nối công cụ kinh doanh hỏi ai sở hữu mỗi bản ghi và hệ thống nào là nguồn chuẩn. Với trợ lý, thêm câu hỏi: ai được phép biết bản ghi này tồn tại?

Ví dụ nhỏ cho thấy thứ tự quan trọng

Giả sử chỉ mục minh họa có bốn tài liệu: hai bài trợ giúp công khai, một hợp đồng của Tenant A và một của Tenant B. Người dùng từ Tenant A hỏi về điều khoản thanh toán. Kết quả gần nhất về nghĩa lại là hợp đồng của Tenant B.

Bước truy xuất không giới hạn sẽ trả nó. Chỉ dẫn về sau “chỉ trả lời cho Tenant A” không đảm bảo an toàn; nội dung đã vào ngữ cảnh mô hình. Bước truy xuất có phạm vi bỏ tài liệu Tenant B trước khi xếp hạng hoặc chỉ trả ứng viên được phép. Khi ấy trợ lý có thể trả lời từ hợp đồng Tenant A hoặc nói thiếu nguồn cần thiết.

Cách thực hiện cụ thể tùy nền tảng. Mẫu lọc bảo mật của Azure AI Search gắn mã nhóm vào tài liệu và áp bộ lọc cho mỗi truy vấn. Tài liệu này còn cảnh báo giấu trường quyền khỏi phản hồi tự nó không phải kiểm soát truy cập. Phần có hiệu lực là bộ lọc và định danh người gọi phía sau.

Khác biệt ấy quan trọng khi quyền đổi. Nếu nhân viên mất quyền, bộ đệm cũ hoặc chỉ mục chưa cập nhật không được tiếp tục cung cấp tài liệu. Nhóm cần đường cập nhật rõ và kiểm thử thu hồi, không chỉ thử cấp quyền ban đầu. Nếu dịch vụ truy xuất không tôn trọng mô hình quyền của nguồn, sao chép nguồn vào chỉ mục đó có thể là kiến trúc sai.

Quyền và độ liên quan là hai phép thử khác nhau

Tài liệu được phép vẫn có thể không liên quan hoặc lỗi thời. Câu trả lời chính xác vẫn có thể là trái quyền. Đây là hai kiểu lỗi riêng, nên đánh giá riêng.

Trước tiên thử ranh giới: người gọi từ một tenant có thể truy xuất, trích dẫn hay suy ra nội dung riêng của tenant khác không? Gồm câu hỏi trực tiếp, cách diễn đạt lại và tóm tắt. Sau đó thử chất lượng câu trả lời trong tập được phép: trợ lý có chọn chính sách hiện hành và thừa nhận khi thiếu bằng chứng không? Hướng dẫn RAG của Microsoft khuyến nghị kiểm soát truy cập lúc truy xuất và xem nội dung được truy xuất là không đáng tin.

Có chi phí đi kèm. Chỉ mục có quyền cần siêu dữ liệu, ánh xạ định danh và xử lý thu hồi. Một số lượt tìm sẽ rỗng sau lọc. Đó là kết quả đúng khi người gọi không có bằng chứng. Lấp khoảng trống bằng suy đoán tự tin sẽ biến biện pháp bảo vệ truy cập thành vấn đề chính xác.

Ranh giới này còn là phép thử thực tế cho quy tắc ngoại lệ trong tự động hóa: nên làm gì khi tập tìm kiếm được phép rỗng? Thiết kế tốt có thể trả “Tôi không thể truy cập nguồn cho câu trả lời đó” và chỉ đường chuyển cấp phù hợp. Nó không nên tìm rộng sang tenant khác, dùng câu cũ hoặc suy ra chi tiết riêng từ tiêu đề tài liệu. Hãy coi kết quả rỗng là trạng thái bình thường có thể thử của quy trình. Quyền là một phần của tính đúng, không phải ca đặc biệt để vá sau khi ra mắt.

Trợ lý hữu ích không phải thứ biết mọi điều trong công ty. Nó tìm đúng bằng chứng trong phạm vi quyền của người gọi và nói rõ khi ranh giới ấy khiến câu hỏi chưa có đáp án.