Η γνώση έχει όριο πρόσβασης

Μια παραπομπή δείχνει σύμβαση, αλλά ανήκει σε λάθος πελάτη. Σε αυτή την υποθετική περίπτωση, ένας βοηθός υποστήριξης ψάχνει τους φακέλους δύο πελατών για ημερομηνία ανανέωσης. Βρίσκει παρόμοια σύμβαση του άλλου πελάτη, τη βάζει στο πλαίσιό του και απαντά με άνεση.

Δεν περιγράφεται πραγματικό περιστατικό. Η παραπομπή κάνει την απάντηση να μοιάζει προσεκτική ενώ αποκαλύπτει δεδομένα άλλου πελάτη. Το ελάττωμα προηγήθηκε της πρότασης που έγραψε το μοντέλο.

Μια καταγεγραμμένη ομιλία για το πού πρέπει να βρίσκεται η γνώση AI θέτει χρήσιμο αρχιτεκτονικό σημείο: η γνώση που διαφέρει ανά χρήστη χρειάζεται επίπεδο ανάκτησης με έλεγχο πρόσβασης. Οι οδηγίες της Microsoft για πρόσβαση ανά έγγραφο περιγράφουν ελέγχους αδειών συνδεδεμένους με ευρετηριασμένα έγγραφα και ταυτότητα κατά το ερώτημα. Ο γενικός κανόνας είναι απλούστερος από κάθε προϊόν αναζήτησης: μόνο εξουσιοδοτημένο υλικό πρέπει να φτάνει στη διαδρομή της απάντησης.

Βάλτε το όριο πριν από την απάντηση

Μια προτροπή μπορεί να ζητήσει από τον βοηθό να είναι σύντομος, να παραπέμπει σε πηγές ή να ζητά διευκρίνιση. Δεν μπορεί με ασφάλεια να πει «θυμήσου να μη χρησιμοποιήσεις έγγραφα λάθος πελάτη» ενώ του δίνει αυτά τα έγγραφα. Αν η ανάκτηση έχει ήδη περάσει το όριο, η προτροπή καλείται να διορθώσει αστοχία πρόσβασης.

Η εφαρμογή πρέπει να ταυτοποιεί τον καλούντα. Το ερώτημα αναζήτησης πρέπει να μεταφέρει το αντίστοιχο πεδίο πρόσβασης: πελάτη, ρόλο, λογαριασμό ή άδειες εγγράφων, ανάλογα με το πεδίο. Τα υποψήφια αποτελέσματα πρέπει να φιλτράρονται ή να εξουσιοδοτούνται πριν δοθεί το κείμενό τους στο μοντέλο. Αν η απάντηση μπορεί να ενεργοποιήσει εγγραφή, η διαδρομή εγγραφής πρέπει να ελέγξει ξανά την άδεια για τη συγκεκριμένη εγγραφή-στόχο.

Δεν είναι μόνο πρόβλημα διανυσματικής αναζήτησης. Αναζήτηση λέξεων, αποθηκευμένες περιλήψεις, μνήμη συνομιλίας και αποτελέσματα εργαλείων μπορούν όλα να μεταφέρουν ιδιωτικό περιεχόμενο. Μια περίληψη που παράχθηκε από έγγραφο ενός πελάτη παραμένει ιδιωτική και μετά τη συντόμευση.

Ο οδηγός σύνδεσης επιχειρηματικών εργαλείων ρωτά ποιος έχει την ευθύνη κάθε εγγραφής και ποιο σύστημα ορίζει την ορθή τιμή. Για τον βοηθό προσθέστε άλλη ερώτηση: σε ποιον επιτρέπεται να γνωρίζει ότι αυτή η εγγραφή υπάρχει;

Ένα μικρό παράδειγμα δείχνει τη σειρά των βημάτων

Ας υποθέσουμε ότι ένα υποθετικό ευρετήριο έχει τέσσερα έγγραφα: δύο δημόσια άρθρα βοήθειας, μία σύμβαση για τον Πελάτη Α και μία για τον Πελάτη Β. Χρήστης του Πελάτη Α ρωτά για όρους τιμολόγησης. Το πλησιέστερο σημασιολογικό αποτέλεσμα τυχαίνει να είναι η σύμβαση του Β.

Η ανάκτηση χωρίς περιορισμό την επιστρέφει. Μια μεταγενέστερη εντολή «απάντησε μόνο για τον Πελάτη Α» δεν εγγυάται ασφάλεια: το περιεχόμενο έχει ήδη μπει στο πλαίσιο του μοντέλου. Η περιορισμένη ανάκτηση αφαιρεί το έγγραφο του Β πριν την κατάταξη ή επιστρέφει μόνο εξουσιοδοτημένες υποψηφιότητες. Έτσι ο βοηθός μπορεί να απαντήσει από τη σύμβαση του Α ή να πει ότι λείπει η απαιτούμενη πηγή.

Η ακριβής υλοποίηση εξαρτάται από την πλατφόρμα. Το μοτίβο φιλτραρίσματος ασφάλειας στο Azure AI Search συνδέει αναγνωριστικά ομάδων με έγγραφα και εφαρμόζει φίλτρο σε κάθε ερώτημα. Η τεκμηρίωση προειδοποιεί επίσης ότι η απόκρυψη ενός πεδίου αδειών από την απάντηση δεν αποτελεί από μόνη της έλεγχο πρόσβασης. Αυτό που επιβάλλεται είναι το φίλτρο και η ταυτότητα του καλούντος πίσω του.

Η διάκριση μετρά όταν αλλάζουν οι άδειες. Αν εργαζόμενος χάσει την πρόσβαση, μια παλιά cache ή ένα παρωχημένο ευρετήριο δεν πρέπει να συνεχίσει να του δίνει το έγγραφο. Οι ομάδες χρειάζονται καθορισμένη διαδρομή ενημέρωσης και δοκιμές ανάκλησης, όχι μόνο δοκιμές αρχικής χορήγησης. Αν η υπηρεσία ανάκτησης δεν μπορεί να τηρήσει το μοντέλο πρόσβασης της πηγής, η αντιγραφή της πηγής σε αυτό το ευρετήριο μπορεί να είναι λάθος αρχιτεκτονική.

Άδεια και συνάφεια είναι διαφορετικοί έλεγχοι

Ένα εξουσιοδοτημένο έγγραφο μπορεί να είναι άσχετο ή παλιό. Μια ακριβής απάντηση μπορεί να μην επιτρέπεται. Είναι διαφορετικές αστοχίες και πρέπει να αξιολογούνται χωριστά.

Πρώτα ελέγξτε το όριο: μπορεί καλών από έναν πελάτη να ανακτήσει, να παραπέμψει ή να συναγάγει ιδιωτικό περιεχόμενο άλλου; Συμπεριλάβετε άμεσες ερωτήσεις, παραφράσεις και περιλήψεις. Έπειτα ελέγξτε την ποιότητα απάντησης μέσα στο επιτρεπόμενο σύνολο: επιλέγει ο βοηθός την τρέχουσα πολιτική και παραδέχεται ότι λείπουν στοιχεία; Οι οδηγίες RAG της Microsoft συνιστούν ρητά έλεγχο πρόσβασης κατά την ανάκτηση και αντιμετώπιση του ανακτημένου περιεχομένου ως μη έμπιστου.

Υπάρχει κόστος. Η ευρετηρίαση με επίγνωση αδειών απαιτεί μεταδεδομένα, αντιστοίχιση ταυτοτήτων και χειρισμό ανάκλησης. Μερικά αποτελέσματα θα είναι κενά μετά το φιλτράρισμα. Αυτό είναι σωστό όταν ο καλών δεν διαθέτει στοιχεία. Το να καλυφθεί το κενό με βέβαιη εικασία θα μετέτρεπε ένα μέτρο πρόσβασης σε πρόβλημα ακρίβειας.

Το όριο είναι και πρακτική δοκιμή του ευρύτερου κανόνα των εξαιρέσεων στην αυτοματοποίηση: τι γίνεται όταν η εξουσιοδοτημένη αναζήτηση δεν βρει τίποτα; Μια σωστή σχεδίαση μπορεί να πει «δεν έχω πρόσβαση σε πηγή για αυτή την απάντηση» και να προσφέρει κατάλληλη διαδρομή παραπομπής. Δεν πρέπει να ψάξει σε ευρύτερο πεδίο πελατών, να ξαναχρησιμοποιήσει παλιά απάντηση ή να συμπεράνει ιδιωτικές λεπτομέρειες από τίτλο εγγράφου. Το κενό αποτέλεσμα είναι φυσιολογική, ελέγξιμη κατάσταση της ροής. Η άδεια είναι μέρος της ορθότητας, όχι ειδική περίπτωση για μετά την κυκλοφορία.

Ένας χρήσιμος βοηθός δεν είναι εκείνος που γνωρίζει τα πάντα στην εταιρεία. Είναι εκείνος που βρίσκει τα σωστά στοιχεία μέσα στα όρια εξουσιοδότησης του καλούντος και λέει πότε αυτά αφήνουν την ερώτηση αναπάντητη.