Na tejto stránke
Citácia ukazuje na zmluvu, ale patrí nesprávnemu zákazníkovi. V tomto ilustratívnom prípade asistent podpory hľadá dátum obnovenia v priečinkoch dvoch zákazníkov. Nájde podobnú zmluvu druhého zákazníka, vloží ju do kontextu a plynulo odpovie.
Nejde o zdokumentovaný incident. Citácia vyvoláva dojem opatrnosti, hoci odhaľuje údaje nesprávneho zákazníka. Chyba vznikla skôr, než model napísal vetu.
Načítaná prednáška o tom, kde majú žiť znalosti AI prináša užitočný návrhový princíp: znalosti, ktoré sa menia podľa používateľa, potrebujú načítavaciu vrstvu s riadením prístupu. Pokyny Microsoftu k prístupu na úrovni dokumentu opisujú kontroly oprávnení naviazané na indexované dokumenty a identitu pri dotaze. Všeobecné pravidlo je jednoduchšie než konkrétny vyhľadávací produkt: do cesty odpovede sa smie dostať iba povolený materiál.
Hranicu umiestnite pred odpoveď
Prompt môže asistentovi prikázať stručnosť, citovanie zdrojov alebo kladenie doplňujúcich otázok. Nemôže bezpečne povedať „nezabudni nepoužiť dokumenty nesprávneho zákazníka“ a zároveň mu tieto dokumenty podať. Ak načítanie už prekročilo hranicu, od promptu sa očakáva náprava zlyhania prístupu.
Identitu volajúceho musí určiť aplikácia. Vyhľadávací dotaz musí niesť výsledný rozsah: podľa potreby domény organizáciu, rolu, účet alebo oprávnenia k dokumentom. Kandidátne výsledky treba filtrovať alebo autorizovať skôr, než sa ich text poskytne modelu. Ak odpoveď môže spustiť zápis, cesta zápisu musí oprávnenie voči cieľovému záznamu skontrolovať znova.
- Identita volajúceho
overenie v aplikácii
- Načítanie v rozsahu organizácia · rola · dokument
filter pred kontextom modelu
- Podložená odpoveď
citácia povolených dôkazov
- Autorizácia zápisu
nová kontrola cieľového záznamu
Nie je to len problém vektorového vyhľadávania. Súkromný obsah môžu niesť aj vyhľadávanie podľa kľúčových slov, uložené súhrny, pamäť rozhovoru a výsledky nástrojov. Súhrn odvodený od dokumentu jedného účtu zostáva súkromný aj po skrátení pôvodného textu.
Náš sprievodca prepojením podnikových nástrojov sa pýta, kto vlastní každý záznam a ktorý systém je autoritatívny. Pri asistentovi pridajte otázku: kto smie vedieť, že tento záznam existuje?
Malý príklad odhalí správne poradie
Predstavte si ilustratívny index so štyrmi dokumentmi: dvoma verejnými článkami pomoci, jednou zmluvou pre účet A a jednou pre účet B. Používateľ z účtu A sa pýta na fakturačné podmienky. Najbližšou významovou zhodou je zmluva účtu B.
Načítanie bez obmedzenia ju vráti. Neskorší pokyn „odpovedaj iba za účet A“ bezpečnosť nezaručí; obsah už vstúpil do kontextu modelu. Načítanie obmedzené podľa oprávnení odstráni dokument účtu B pred zoradením alebo vráti iba povolených kandidátov. Asistent potom môže odpovedať zo zmluvy účtu A alebo povedať, že potrebný zdroj nemá.
Presná implementácia závisí od platformy. Vzor bezpečnostného filtrovania v Azure AI Search pripája k dokumentom identifikátory skupín a pri každom dotaze používa filter. Dokumentácia tiež varuje, že skrytie poľa s oprávneniami v odpovedi samo osebe nie je riadením prístupu. Vynútiteľnou časťou je filter a identita volajúceho za ním.
Rozdiel je dôležitý pri zmene oprávnení. Ak pracovník stratí prístup, stará vyrovnávacia pamäť alebo zastaraný index mu dokument nesmú ďalej poskytovať. Tímy potrebujú definovanú cestu aktualizácie a testy odobratia prístupu, nielen testy jeho prvého udelenia. Ak načítavacia služba nedokáže rešpektovať prístupový model zdroja, kopírovanie zdroja do takého indexu môže byť nesprávnym návrhom.
Oprávnenie a relevantnosť sú odlišné testy
Povolený dokument môže byť nerelevantný alebo zastaraný. Presná odpoveď môže byť nepovolená. Sú to oddelené spôsoby zlyhania, preto ich testujte oddelene.
Najprv testujte hranicu: dokáže volajúci z jedného účtu načítať, citovať alebo odvodiť súkromný obsah druhého? Zahrňte priame otázky, parafrázy a súhrny. Potom testujte kvalitu odpovede v povolenej množine: vyberá asistent aktuálne pravidlá a priznáva nedostatok dôkazov? Pokyny Microsoftu pre RAG výslovne odporúčajú riadiť prístup pri načítavaní a považovať načítaný obsah za nedôveryhodný.
Niečo to stojí. Indexovanie so znalosťou oprávnení vyžaduje metadáta, mapovanie identity a riešenie odobratia prístupu. Po filtrovaní budú niektoré výsledky vyhľadávania prázdne. Keď volajúci nemá prístup k dôkazom, je to správny výsledok. Vyplniť medzeru sebavedomým odhadom by z bezpečnostnej ochrany urobilo problém presnosti.
Táto hranica je aj praktickým testom širšieho pravidla automatizácie výnimiek: čo sa má stať, keď je množina povolených výsledkov prázdna? Dobrý návrh môže vrátiť „Nemám prístup k zdroju potrebnému na odpoveď“ a ponúknuť správnu cestu eskalácie. Nemá vyhľadávať v širšom rozsahu, znovu použiť starú odpoveď ani odvodzovať súkromné detaily z názvu dokumentu. Taký prázdny výsledok berte ako bežný a testovateľný stav pracovného postupu. Oprávnenie je súčasťou správnosti, nie výnimka na opravu po spustení.
Užitočný asistent nepozná všetko vo firme. Dokáže nájsť správne dôkazy v rámci právomoci volajúceho a povedať, keď hranica necháva otázku bez odpovede.
Často Kladené Otázky
Stačí asistentovi v prompte prikázať, aby neprezradil súkromné záznamy?
Prompt môže opísať správanie, ale nenahrádza autorizáciu. Obmedzte načítanie na dokumenty dostupné volajúcemu a pred krokmi s následkami oprávnenie znova vynucujte.
Kde sa majú uplatniť oprávnenia organizácie pri načítavaní?
Naviažte overeného volajúceho na dotaz a filtrujte alebo autorizujte kandidátne dokumenty skôr, než sa ich obsah dostane do kontextu modelu. Pri zmene prístupu aktualizujte údaje o oprávneniach.
Stačí citácia na dôveryhodnú odpoveď?
Nie. Citácia ukazuje, odkiaľ odpoveď pochádza. Nedokazuje, že volajúci smel vidieť zdroj ani že podkladové dáta sú aktuálne a správne.