Ezen az oldalon
Egy hivatkozás szerződésre mutat, de az másik ügyfélé. Ebben a képzeletbeli esetben a támogatói asszisztens két ügyfél mappájában keres szerződésmegújítási dátumot. A másik ügyfélnél talál egy hasonló szerződést, beteszi a kontextusba, és gördülékenyen válaszol.
Ez nem bejelentett incidens. A hivatkozás gondosnak láttatja a választ, miközben a rossz ügyfél adatát fedi fel. A hiba még azelőtt történt, hogy a modell mondatot írt volna.
Egy feldolgozott előadás arról, hol legyen az MI tudása hasznos architekturális gondolatot fogalmaz meg: a felhasználónként eltérő tudáshoz hozzáférés-ellenőrzött lekérési réteg kell. A Microsoft dokumentumszintű hozzáférési útmutatója indexelt dokumentumokhoz és lekérdezéskori azonossághoz kötött jogosultsági ellenőrzéseket ír le. Az általános szabály egyszerűbb bármely konkrét keresőterméknél: a válasz útjára csak engedélyezett anyag kerülhet.
A határ a válasz előtt legyen
A prompt megkérheti az asszisztenst, hogy fogalmazzon tömören, hivatkozzon forrásokra vagy tisztázzon egy kérdést. Nem mondhatja biztonságosan, hogy „ne használd a rossz ügyfél dokumentumait”, miközben odaadja a modellnek azokat a dokumentumokat. Ha a lekérés már átlépte a határt, a promptra egy hozzáférési hiba visszacsinálását bízzuk.
A hívó azonosságát az alkalmazásnak kell megállapítania. A keresőkérdésnek hordoznia kell az ebből következő hatókört: ügyfélfiókot, szerepet, fiókot vagy dokumentumjogosultságot a terület igénye szerint. A jelölt eredményeket még a szöveg modellhez adása előtt szűrni vagy engedélyezni kell. Ha a válasz írást indíthat, az írási útnak újra ellenőriznie kell a jogosultságot a célrekordra.
- Hívó azonossága
hitelesítés az alkalmazásban
- Korlátozott lekérés fiók · szerep · dokumentum
szűrés a modellkontextus előtt
- Forrással alátámasztott válasz
engedélyezett bizonyíték hivatkozása
- Írás engedélyezése
a célrekord újraellenőrzése
Ez nem csak vektorkeresési probléma. Kulcsszavas keresés, gyorsítótárazott összefoglaló, beszélgetési memória és eszközeredmény mind hordozhat privát tartalmat. Egy fiók dokumentumából készült összefoglaló a rövidítés után is privát marad.
Az üzleti eszközök összekapcsolásáról szóló útmutatónk megkérdezi, ki birtokolja a rekordot, és melyik rendszer a mértékadó. Asszisztensnél tedd hozzá: ki tudhat egyáltalán a rekord létezéséről?
Egy kis példa megmutatja a sorrendet
Tegyük fel, hogy egy képzeletbeli indexben négy dokumentum van: két nyilvános súgócikk, az A fiók egyik szerződése és a B fiók egyik szerződése. Az A fiók felhasználója a számlázási feltételekről kérdez. A szemantikailag legközelebbi találat éppen a B fiók szerződése.
A korlátozás nélküli lekérés visszaadja. A későbbi „csak az A fióknak válaszolj” utasítás nem garantál biztonságot; a tartalom már a modellkontextusban van. A korlátozott lekérés a rangsorolás előtt eltávolítja a B fiók dokumentumát, vagy csak engedélyezett jelölteket ad vissza. Az asszisztens ezután az A fiók szerződéséből válaszolhat, vagy közölheti, hogy nincs hozzáférhető forrása.
A pontos megvalósítás a platformtól függ. Az Azure AI Search biztonsági szűrési mintája csoportazonosítókat kapcsol a dokumentumokhoz, és minden lekérdezésre szűrőt alkalmaz. A dokumentáció arra is figyelmeztet, hogy egy jogosultsági mező elrejtése a válaszból önmagában nem hozzáférés-vezérlés. A kikényszeríthető rész a szűrő és a mögötte álló hívóazonosság.
A különbség akkor is számít, ha a jogosultság megváltozik. Ha valaki elveszíti hozzáférését, a régi gyorsítótár vagy elavult index nem szolgálhatja ki tovább a dokumentumot. A csapatnak meghatározott frissítési út és jogosultság-visszavonási teszt kell, nem csak az első engedélyezés vizsgálata. Ha a lekérési szolgáltatás nem tudja tiszteletben tartani a forrás hozzáférési modelljét, a forrás bemásolása ebbe az indexbe rossz architektúra lehet.
A jogosultság és a relevancia külön teszt
Egy engedélyezett dokumentum is lehet irreleváns vagy elavult. Egy pontos válasz is lehet jogosulatlan. Ezek külön hibák, ezért külön értékeld őket.
Először a határt teszteld: egyik fiók hívója lekérheti, idézheti vagy következtethet-e másik fiók privát tartalmára? Legyenek közvetlen kérdések, átfogalmazások és összefoglalási kérések. Utána vizsgáld a válasz minőségét az engedélyezett halmazon belül: a jelenlegi szabályt választja-e az asszisztens, és elismeri-e, ha nincs bizonyítéka? A Microsoft RAG-útmutatója kifejezetten lekéréskori hozzáférés-vezérlést és a lekért tartalom bizalmatlan kezelését javasolja.
Ennek költsége van. A jogosultságtudatos indexeléshez metaadatok, azonosság-összerendelés és visszavonáskezelés kell. Néhány keresés a szűrés után üres lesz. Ez a helyes eredmény, ha a hívónak nincs bizonyítéka. Magabiztos találgatással kitölteni az űrt azt jelentené, hogy a hozzáférési védelem pontossági problémává válik.
Ez a határ a tágabb automatizálási kivételszabály gyakorlati próbája is: mi történjen, ha az engedélyezett találatok halmaza üres? A jó rendszer válaszolhat úgy, hogy „Ehhez a válaszhoz nem férek hozzá forráshoz”, és felajánlhatja a megfelelő továbbküldést. Ne keressen szélesebb fiókban, ne használjon régi választ, és ne következtessen privát részletekre dokumentumcímekből. Az üres találat a munkafolyamat normál, tesztelhető állapota. A jogosultság a helyesség része, nem indítás utáni folt.
A hasznos asszisztens nem az, amely a cégben mindent tud. Hanem amely a hívó felhatalmazásán belül megtalálja a helyes bizonyítékot, és kimondja, ha a határ miatt a kérdés nyitva marad.
Gyakran Ismételt Kérdések
Elég a promptban megtiltani a privát rekordok kiadását?
A prompt leírhat viselkedést, de nem helyettesíti a felhatalmazást. A lekérést korlátozd a hívó által megtekinthető dokumentumokra, és a jelentős következményű művelet előtt ismét ellenőrizd a jogosultságot.
Hol érvényesítsük a fiókok közötti jogosultságot lekérésnél?
Kapcsold a hitelesített hívót a lekérdezéshez, és a jelölt dokumentumokat szűrd vagy engedélyezd még azelőtt, hogy a tartalmuk a modell kontextusába kerül. A jogosultsági metaadatokat a hozzáférések változásával együtt tartsd naprakészen.
A hivatkozás elég ahhoz, hogy a válasz megbízható legyen?
Nem. A hivatkozás megmutatja a válasz forrását. Nem bizonyítja, hogy a hívó láthatta azt, vagy hogy az alapadat aktuális és helyes.