Tudi znanje ima mejo dostopa

Navedba kaže na pogodbo, a ta pripada napačni stranki. V tem ponazoritvenem primeru pomočnik za podporo v mapah dveh strank išče datum podaljšanja. Najde podobno pogodbo druge stranke, jo doda v kontekst in gladko odgovori.

To ni poročilo o resničnem incidentu. Navedba vir naredi videti skrbno izbran, hkrati pa razkrije podatke napačne stranke. Napaka se je zgodila, preden je model napisal stavek.

Pregledana razprava o tem, kje naj živi znanje za AI, poda uporabno arhitekturno misel: znanje, ki se razlikuje po uporabniku, potrebuje plast iskanja z nadzorom dostopa. Microsoftova navodila za dostop do dokumentov opisujejo preverjanje dovoljenj na indeksiranih dokumentih in identiteto ob poizvedbi. Splošno pravilo je preprostejše od kateregakoli iskalnega izdelka: v pot do odgovora sme priti le dovoljeno gradivo.

Mejo postavite pred odgovor

Poziv lahko pomočniku naroči, naj bo jedrnat, navaja vire ali prosi za pojasnilo. Ne more mu varno reči „ne uporabi dokumentov napačne stranke“, če mu hkrati te dokumente izročite. Če je iskanje mejo že prestopilo, od poziva zahtevate, da odpravi napako dostopa.

Identiteto klicatelja mora potrditi aplikacija. Iskalna poizvedba mora nositi ustrezen obseg: najemnika, vlogo, račun ali dovoljenja za dokumente, kot zahteva področje. Možne rezultate je treba filtrirati ali preveriti njihovo dostopnost, preden besedilo dobi model. Če lahko odgovor sproži zapis, mora pot za zapis znova preveriti pooblastilo za ciljni zapis.

1. Identiteta klicatelja

   overite v aplikaciji

   omejuje
2. Iskanje v dovoljenem obsegu najemnik · vloga · dokument

   filtrirajte pred kontekstom modela

   omejuje
3. Odgovor na podlagi virov

   navedite dovoljene dokaze

   omejuje
4. Odobritev zapisa

   znova preverite ciljni zapis

To ni zgolj težava vektorskega iskanja. Ključne besede, predpomnjeni povzetki, spomin pogovora in rezultati orodij lahko prav tako nosijo zasebno vsebino. Povzetek, izpeljan iz dokumenta enega najemnika, ostane zaseben tudi po krajšanju izvirnika.

Naš vodnik za povezovanje poslovnih orodij vpraša, kdo ima v lasti vsak zapis in kateri sistem je avtoritativen. Pri pomočniku dodajte vprašanje: kdo sme vedeti, da ta zapis obstaja?

Majhen primer pokaže pravi vrstni red

Predpostavimo, da ima ponazoritveni indeks štiri dokumente: dva javna članka pomoči, eno pogodbo za najemnika A in eno za najemnika B. Uporabnik najemnika A vpraša po pogojih obračunavanja. Najbližje pomensko ujemanje je pogodba najemnika B.

Iskanje brez omejitve jo vrne. Poznejše navodilo „odgovori le za najemnika A“ ne more zagotoviti varnosti; vsebina je že v kontekstu modela. Iskanje z omejenim obsegom odstrani dokument najemnika B pred razvrščanjem ali vrne le dovoljene kandidate. Pomočnik lahko nato odgovori iz pogodbe najemnika A ali pove, da nima potrebnega vira.

Natančna izvedba je odvisna od platforme. Vzorec varnostnega filtriranja v Azure AI Search dokumentom pripne identifikatorje skupin in pri vsaki poizvedbi uporabi filter. Dokumentacija opozarja tudi, da skrivanje polja z dovoljenji v odgovoru samo po sebi ni nadzor dostopa. Del, ki ga je mogoče uveljaviti, sta filter in identiteta klicatelja za njim.

Razlika je pomembna, ko se dovoljenja spremenijo. Če zaposleni izgubi dostop, star predpomnilnik ali zastarel indeks dokumenta ne sme še naprej streči. Ekipe potrebujejo določen postopek posodobitve in preizkuse za odvzem dostopa, ne le za začetno dodelitev. Če storitev za iskanje ne more spoštovati izvornega modela dostopa, je kopiranje vira v tak indeks morda napačna arhitektura.

Dovoljenje in ustreznost sta različna preizkusa

Dokument, do katerega ima klicatelj dovoljen dostop, je lahko nepomemben ali zastarel. Natančen odgovor je lahko nedovoljen. To sta ločena načina odpovedi, zato ju preverjajte ločeno.

Najprej preverite mejo: ali lahko klicatelj enega najemnika pridobi, navede ali sklepa o zasebni vsebini drugega? Vključite neposredna vprašanja, parafraze in povzetke. Nato preverite kakovost odgovora znotraj dovoljenega nabora: ali pomočnik izbere trenutno pravilo in prizna, ko dokazov ni? Microsoftova navodila za RAG izrecno priporočajo nadzor dostopa ob iskanju in obravnavo pridobljene vsebine kot nezaupanja vredne.

To ima ceno. Indeksiranje z dovoljenji zahteva metapodatke, povezovanje identitet in obravnavo odvzema dostopa. Po filtriranju bodo nekateri rezultati prazni. To je pravilen izid, če klicatelj nima dokazov. Samozavestno ugibanje bi varovalo dostopa spremenilo v težavo točnosti.

Ta meja je tudi praktičen preizkus širšega pravila o izjemah pri avtomatizaciji: kaj se zgodi, ko je nabor dovoljenih rezultatov prazen? Dobra zasnova lahko vrne „Za ta odgovor nimam dostopa do vira“ in ponudi pravo pot za nadaljnjo obravnavo. Ne sme iskati po širšem najemniku, uporabiti starega odgovora ali sklepati o zasebnih podrobnostih iz naslova dokumenta. Prazen rezultat obravnavajte kot običajno stanje poteka dela, ki ga lahko preizkusite. Dovoljenje je del pravilnosti, ne posebnost za popravek po zagonu.

Koristen pomočnik ni tisti, ki ve vse o podjetju. Je tisti, ki najde pravi dokaz znotraj klicateljevega pooblastila in pove, kdaj zaradi te meje vprašanje ostane brez odgovora.