Na ovoj stranici
Citat vodi do ugovora, ali on pripada pogrešnom kupcu. U ovom ilustrativnom slučaju pomoćnik za podršku traži datum obnove u fasciklama dva kupca. Pronađe sličan ugovor drugog kupca, stavi ga u kontekst i tečno odgovori.
Ovo nije prijavljen incident. Citat čini odgovor pažljivim naizgled, a istovremeno otkriva podatke pogrešnog kupca. Greška se dogodila pre nego što je model napisao rečenicu.
Pregledana rasprava o tome gde AI znanje treba da živi daje korisnu arhitektonsku misao: znanju koje se razlikuje među korisnicima treba sloj pretrage sa kontrolom pristupa. Microsoft smernice za pristup dokumentima opisuju dozvole povezane sa indeksiranim dokumentima i identitet u trenutku upita. Opšte pravilo je jednostavnije od jednog proizvoda za pretragu: samo dozvoljen materijal sme stići na put do odgovora.
Granicu stavite pre odgovora
Prompt može reći pomoćniku da bude kratak, navodi izvore ili traži pojašnjenje. Ne može bezbedno reći „ne koristi dokumente pogrešnog kupca“ dok mu istovremeno daje te dokumente. Ako je pretraga već prešla granicu, prompt mora da pokušava da poništi grešku pristupa.
Identitet pozivaoca treba da uspostavi aplikacija. Upit za pretragu mora nositi odgovarajući opseg: organizaciju, ulogu, nalog ili dozvole za dokumente, kako oblast zahteva. Mogući rezultati treba da budu filtrirani ili odobreni pre nego što njihov tekst dođe modelu. Ako odgovor može izazvati upis, put upisa mora ponovo proveriti ovlašćenje nad ciljnim zapisom.
- Identitet pozivaoca
potvrdite u aplikaciji
- Ograničena pretraga organizacija · uloga · dokument
filtrirajte pre konteksta modela
- Odgovor utemeljen u izvoru
navedite dozvoljene dokaze
- Odobrenje upisa
ponovo proverite ciljni zapis
Ovo nije samo problem vektorske pretrage. Pretraga po rečima, keširani sažeci, memorija razgovora i rezultati alata mogu nositi privatni sadržaj. Sažetak izveden iz dokumenta jedne organizacije ostaje privatan i kada je izvorni tekst skraćen.
Naš vodič za povezivanje poslovnih alata pita ko upravlja svakim zapisom i koji sistem je autoritativan. Za pomoćnika dodajte pitanje: ko sme znati da ovaj zapis postoji?
Mali primer otkriva redosled
Pretpostavimo da ilustrativan indeks ima četiri dokumenta: dva javna članka pomoći, jedan ugovor organizacije A i jedan organizacije B. Korisnik iz organizacije A pita za uslove naplate. Najbliže semantičko poklapanje slučajno je ugovor organizacije B.
Neograničena pretraga ga vraća. Kasnije uputstvo „odgovori samo za organizaciju A“ ne garantuje bezbednost; sadržaj je već u kontekstu modela. Ograničena pretraga uklanja dokument B pre rangiranja ili vraća samo dozvoljene kandidate. Pomoćnik zatim može odgovoriti iz ugovora A ili reći da nema potreban izvor.
Tačna izvedba zavisi od platforme. Obrazac bezbednosnog filtriranja u Azure AI Search vezuje identifikatore grupa za dokumente i koristi filter pri svakom upitu. Dokumentacija upozorava i da skrivanje polja sa dozvolama iz odgovora samo po sebi nije kontrola pristupa. Sprovodivi deo su filter i identitet pozivaoca iza njega.
Razlika je važna kada se dozvole promene. Ako zaposleni izgubi pristup, stari keš ili zastareo indeks ne sme nastaviti da vraća dokument. Timu treba definisan put ažuriranja i testovi oduzimanja pristupa, ne samo početnog dodeljivanja. Ako servis za pretragu ne može poštovati izvorni model pristupa, kopiranje izvora u taj indeks možda je pogrešna arhitektura.
Dozvola i relevantnost su različiti testovi
Dozvoljen dokument može biti nevažan ili zastareo. Tačan odgovor može biti nedozvoljen. To su odvojeni načini otkaza, pa ih testirajte odvojeno.
Prvo testirajte granicu: može li pozivalac iz jedne organizacije preuzeti, citirati ili zaključiti privatni sadržaj druge? Uključite direktna pitanja, preformulisana pitanja i sažetke. Zatim testirajte kvalitet odgovora u dozvoljenom skupu: da li pomoćnik bira aktuelno pravilo i priznaje kada dokaza nema? Microsoft smernice za RAG izričito preporučuju kontrolu pristupa pri pretrazi i tretiranje preuzetog sadržaja kao nepouzdanog.
To ima cenu. Indeksiranje sa dozvolama traži metapodatke, mapiranje identiteta i obradu oduzimanja pristupa. Neki rezultati će posle filtriranja biti prazni. To je tačan ishod kada pozivalac nema dokaze. Samouvereno pogađanje bi zaštitu pristupa pretvorilo u problem tačnosti.
Granica je i praktičan test šireg pravila o izuzecima u automatizaciji: šta se desi kada je dozvoljen skup pretrage prazan? Dobar dizajn može vratiti „Nemam pristup izvoru za taj odgovor“ i ponuditi pravi put eskalacije. Ne treba da pretraži širu organizaciju, upotrebi stari odgovor ili iz naslova dokumenta zaključi privatne detalje. Prazan rezultat tretirajte kao normalno stanje toka koje može da se testira. Dozvola je deo tačnosti, ne zakrpa za posle pokretanja.
Koristan pomoćnik nije onaj koji zna sve u kompaniji. To je onaj koji nalazi pravi dokaz unutar ovlašćenja pozivaoca i kaže kada granica ostavlja pitanje bez odgovora.
Često Postavljana Pitanja
Može li prompt zabraniti pomoćniku da otkrije privatne zapise?
Prompt može opisati ponašanje, ali ne zamenjuje autorizaciju. Pretragu ograničite na dokumente koje pozivalac sme da vidi i ponovo sprovedite dozvolu pre radnji sa posledicama.
Gde treba primeniti dozvole organizacije u sistemu za pretragu?
Vežite potvrđenog pozivaoca za upit i filtrirajte ili odobrite dokumente pre nego što njihov sadržaj uđe u kontekst modela. Metapodatke o dozvolama ažurirajte kada se pristup promeni.
Da li je naveden izvor dovoljan da odgovor bude pouzdan?
Ne. Navod pokazuje odakle odgovor dolazi. Ne dokazuje da je pozivalac smeo da vidi izvor ili da su osnovni podaci aktuelni i tačni.