Na ovoj stranici
Navod pokazuje ugovor, ali pripada pogrešnom kupcu. U ovom ilustrativnom slučaju pomoćnik podrške pretražuje mape dvaju kupaca tražeći datum obnove. Nalazi sličan ugovor drugog kupca, stavlja ga u kontekst i tečno odgovara.
Nije riječ o prijavljenom incidentu. Navod čini odgovor pažljivim dok otkriva podatke pogrešnog kupca. Nedostatak je nastao prije nego što je model napisao rečenicu.
Zabilježeno predavanje o tome gdje treba biti znanje AI-ja daje korisnu arhitekturnu ideju: znanje koje se razlikuje po korisniku treba sloj dohvata s kontrolom pristupa. Microsoftove upute za pristup po dokumentu opisuju provjere dopuštenja vezane uz indeksirane dokumente i identitet u trenutku upita. Opće pravilo jednostavnije je od bilo kojeg proizvoda za pretragu: do puta odgovora smije stići samo autoriziran materijal.
Granicu postavite prije odgovora
Uputa može tražiti da pomoćnik bude kratak, navodi izvore ili pita za pojašnjenje. Ne može mu sigurno reći „sjeti se ne koristiti dokumente krivog kupca” dok mu daje te dokumente. Ako je dohvat već prešao granicu, od upute se traži da poništi pogrešku pristupa.
Aplikacija mora potvrditi identitet pozivatelja, koji može biti osoba ili softverski proces. Upit za pretragu mora nositi dobiveni opseg: klijenta, ulogu, račun ili dopuštenja dokumenata kako područje traži. Mogući rezultati trebaju biti filtrirani ili autorizirani prije nego što tekst dođe modelu. Ako odgovor može pokrenuti zapisivanje, put zapisivanja mora ponovno provjeriti ovlast nad točnim ciljanim zapisom.
- Identitet pozivatelja
potvrdite u aplikaciji
- Ograničeni dohvat klijent · uloga · dokument
filtrirajte prije konteksta modela
- Odgovor s izvorom
navedite dopuštene dokaze
- Ovlast zapisivanja
ponovno provjerite ciljani zapis
Nije to samo problem vektorske pretrage. Pretraga riječi, spremljeni sažeci, pamćenje razgovora i rezultati alata svi mogu nositi privatan sadržaj. Sažetak nastao iz dokumenta jednog klijenta ostaje privatan i nakon što je izvorni tekst skraćen.
Naš vodič za povezivanje poslovnih alata pita tko je vlasnik svakog zapisa i koji je sustav mjerodavan za njegovu vrijednost. Za pomoćnika dodajte pitanje: tko smije znati da taj zapis postoji?
Mali primjer otkriva redoslijed
Pretpostavimo da ilustrativni indeks ima četiri dokumenta: dva javna članka pomoći, jedan ugovor Klijenta A i jedan Klijenta B. Korisnik Klijenta A pita za uvjete naplate. Najbliže značenjsko podudaranje slučajno je ugovor B.
Dohvat bez ograničenja vraća ga. Kasnija uputa „odgovori samo za Klijenta A” ne jamči sigurnost; sadržaj je već u kontekstu modela. Dohvat ograničen opsegom uklanja dokument B prije rangiranja ili vraća samo autorizirane mogućnosti. Pomoćnik tada može odgovoriti iz ugovora A ili reći da mu potreban izvor nije dostupan.
Točna provedba ovisi o platformi. Sigurnosni filtar u Azure AI Searchu dodaje identifikatore skupina dokumentima i primjenjuje filtar pri svakom upitu. Dokumentacija upozorava da skrivanje polja dopuštenja iz odgovora samo po sebi nije kontrola pristupa. Provediv dio je filtar i potvrđen identitet pozivatelja iza njega.
Razlika je važna kada se dopuštenja mijenjaju. Ako radnik izgubi pristup, stara predmemorija ili zastarjeli indeks ne smije nastaviti posluživati dokument. Timovi trebaju određen put ažuriranja i testove opoziva, ne samo testove početne dodjele. Ako usluga dohvata ne može poštovati model pristupa izvora, kopiranje izvora u taj indeks možda je pogrešna arhitektura.
Dopuštenje i relevantnost različiti su testovi
Autoriziran dokument može biti nevažan ili zastario. Točan odgovor može biti nedopušten. To su različite pogreške i treba ih zasebno ocjenjivati.
Najprije testirajte granicu: može li pozivatelj jednog klijenta dohvatiti, navesti ili zaključiti privatan sadržaj drugoga? Uključite izravna pitanja, preoblikovanja i sažetke. Zatim testirajte kvalitetu odgovora unutar dopuštenog skupa: bira li pomoćnik aktualnu politiku i priznaje li kada dokaz nedostaje? Microsoftove upute za RAG izričito preporučuju kontrolu pristupa pri dohvatu i postupanje s dohvaćenim sadržajem kao s nepouzdanim.
Postoji cijena. Indeksiranje uz dopuštenja zahtijeva metapodatke, povezivanje identiteta i obradu opoziva. Neki će rezultati nakon filtriranja biti prazni. To je ispravan ishod kada pozivatelju nedostaje dopušten dokaz. Ispuniti prazninu samouvjerenim nagađanjem pretvorilo bi zaštitu pristupa u problem točnosti.
Granica je i praktičan test šireg pravila iznimaka u automatizaciji: što se događa kad je autorizirani skup pretrage prazan? Dobar dizajn može vratiti „nemam pristup izvoru za taj odgovor” i ponuditi pravi put eskalacije. Ne smije pretražiti širi opseg klijenata, ponoviti stari odgovor ili zaključiti privatne detalje iz naziva dokumenta. Prazan rezultat je normalno, provjerljivo stanje tijeka. Dopuštenje je dio ispravnosti, ne posebna zakrpa nakon pokretanja.
Koristan pomoćnik nije onaj koji zna sve u tvrtki. To je onaj koji pronalazi prave dokaze unutar ovlasti pozivatelja i kaže kada zbog te granice pitanje ostaje bez odgovora.
Često postavljana pitanja
Može li uputa zabraniti pomoćniku otkrivanje privatnih zapisa?
Uputa može opisati ponašanje, ali ne zamjenjuje autorizaciju. Ograničite dohvat na dokumente kojima pozivatelj smije pristupiti i ponovno provjerite dopuštenje prije radnje s posljedicama.
Gdje primijeniti dopuštenja klijenata u sustavu dohvata?
Povežite potvrđeni identitet pozivatelja s upitom i filtrirajte ili autorizirajte moguće dokumente prije nego što njihov sadržaj uđe u kontekst modela. Metapodatke dopuštenja održavajte aktualnima kad se pristup promijeni.
Je li navod izvora dovoljan za pouzdan odgovor?
Ne. Navod pokazuje odakle odgovor dolazi. Ne dokazuje da je pozivatelj smio vidjeti izvor niti da su podaci aktualni i točni.