Знанието има граница на достъп

Цитат сочи към договор, но той принадлежи на грешния клиент. В този илюстративен случай асистент за поддръжка търси дата за подновяване в папките на двама клиенти. Намира подобен договор на другия, поставя го в контекста и отговаря гладко.

Това не е докладван инцидент. Цитатът прави отговора да изглежда грижлив, докато разкрива данните на грешния клиент. Дефектът се е случил преди моделът да напише изречение.

Презентация от включените източници за мястото на AI знанието посочва полезен архитектурен принцип: знание, което се различава според потребителя, се нуждае от слой за извличане с контролиран достъп. Указанията на Microsoft за достъп на ниво документ описват проверки на права, свързани с индексирани документи и идентичността при заявката. Общото правило е по-просто от всеки отделен продукт за търсене: само разрешен материал трябва да достига пътя към отговора.

Поставете границата преди отговора

Подкана може да казва на асистента да бъде кратък, да цитира източници или да иска уточнение. Не може безопасно да казва „помни да не използваш документите на грешния клиент“, докато същевременно подава тези документи на модела. Ако извличането вече е прекосило границата, от подканата се иска да поправи провал на достъпа.

Приложението трябва да установи идентичността на заявителя. Заявката за търсене трябва да носи получения обхват: клиент, роля, акаунт или права върху документи според областта. Кандидат-резултатите трябва да бъдат филтрирани или разрешени, преди текстът им да стигне до модела. Ако отговор може да предизвика запис, пътят за запис трябва отново да провери правото спрямо целевия запис.

Проблемът не е само при векторното търсене. Търсенето по ключови думи, запазените резюмета, паметта на разговора и резултатите от инструменти могат да носят частно съдържание. Резюме, получено от документ на един клиент, остава частно и след съкращаване на оригиналния текст.

Нашето ръководство за свързване на бизнес инструменти пита кой притежава всеки запис и коя система е авторитетна. За асистент добавете още въпрос: кой има право да знае, че този запис съществува?

Малък пример показва защо редът е важен

Да допуснем, че илюстративен индекс има четири документа: две публични помощни статии, един договор на клиент А и един на клиент Б. Потребител на клиент А пита за условията на фактуриране. Най-близкото смислово съвпадение случайно е договорът на клиент Б.

Неограничено извличане го връща. По-късна инструкция „отговаряй само за клиент А“ не гарантира безопасност; съдържанието вече е влязло в контекста на модела. Извличане с ограничен достъп премахва документа на клиент Б преди подреждането или връща само разрешени кандидати. Тогава асистентът може да отговори от договора на клиент А или да каже, че няма нужния източник.

Точното изпълнение зависи от платформата. Моделът за защитно филтриране на Azure AI Search прикрепя идентификатори на групи към документите и прилага филтър при всяка заявка. Документацията предупреждава и че скриването на поле с права от отговора само по себе си не е контрол на достъпа. Налагащите части са филтърът и идентичността на заявителя зад него.

Разликата е важна, когато правата се променят. Ако служител загуби достъп, стар кеш или неактуален индекс не трябва да продължава да подава документа. Екипите се нуждаят от определен път за обновяване и тестове за отнемане на права, не само за първоначалното им даване. Ако услугата за извличане не може да спазва модела за достъп на източника, копирането на данните в този индекс може да е грешна архитектура.

Разрешението и уместността са различни проверки

Разрешен документ може да е неуместен или остарял. Точен отговор може да е неразрешен. Това са отделни начини на провал, затова ги оценявайте отделно.

Първо тествайте границата: може ли заявител от един клиент да извлече, цитира или изведе частно съдържание на друг? Включете преки въпроси, преформулирания и резюмета. После тествайте качеството на отговора сред разрешените източници: избира ли асистентът актуалната политика и признава ли, когато липсват доказателства? Указанията на Microsoft за RAG изрично препоръчват контрол на достъпа при извличане и третиране на извлеченото съдържание като недоверено.

Има цена. Индексиране, което спазва правата, изисква метаданни, съпоставяне на идентичности и обработка на отнети права. Някои търсения ще върнат празен резултат след филтриране. Това е правилният резултат, когато заявителят няма достъп до доказателства. Запълването на празнотата с уверена догадка би превърнало защитата на достъпа в проблем с точността.

Границата е и практичен тест за по-общото правило за изключенията в автоматизацията: какво трябва да се случи, когато разрешеният набор за търсене е празен? Добрият дизайн може да върне „Нямам достъп до източник за този отговор“ и да предложи правилен път за ескалация. Не трябва да търси при друг клиент, да използва стар отговор или да извежда частни подробности от заглавие на документ. Третирайте празния резултат като нормално, тестируемо състояние на процеса. Разрешението е част от правилността, не особен случай за поправяне след стартиране.

Полезният асистент не е този, който знае всичко в компанията. Той намира правилните доказателства в границите на правомощието на заявителя и казва кога тази граница оставя въпроса без отговор.