การอ้างอิงชี้ไปยังสัญญา แต่สัญญาเป็นของลูกค้าผิดราย ในกรณีสมมตินี้ ผู้ช่วยซัพพอร์ตค้นโฟลเดอร์ของลูกค้าสองรายเพื่อหาวันต่อสัญญา มันพบสัญญาคล้ายของอีกราย ใส่ในบริบท และตอบคล่อง
นี่ไม่ใช่เหตุการณ์ที่มีรายงาน การอ้างอิงทำให้คำตอบดูระวังทั้งที่เผยข้อมูลลูกค้าผิดราย ข้อบกพร่องเกิดก่อนโมเดลเขียนประโยค
บทพูดที่เก็บมาเรื่องความรู้ AI ควรอยู่ที่ใด ชี้สถาปัตยกรรมที่มีประโยชน์: ความรู้ที่ต่างตามผู้ใช้ต้องมีชั้นค้นคืนควบคุมสิทธิ์ คำแนะนำสิทธิ์ระดับเอกสารของ Microsoft อธิบายการตรวจสิทธิ์ที่ผูกกับเอกสารในดัชนีและตัวตนตอนค้น กฎทั่วไปง่ายกว่าผลิตภัณฑ์ค้นหาใด ๆ: มีเพียงเนื้อหาที่อนุญาตจึงไปถึงเส้นทางคำตอบ
วางขอบเขตก่อนคำตอบ
พรอมป์ต์บอกผู้ช่วยให้สั้น อ้างแหล่ง หรือถามเพิ่มได้ แต่มันไม่อาจบอกอย่างปลอดภัยว่า “จำไว้ว่าอย่าใช้เอกสารของลูกค้าผิดราย” ขณะส่งเอกสารเหล่านั้นให้โมเดล หากการค้นข้ามขอบเขตแล้ว พรอมป์ต์ถูกขอให้แก้ความผิดการเข้าถึง
แอปต้องยืนยันตัวผู้เรียก คำค้นต้องพกขอบเขตที่ตามมา: ลูกค้าราย บทบาท บัญชี หรือสิทธิ์เอกสารตามโดเมน ผลตัวเลือกควรถูกกรองหรือตรวจสิทธิ์ก่อนส่งข้อความเข้าโมเดล หากคำตอบอาจกระตุ้นการเขียน เส้นทางเขียนต้องตรวจสิทธิ์อีกครั้งกับระเบียนเป้าหมาย
- ตัวตนผู้เรียก
ยืนยันในแอป
- ค้นแบบจำกัดขอบเขต ลูกค้าราย · บทบาท · เอกสาร
กรองก่อนบริบทโมเดล
- คำตอบจากหลักฐาน
อ้างหลักฐานที่อนุญาต
- สิทธิ์การเขียน
ตรวจระเบียนเป้าหมายอีกครั้ง
นี่ไม่ใช่แค่ปัญหาค้นหาเวกเตอร์ การค้นคำสำคัญ สรุปที่เก็บในแคช ความจำบทสนทนา และผลเครื่องมือ ต่างพกเนื้อหาส่วนตัวได้ สรุปจากเอกสารของลูกค้ารายหนึ่งยังเป็นข้อมูลส่วนตัวแม้ย่อข้อความต้นฉบับ
คู่มือเชื่อมต่อเครื่องมือธุรกิจของเรา ถามว่าใครเป็นเจ้าของแต่ละระเบียนและระบบไหนมีอำนาจ สำหรับผู้ช่วยให้ถามเพิ่ม: ใครมีสิทธิ์รู้ว่าระเบียนนี้มีอยู่
ตัวอย่างเล็กเผยว่าลำดับสำคัญ
สมมติดัชนีตัวอย่างมีสี่เอกสาร: บทช่วยเหลือสาธารณะสองชิ้น สัญญาของลูกค้าราย A หนึ่งฉบับ และของราย B อีกฉบับ ผู้ใช้จากราย A ถามเงื่อนไขเรียกเก็บเงิน ผลที่ใกล้ทางความหมายที่สุดกลับเป็นสัญญาของราย B
การค้นไร้ขอบเขตจะคืนมัน คำสั่งทีหลังว่า “ตอบเฉพาะราย A” ไม่รับประกันความปลอดภัย เนื้อหาเข้าบริบทโมเดลแล้ว การค้นมีขอบเขตจะตัดเอกสารราย B ก่อนจัดอันดับ หรือคืนเฉพาะตัวเลือกที่อนุญาต ผู้ช่วยจึงตอบจากสัญญาราย A หรือบอกว่าไม่มีแหล่งที่ต้องใช้
วิธีทำแน่นอนขึ้นกับแพลตฟอร์ม รูปแบบตัวกรองความปลอดภัยของ Azure AI Search ผูกตัวระบุกลุ่มกับเอกสารและใช้ตัวกรองทุกคำค้น เอกสารยังเตือนว่าการซ่อนฟิลด์สิทธิ์จากคำตอบไม่ใช่การควบคุมการเข้าถึง ส่วนที่บังคับได้คือตัวกรองและตัวตนผู้เรียกเบื้องหลัง
ความต่างนี้สำคัญเมื่อสิทธิ์เปลี่ยน หากพนักงานเสียสิทธิ์ แคชเก่าหรือดัชนีล้าสมัยต้องไม่ส่งเอกสารต่อไป ทีมต้องมีทางอัปเดตที่นิยามและทดสอบการถอนสิทธิ์ ไม่ใช่แค่การให้ครั้งแรก หากบริการค้นไม่เคารพแบบสิทธิ์ของต้นทาง การคัดลอกแหล่งเข้าดัชนีนั้นอาจเป็นสถาปัตยกรรมผิด
สิทธิ์กับความเกี่ยวข้องเป็นคนละการทดสอบ
เอกสารที่ผู้เรียกมีสิทธิ์ดูอาจไม่เกี่ยวหรือเก่า คำตอบที่ถูกต้องอาจได้มาจากแหล่งที่ผู้เรียกไม่มีสิทธิ์เข้าถึง ทั้งสองเป็นความล้มเหลวต่างกัน จึงประเมินแยก
ก่อนอื่นทดสอบขอบเขต: ผู้เรียกจากรายหนึ่งค้น อ้าง หรืออนุมานเนื้อหาส่วนตัวของอีกรายได้ไหม รวมคำถามตรง คำถามเรียบเรียงใหม่ และสรุป แล้วทดสอบคุณภาพคำตอบในชุดที่อนุญาต: ผู้ช่วยเลือกนโยบายปัจจุบันและยอมรับเมื่อไร้หลักฐานไหม คำแนะนำ RAG ของ Microsoft แนะนำควบคุมสิทธิ์ตอนค้นคืนและมองเนื้อหาค้นคืนเป็นสิ่งที่ยังเชื่อไม่ได้
มีต้นทุน ดัชนีตามสิทธิ์ต้องมีข้อมูลกำกับ การจับคู่ตัวตน และการถอนสิทธิ์ ผลค้นบางครั้งว่างหลังกรอง นั่นคือผลถูกเมื่อผู้เรียกไม่มีหลักฐาน การเติมช่องว่างด้วยเดาอย่างมั่นใจจะเปลี่ยนการป้องกันการเข้าถึงเป็นปัญหาความถูกต้อง
ขอบเขตนี้ยังเป็นการทดสอบของกฎข้อยกเว้นในระบบอัตโนมัติ: เมื่อชุดค้นที่อนุญาตว่างควรเกิดอะไร การออกแบบที่ดีตอบได้ว่า “ฉันเข้าถึงแหล่งสำหรับคำตอบนั้นไม่ได้” และเสนอทางส่งต่อที่ถูก ไม่ควรค้นกว้างไปยังลูกค้ารายอื่น ใช้คำตอบเก่า หรือเดาข้อมูลส่วนตัวจากชื่อเอกสาร ถือผลว่างเป็นสถานะปกติที่ทดสอบได้ของเวิร์กโฟลว์ สิทธิ์เป็นส่วนหนึ่งของความถูกต้อง ไม่ใช่กรณีพิเศษที่ค่อยซ่อมหลังเปิดใช้
ผู้ช่วยมีประโยชน์ไม่ใช่ผู้ที่รู้ทุกอย่างในบริษัท แต่เป็นผู้ที่หาหลักฐานถูกภายในอำนาจของผู้เรียก และบอกได้เมื่อขอบเขตนั้นทำให้คำถามยังไร้คำตอบ
คำถามที่พบบ่อย
พรอมป์ต์สั่งผู้ช่วยไม่ให้เผยระเบียนส่วนตัวได้ไหม?
พรอมป์ต์อธิบายพฤติกรรมได้ แต่แทนการอนุญาตไม่ได้ จำกัดการค้นคืนไว้ที่เอกสารที่ผู้เรียกดูได้ และบังคับสิทธิ์อีกครั้งก่อนการกระทำที่มีผล
สิทธิ์ของลูกค้าแต่ละรายควรใช้ตรงไหนในระบบค้นคืน?
ผูกผู้เรียกที่ยืนยันแล้วกับคำค้นและกรองหรืออนุญาตเอกสารที่เป็นตัวเลือกก่อนเนื้อหาเข้าสู่บริบทโมเดล รักษาข้อมูลสิทธิ์ให้ตรงเมื่อการเข้าถึงเปลี่ยน
การอ้างอิงพอทำให้คำตอบเชื่อถือได้ไหม?
ไม่ การอ้างอิงบอกที่มาของคำตอบ แต่ไม่พิสูจน์ว่าผู้เรียกมีสิทธิ์เห็นแหล่ง หรือข้อมูลต้นทางยังใหม่และถูก