RAG oddiy tilda: iqtiboslar va kirish huquqlari bilan kompaniya hujjatlari boʻyicha qidiruv

RAG oddiy tilda

Har qanday savolga avval arxivga borib, bir nechta mos sahifani olib, kerakli xatboshini barmoq bilan koʻrsatib javob beradigan xodimni tasavvur qiling. RAG ham xuddi shunday qiladi: qidiruv parchalarni topadi, model ularni oʻqib, havolalar bilan javob yozadi. Bu yerda model bilimlar ombori emas, oʻquvchi va muharrir.

Bu oddiy chat-botning ikki muammosini hal qiladi. U kompaniyaning ichki hujjatlarini bilmaydi va javobni ishonch bilan toʻqib chiqarishi mumkin. RAG unga kerakli bilimni savol paytida beradi va javobni manba boʻyicha tekshirish imkonini yaratadi. Shu bilan birga RAG modelni aqlliroq qilmaydi: hujjatlarda javob boʻlmasa yoki u qarama-qarshi ifodalangan boʻlsa, tizim uni topa olmaydi. Buning evaziga har bir javob nimaga asoslangani koʻrinib turadi.

Nega qayta oʻqitish emas va «hammasini kontekstga» emas

Modelni hujjatlar asosida qayta oʻqitish faktlar uchun yomon mos keladi: bilimlar vaznlar boʻylab tarqalib ketadi, ularni aniq iqtibos qilib boʻlmaydi, hujjatning har bir yangilanishi esa yangi oʻqitishni talab qiladi. Kirish huquqlarini ham qayta oʻqitilgan modelga joylab boʻlmaydi — u hammasini birdaniga «biladi» va istalgan kishiga aytib berishi mumkin.

Har bir savolda barcha hujjatlarni butunligicha modelga berish qimmat va sekin, katta hajmlarda esa imkonsiz. Bundan tashqari, modellar juda uzun kontekstda keraklisini yomonroq topadi. RAG haqiqatan kerak boʻlgan bir nechta parchani tanlaydi va bu ham arzonroq, ham aniqroq boʻlib chiqadi.

RAG qachon kerak va qachon kerak emas

• Javoblar matnlarda — reglamentlar, yoʻriqnomalar, shartnomalar, bilimlar bazasida — boʻlsa va ularni topib, iqtibos keltirish kerak boʻlsa, RAG mos keladi, chunki bu qayta hikoya qilinadigan qidiruv vazifasi.
• Hujjatlar kam boʻlsa va kamdan-kam oʻzgarsa, baʼzan ularni soʻrovga butunligicha berish osonroq, chunki qidiruv sezilarli foydasiz murakkablik qoʻshadi.
• Savollar maʼlumotlar boʻyicha hisob-kitobni talab qilsa — «oʻtgan oyda nechta buyurtma boʻldi» — matn boʻyicha qidiruv emas, maʼlumotlar bazasi yoki tahliliy tizimga soʻrov kerak, chunki RAG ishonchli agregatsiya qila olmaydi.
• Modelning bilimini emas, javoblar uslubi yoki formatini oʻzgartirish kerak boʻlsa, koʻrsatmalar yoki qayta oʻqitish yordam beradi, chunki RAG xatti-harakat emas, faktlar qoʻshadi.

RAG tizimi qanday qismlardan iborat

Tizimni ikki chiziq sifatida tasavvur qilish qulay: hujjatlar qoʻshilganda va oʻzgarganda ishlaydigan tayyorlov chizigʻi va har bir savolda ishga tushadigan ishchi chiziq.

1. 01Yigʻish va tozalash. Turli manbalardagi hujjatlar tuzilmani saqlagan holda matnga keltiriladi.
2. 02Parchalarga boʻlish. Matn sarlavhalar va hujjat nomi saqlangan holda maʼnoli boʻlaklarga kesiladi.
3. 03Metamaʼlumotlar. Har bir parchaga manba, sana, versiya, boʻlim va kirish huquqlari biriktiriladi.
4. 04Indekslash. Parchalar maʼno boʻyicha qidirish uchun vektor koʻrinishiga oʻtkaziladi va toʻliq matnli indeksga qoʻshiladi.
5. 05Qidiruv. Savol boʻyicha joriy foydalanuvchi huquqlarini hisobga olgan holda nomzodlar topiladi.
6. 06Qayta saralash. Nomzodlar haqiqiy dolzarbligi boʻyicha tartiblanadi, ortiqchasi kesib tashlanadi.
7. 07Generatsiya. Model savol va tanlangan parchalarni oladi va faqat ular boʻyicha, havolalar bilan javob beradi.
8. 08Tekshirish va jurnal. Havolalar tekshiriladi, ishlatilgan parchalar tahlil va audit uchun yozib qoʻyiladi.

Bunday sxemaning asosiy qulayligi — har bir bosqichni alohida tekshirish mumkin. Javob notoʻgʻri boʻlsa, avval kerakli parchalar topilganlar orasida boʻlgan-boʻlmaganiga qaraladi. Boʻlmagan boʻlsa — muammo hujjatlarni tayyorlashda yoki qidiruvda, modelni almashtirish befoyda. Boʻlgan, lekin model ulardan foydalanmagan yoki ularni buzib koʻrsatgan boʻlsa — gap koʻrsatmada, parchalar tartibida yoki modelning oʻzida.

Indeksni qanday yangilash kerak

Hujjatlar oʻzgaradi va indeks ham ular bilan birga oʻzgarishi kerak. Odatda bu bosqichma-bosqich yangilanish: hujjat oʻzgarganda uning eski parchalari oʻchiriladi va yangilari qoʻshiladi, hujjat oʻchirilganda esa parchalar butunlay olib tashlanadi. Toʻliq qayta indekslashni alohida rejalashtiring: kesish qoidalarini yoki vektor koʻrinishlari modelini oʻzgartirganda u kerak, chunki eski va yangi vektorlarni oʻzaro solishtirib boʻlmaydi. Har bir parcha uchun u qachon va konveyerning qaysi versiyasi bilan yaratilganini saqlash foydali.

Hujjatlarni tayyorlash: eng kam baholanadigan qism

RAG muammolarining aksariyati modeldan ancha oldin — hujjatlarni matnga aylantirish bosqichida boshlanadi. Matn yomon ajratib olingan boʻlsa, buni hech qanday qidiruv ham, hech qanday model ham tuzata olmaydi.

Formatlar va tuzilma

Hujjatlar turli formatlarda keladi: matnli fayllar, taqdimotlar, PDF, viki sahifalari, xatlar. Tuzilmani saqlash muhim: boʻlim sarlavhalari, bandlar raqamlari, roʻyxatlar. «Muddat — besh ish kuni» degan ibora qaysi tartibga tegishli ekani haqidagi sarlavhasiz foydasiz.

Jadvallar va skanlar

Jadvallar sodda ajratib olinganda ustun sarlavhalarisiz raqamlar oqimiga aylanadi va model qiymatlarni chalkashtira boshlaydi. Ularni katakning qator va ustun sarlavhasi bilan bogʻliqligini saqlagan holda alohida ajratib olish kerak. Skanlar matnni tanib olishni talab qiladi va uning sifatini real hujjatlarda, ayniqsa muhrlar, imzolar va qoʻlda yozilgan belgilar bor joylarda, koʻz bilan tekshirish kerak.

Versiyalar va dublikatlar

Kompaniyalarda koʻpincha bitta reglamentning bir nechta versiyasi yashaydi: qoralama, amaldagisi, oʻtgan yilgisi, boʻlim papkasidagi nusxa. Hammasini yuklasangiz, tizim tasodifiy versiyadan iqtibos keltiradi. Qaysi versiya amaldagi hisoblanishi haqida qoida, sana va holatli metamaʼlumotlar hamda dublikatlarni olib tashlash kerak.

Parchalarga boʻlish

Qidiruv hujjatlar bilan emas, parchalar bilan ishlaydi, shuning uchun matn qanday kesilganiga javob topilishi bogʻliq. Juda mayda parchalar maʼnoni yoʻqotadi: topilgan iborada kontekst yoʻq. Juda yiriklari qidiruvni xiralashtiradi: bitta boʻlakda mavzular koʻp va u aniq savolga yomon mos keladi.

• Tuzilma boʻlsa, belgilangan belgilar soni boʻyicha emas, hujjat tuzilmasi — boʻlimlar, bandlar, xatboshilar — boʻyicha kesing.
• Har bir parchaga hujjat nomini va u joylashgan sarlavhalar yoʻlini qoʻshing.
• Chegaradagi fikr uzilib qolmasligi uchun qoʻshni parchalar orasida kichik ustma-ustlik qiling.
• Qisqa mustaqil hujjatlar uchun — masalan, bilimlar bazasidagi javoblar — butun hujjat parcha boʻlishi mumkin.
• Havola aynan oʻsha joyga olib borishi uchun parchaning manba hujjat va undagi joy bilan bogʻliqligini saqlang.

Shartli misol. Taʼtillar reglamentida «Taʼtilni koʻchirish» boʻlimi uch xatboshidan iborat. Matnni qatʼiy uzunlik boʻyicha kesilsa, ikkinchi xatboshi sarlavhadan alohida qoladi va «taʼtilni koʻchirsa boʻladimi» degan savolga qidiruv «koʻchirish» soʻzi yoʻq parchani topadi. Har bir parchada boʻlim sarlavhasi saqlansa, moslik yaqqol boʻladi.

Qidiruv: maʼno boʻyicha, toʻliq matnli va gibrid

Maʼno boʻyicha qidiruv

Vektor qidiruvi savol va parcha maʼnosini solishtiradi, shuning uchun soʻzlar mos kelmasa ham javobni topadi: «kasallik varaqasini qanday rasmiylashtirish» savoliga u vaqtincha mehnatga layoqatsizlik haqidagi boʻlimni topadi. Lekin aniq identifikatorlar bilan yomonroq ishlaydi: shartnoma raqamlari, artikullar, kodlar, kam uchraydigan atamalar.

Toʻliq matnli qidiruv

Soʻzlar boʻyicha klassik qidiruv aniq mosliklar va kam uchraydigan atamalarni ishonchli topadi, lekin sinonimlar va qayta ifodalashni tushunmaydi. Bu uning bir vaqtning oʻzida kuchli va zaif tomoni.

Gibrid qidiruv va qayta saralash

Amalda birikma eng yaxshi ishlaydi: ikkala qidiruv nomzodlar beradi, natijalar birlashtiriladi, soʻng alohida qayta saralash modeli har bir nomzod savolga haqiqatan qanchalik javob berishini baholaydi. Qayta saralash birlamchi qidiruvdan sekinroq, shuning uchun u eng yaxshi nomzodlarning kichik soniga qoʻllaniladi.

• Savollarda aniq identifikatorlar va atamalar koʻp boʻlsa — toʻliq matnli qismni kuchaytiring, chunki maʼno qidiruvi ularni xiralashtiradi.
• Foydalanuvchilar savollarni hujjat atamalarini bilmasdan oʻz soʻzlari bilan bersa — maʼno qidiruviga tayaning, chunki soʻzlar mos kelmaydi.
• Kompaniyaning oʻz jargoni va qisqartmalari boʻlsa — sinonimlar lugʻatini qoʻshing, chunki qidiruvlarning hech biri ularni oʻzi tushunmaydi.

Soʻrovni qayta ifodalash

Foydalanuvchi savoli har doim ham qidiruv uchun oʻz holicha yaramaydi. Muloqotda ikkinchi savol koʻpincha «pudratchilar uchun-chi?» kabi eshitiladi va oldingi kontekstsiz qidiruv hech narsa topmaydi. Shuning uchun qidiruvdan oldin savol koʻpincha muloqot tarixini hisobga olgan holda mustaqil shaklga qayta yoziladi, uzun tarkibli savol esa bir nechta qidiruv soʻroviga ajratiladi. Buni modelning alohida chaqiruvi bajaradi va uning natijasini ham logga yozish kerak: qayta ifodalash xatosi qidiruv xatosiga oʻxshab koʻrinadi.

Javob generatsiyasi va iqtibos

Korporativ qidiruvda manbaga havolasiz javob deyarli foydasiz: xodim bu haqiqatmi yoki taxminmi, tushuna olmaydi. Shuning uchun modelga yuboriladigan soʻrovdagi har bir parchaga identifikator beriladi, koʻrsatma esa faqat uzatilgan parchalar asosida javob berishni va har bir fikr qaysi parchalarga tayanishini koʻrsatishni talab qiladi. Interfeysda havola hujjatning oʻziga va undagi kerakli joyga olib boradi.

• Oxirida bitta umumiy havola emas, har bir fikr uchun parchaga havola talab qiling.
• Koʻrsatilgan identifikatorlar haqiqatan uzatilgan parchalar orasida boʻlganini dastur yordamida tekshiring.
• Imkon boʻlsa, iqtibos keltirilgan matn parchada mavjudligini tekshiring.
• Modelga «hujjatlarda javob yoʻq» deb javob berishga ruxsat bering va buni foydalanuvchiga halol koʻrsating.
• Topilgan parchalar bir-biriga zid boʻlsa, modeldan biror tomonni tanlashni emas, ziddiyatni koʻrsatishni soʻrang.

Javobning shartli misoli

Xodim taʼtilning bir qismini keyingi yilga koʻchirish mumkinmi, deb soʻraydi. Qidiruv amaldagi reglamentdan «Taʼtilni koʻchirish» boʻlimini va kadrlar boʻlimining kelishish tartibini aniqlashtirgan xatini topadi. Yaxshi javob qoidani reglament boʻlimiga havola bilan qisqacha bayon qiladi, kelishish tartibini xatga havola bilan qoʻshadi va bu ikki manbada yoʻq hech narsani qoʻshmaydi. Agar xat reglamentga zid boʻlganida, javob buni ochiq aytishi va ikkala manbani koʻrsatishi kerak edi.

«Topilmadi» javobi — tizimning muvaffaqiyatsizligi emas, foydali signal. Bunday savollar hujjatlardagi boʻshliqlarni koʻrsatadi va ularni yigʻib, bilim egalariga yetkazish kerak. Havolalar jamoaning oʻziga ham foydali: ular orqali qaysi hujjatlar eng koʻp ishlatilishi, qaysilari esa hech qachon javoblarga tushmasligi va ehtimol eskirgani koʻrinadi.

Kirish huquqlari: qidiruvdan oldin filtrlash

Kompaniyada turli odamlar turli hujjatlarni koʻradi: ish haqi, shartnomalar, kadrlar qarorlari, rahbariyat yozishmalari. Agar tizim butun korpus boʻyicha qidirib, keyin modeldan «ortiqchasini koʻrsatmaslik»ni soʻrasa, maxfiy maʼlumotlar allaqachon kontekstga tushgan va javobga toʻgʻridan-toʻgʻri yoki qayta hikoya shaklida sizib chiqishi mumkin.

• Huquqlarni har bir parchaning metamaʼlumotlarida saqlang va har bir soʻrovda ular boʻyicha filtrlang.
• Huquqlarni manba tizim bilan sinxronlang: papkaga kirish bekor qilinsa, indeks bundan qoʻlda harakatlarsiz xabar topishi kerak.
• Oʻchirilgan hujjatlar parchalarini indeksdan shunchaki yashirmang, olib tashlang.
• Huquqlari turlicha boʻlgan foydalanuvchilar oʻrtasida javoblarni keshlamang.
• Javobda qaysi parchalar ishlatilganini logga yozing — bu xatolarni tahlil qilish uchun ham, audit uchun ham kerak.
• Huquqlarni salbiy ssenariylar bilan sinang: kirish huquqi yoʻq foydalanuvchi javobi faqat yopiq hujjatda boʻlgan savolni beradi va uni olmaydi.

Alohida masala — huquqlar tizimi murakkab boʻlgan manbalar, masalan, kirish alohida fayllar darajasida berilgan umumiy papkalar yoki cheklangan boʻlimli hujjatlar. Agar huquqlarni indeksga ishonchli koʻchirib boʻlmasa, bunday manbani hozircha ulamagan maʼqul: qidiruvdagi boʻshliq sizib chiqishdan xavfsizroq.

Hujjatlar ichidagi shaxsiy maʼlumotlarni alohida oʻylab chiqing: shartnomalardagi pasport maʼlumotlari, mijozlar kontaktlari, kadrlar hujjatlaridagi sogʻliq haqidagi maʼlumotlar. Xodim hujjatni koʻrishga haqli boʻlsa ham, bunday maʼlumotlar boʻyicha qidiruv ularni ommaviy ajratib olishning yangi usuliga aylanishi mumkin. Baʼzan bunday maydonlarni indekslamaslik yoki matnni ajratib olishda yashirish, shuningdek bu maʼlumotlar tushishi mumkin boʻlgan soʻrovlar jurnallari qancha saqlanishini belgilash oqilonaroq.

RAG sifatini qanday tekshirish

RAG sifati ikki joyda baholanadi: qidiruv kerakli parchalarni qanchalik yaxshi topishi va model topilganlar boʻyicha qanchalik toʻgʻri javob berishi. Bu baholarni aralashtirib boʻlmaydi — aks holda nimani tuzatish kerakligi tushunarsiz boʻladi.

1. 01Xodimlarning real savollari toʻplamini yigʻing va har biri uchun toʻgʻri javob qaysi hujjat va boʻlimda ekanini belgilang.
2. 02Qidiruvni tekshiring: har bir savol uchun kerakli parcha birinchi topilganlar orasida boʻladimi.
3. 03Javobni tekshiring: u faqat uzatilgan parchalarga tayanadimi, toʻliqmi, havolalar toʻgʻrimi.
4. 04Hujjatlarda javobi yoʻq savollarni qoʻshing va tizim «topilmadi» deb halol aytishini tekshiring.
5. 05Huquqlarni tekshirish uchun savollarni kerakli hujjatga kirish huquqi yoʻq foydalanuvchi nomidan qoʻshing.
6. 06Har bir oʻzgarishda — kesish, qidiruv, koʻrsatma, model — butun toʻplamni ishga tushiring.

Javobning manbaga sodiqligi koʻpincha boshqa hakam-model yordamida baholanadi, lekin bunday bahoni avval misollarning bir qismida qoʻlda belgilangan maʼlumotlar bilan solishtirish kerak. Ishga tushirilgandan keyin foydalanuvchilar fikrini toʻgʻridan-toʻgʻri interfeysda yigʻish va muvaffaqiyatsiz savollarni tekshiruv toʻplamiga koʻchirish foydali.

Har bir muvaffaqiyatsiz savolni toifalardan biriga kiritish foydali: kerakli parcha topilmagan; topilgan, lekin model undan foydalanmagan; hujjatlarda javob yoʻq; javob bor, lekin hujjat eskirgan yoki qarama-qarshi. Bunday belgilash kuchni qayerga sarflash kerakligini darhol koʻrsatadi: maʼlumotlarni tayyorlashgami, qidiruvgami, koʻrsatmagami yoki hujjat egalari bilan ishlashgami.

Odatiy muammolar va ularni qanday ushlash

• Hujjatning eskirgan versiyasidan iqtibos keltiriladi. Tekshiruv toʻplamidagi yaqinda oʻzgargan qoidalar haqidagi savollar bilan ushlanadi. Versiya metamaʼlumotlari va dolzarblik qoidasi bilan davolanadi.
• Javob maʼnosi boʻyicha toʻgʻri, lekin havola boshqa hujjatga. Etalon savollarda havolalarni tekshirish bilan ushlanadi. Koʻpincha sababi — hujjat dublikatlari.
• Jadvallardan notoʻgʻri qiymatlar. Jadvallardagi aniq raqamlar haqidagi savollar bilan ushlanadi. Jadvallarni alohida ajratib olish bilan davolanadi.
• Qidiruv ravshan javobni topmaydi. Qidiruvni generatsiyadan alohida tekshirish bilan ushlanadi. Sabablari — yomon kesish, jargon, toʻliq matnli qidiruvsiz aniq identifikatorlar.
• Model «oʻzidan» bilim qoʻshadi. Manbaga sodiqlikni tekshirish bilan ushlanadi. Qatʼiy koʻrsatma va havolalarni tekshirish bilan davolanadi.
• Bu muammolarning koʻpi bir nechta ozoda hujjat bilan qilingan namoyishda koʻrinmaydi va faqat haqiqiy arxivda yuzaga chiqadi. Shuning uchun pilotni bitta boʻlimning real maʼlumotlari va uning real savollari bilan boshlagan maʼqul.

Hujjatlar boʻyicha qidiruvni ishga tushirish roʻyxati

1. 01Manbalar doirasi va har birining egasini aniqlang.
2. 02Vazifa maʼlumotlar boʻyicha hisob-kitob emas, haqiqatan matn boʻyicha qidiruv ekaniga ishonch hosil qiling.
3. 03Xodimlarning real savollari toʻplamini toʻgʻri javoblar va havolalar bilan yigʻing.
4. 04Matnni tuzilmani saqlagan holda ajratib olishni sozlang va murakkab hujjatlarda uni koʻz bilan tekshiring.
5. 05Jadvallar va skanlarni alohida qayta ishlang.
6. 06Amaldagi versiya qoidasini belgilang va dublikatlarni olib tashlang.
7. 07Matnni parchalarda sarlavhalar va hujjat nomini saqlagan holda tuzilma boʻyicha kesing.
8. 08Metamaʼlumotlarni qoʻshing: manba, versiya, sana, kirish huquqlari.
9. 09Gibrid qidiruv va qayta saralashdan foydalaning.
10. 10Parchalarga havolalarni talab qiling va ularni dastur yordamida tekshiring.
11. 11Qidiruvdan oldin huquqlar boʻyicha filtrlang va huquqlarni manbalar bilan sinxronlang.
12. 12Huquqlarni salbiy ssenariylar bilan sinab koʻring.
13. 13«Topilmadi» javobiga ruxsat bering va bunday savollarni yigʻing.
14. 14Tizimdagi har bir oʻzgarishda tekshiruv toʻplamini ishga tushiring.

Atamalarning qisqa lugʻati

• RAG — hujjatlarning topilgan parchalariga tayanib javob generatsiya qilish.
• Parcha (chank) — qidiruv ishlaydigan hujjat boʻlagi.
• Vektor koʻrinishi (embedding) — maʼno boʻyicha qidirish uchun matn maʼnosining sonli ifodasi.
• Gibrid qidiruv — maʼno boʻyicha va toʻliq matnli qidiruv birikmasi.
• Qayta saralash — nomzodlarning kichik soni dolzarbligini qayta, aniqroq baholash.
• Metamaʼlumotlar — parcha haqidagi maʼlumotlar: manba, sana, versiya, kirish huquqlari.
• Manbaga sodiqlik — javobning faqat uzatilgan parchalarga tayanish xususiyati.

Xulosa

RAG — xodimlarga ichki hujjatlar boʻyicha tekshirib boʻladigan manbali javoblar berishning amaliy usuli. Undagi asosiy ish muhandislik ishidir: matnni tayyorlash, kesish, metamaʼlumotlar, qidiruv, kirish huquqlari va javoblarni etalon savollarda tekshirish.

Bunday tizimda modelni bir kunda almashtirish mumkin, yaxshi tayyorlangan korpus, huquqlarni halol hisobga olish va tekshiruv savollari toʻplami esa uzoq vaqt qadrli boʻlib qoladi. Bitta boʻlim, real savollar va qatʼiy havolalardan boshlang — va tizimni faqat kichik hajmda ishonchli ishlaganidan keyin kengaytiring.