RAG için hangi dosya formatları kullanılabilir?

PDF, Word, Excel, PowerPoint, HTML sayfaları, veritabanı kayıtları ve destek sistemlerindeki metinler kullanılabilir. Taranmış PDF'ler için önce metin tanıma (OCR) adımı gerekir.

RAG asistanı dokümanda olmayan bir soruya ne cevap verir?

Doğru kurgulanmış bir sistem, kaynaklarda bilgi bulamadığında bunu açıkça söyler ve kullanıcıyı ilgili birime yönlendirir. Bu davranış sistem talimatları ve testlerle sağlanır.

Dokümanlarımız güncellendiğinde modeli yeniden eğitmek gerekir mi?

Hayır. RAG'in avantajı budur: güncellenen doküman yeniden indekslenir ve asistan hemen yeni bilgiyle cevap vermeye başlar.

RAG sistemi şirket içinde (on-premise) kurulabilir mi?

Kurulabilir. Açık kaynak modeller ve kendi sunucunuzdaki vektör veritabanıyla tamamen kurum içinde çalışan bir yapı mümkündür; ancak donanım ve bakım maliyeti bulut çözümlerine göre farklılık gösterir.

RAG Nedir? Kurumsal Dokümanlarla Konuşan Yapay Zeka

Büyük dil modelleri genel bilgide çok başarılı, ancak şirketinizin iade politikasını, iç prosedürlerini veya geçen yılki teknik şartnameyi bilmiyorlar. RAG (Retrieval-Augmented Generation), yani "erişimle zenginleştirilmiş üretim", bu açığı kapatan en yaygın yöntem. Bu yazıda RAG nedir, nasıl çalışır ve kurumsal dokümanlarla konuşan bir yapay zeka asistanı nasıl kurulur sorularını pratik bir bakışla yanıtlıyoruz.

RAG nedir ve neden gerekli?

RAG, modele soruyu cevaplamadan önce ilgili belgeleri bulup okutma yaklaşımıdır. Kullanıcı bir soru sorduğunda sistem önce şirket dokümanları arasında arama yapar, en alakalı parçaları seçer ve bu parçaları soruyla birlikte modele verir. Model de cevabını bu kaynaklara dayanarak üretir.

Bu yaklaşımın üç temel faydası vardır:

Güncellik: Model yeniden eğitilmeden, doküman güncellendiği anda cevaplar da güncellenir.
Doğrulanabilirlik: Asistan cevabın hangi belgeden geldiğini gösterebilir; kullanıcı kaynağa tıklayıp kontrol edebilir.
Uydurma riskinin azalması: Model bilgiyi hafızasından değil, verilen metinden aldığı için "halüsinasyon" belirgin şekilde azalır. Tamamen ortadan kalkmaz; bu yüzden tasarım ve test önemlidir.

RAG, fine-tuning'den nasıl farklıdır?

Sık karıştırılan iki kavramı bir tabloda karşılaştıralım:

	RAG	Fine-tuning (ince ayar)
Amaç	Modele güncel ve şirkete özel bilgi sağlamak	Modelin üslubunu, formatını veya belirli bir görevdeki davranışını değiştirmek
Veri güncelleme	Doküman eklemek/silmek yeterli	Yeni eğitim turu gerekir
Kaynak gösterme	Doğal olarak mümkün	Zor
Yetkilendirme	Kullanıcıya göre belge filtrelenebilir	Bilgi modelin içine gömülür, filtrelemek zordur

Kurumsal bilgi asistanlarının büyük çoğunluğu için doğru başlangıç noktası RAG'dir. Fine-tuning gerekiyorsa genellikle RAG'in üzerine, ek bir iyileştirme olarak düşünülür.

Ayrıca RAG'in maliyet avantajı da vardır: model eğitimi için büyük ve etiketlenmiş veri setleri hazırlamak gerekmez, mevcut dokümanlarınız doğrudan kullanılabilir. Bu da ilk sonuçların çok daha kısa sürede görülmesini sağlar.

RAG mimarisi adım adım nasıl çalışır?

1. Dokümanların toplanması ve temizlenmesi

PDF, Word, Excel, intranet sayfaları, destek kayıtları veya bir veritabanındaki ürün kartları kaynak olabilir. Tarama kalitesi düşük PDF'ler, tekrar eden sayfa başlıkları ve eski sürümler bu aşamada temizlenir. RAG projelerinde kalitenin büyük kısmı burada belirlenir.

2. Parçalama (chunking)

Uzun belgeler anlamlı parçalara bölünür. Çok küçük parçalar bağlamı kaybeder, çok büyük parçalar ise alakasız metni modele taşır. Başlık yapısına göre bölmek genellikle iyi sonuç verir.

3. Gömme (embedding) ve vektör veritabanı

Her parça, anlamını temsil eden sayısal bir vektöre dönüştürülür ve bir vektör veritabanında saklanır. Bu sayede "kargo iadesi" diye sorulan bir soru, belgede "ürün geri gönderimi" olarak geçen paragrafı da bulabilir.

4. Arama ve yeniden sıralama

Soru geldiğinde anlamsal arama ile anahtar kelime aramasını birleştiren hibrit arama, özellikle ürün kodları ve özel isimler içeren Türkçe metinlerde daha isabetli sonuç verir. Bulunan parçalar bir yeniden sıralama (reranking) adımıyla elenebilir.

Türkçe metinlerde ek ve çekim yapısı nedeniyle klasik anahtar kelime araması tek başına yetersiz kalabilir; "faturanın", "faturadaki" ve "fatura" gibi biçimleri eşleştirmek için dil işleme adımları veya anlamsal arama gerekir. Bu nedenle gömme modeli seçilirken Türkçe performansı mutlaka kendi örneklerinizle test edilmelidir.

5. Cevap üretimi ve kaynak gösterme

Seçilen parçalar soruyla birlikte modele gönderilir. Sistem talimatında modelden yalnızca verilen kaynaklara dayanması, emin değilse bunu söylemesi ve kaynak belirtmesi istenir.

Arayüzde cevabın altında kaynak belge adı ve ilgili bölüme bağlantı göstermek, kullanıcıların sisteme güvenmesini hızlandırır. Kullanıcı cevaptan emin olmadığında tek tıkla orijinal belgeye ulaşabilir; bu da özellikle hukuk, finans ve teknik servis gibi hata maliyeti yüksek alanlarda önemlidir.

Kurumsal yapay zeka asistanı için kullanım senaryoları

İç bilgi bankası: İK politikaları, prosedürler, eğitim dokümanları için çalışan asistanı.
Teknik destek: Kullanım kılavuzları ve servis notlarına dayalı arıza çözüm önerileri.
Satış ekipleri: Ürün katalogları, fiyat listeleri ve kampanya koşullarına sahadan hızlı erişim; örneğin bir SFA yazılımı içine gömülü asistan.
Hukuk ve uyum: Sözleşme havuzunda madde arama ve karşılaştırma.
Müşteri hizmetleri: Web sitesi veya WhatsApp üzerinden SSS ve politika sorularını cevaplayan chatbot.

Yetkilendirme, güvenlik ve KVKK

Kurumsal RAG projelerinin en kritik ve en sık atlanan konusu yetkilendirmedir. Asistan, kullanıcının zaten erişim yetkisi olmayan bir belgeyi cevap kaynağı olarak kullanmamalıdır. Bunun için her doküman parçası, kaynak sistemdeki yetki bilgisiyle etiketlenir ve arama sırasında kullanıcıya göre filtrelenir.

Bunun yanında kişisel veri içeren dokümanların indekslenmeden önce değerlendirilmesi, model sağlayıcısının veri saklama politikalarının incelenmesi ve gerektiğinde verinin Türkiye veya AB bölgesinde barındırılması gibi konular KVKK açısından ele alınmalıdır.

RAG kalitesi nasıl ölçülür?

"Bence iyi cevap veriyor" demek yeterli değildir. Sağlıklı bir projede:

Gerçek kullanıcı sorularından ve doğru cevaplarından oluşan bir değerlendirme seti hazırlanır.
Arama başarısı (doğru belge bulundu mu?) ve cevap başarısı (cevap doğru ve kaynağa sadık mı?) ayrı ayrı ölçülür.
Her doküman veya istem değişikliğinden sonra bu set yeniden çalıştırılır.
Canlıda kullanıcı geri bildirimleri (beğen/beğenme, düzeltme) toplanır.

Bu ölçümler, sorunun arama tarafında mı yoksa cevap üretiminde mi olduğunu ayırt etmenizi sağlar. Doğru belge bulunamıyorsa parçalama ve arama ayarlarına, belge bulunduğu halde cevap yanlışsa istem ve model seçimine odaklanmak gerekir. Bu ayrım, iyileştirme çalışmalarının zamanını ve maliyetini ciddi ölçüde azaltır.

RAG projesine nasıl başlanır?

Önerimiz, tek bir departman ve sınırlı bir doküman setiyle başlamak. Örneğin yalnızca müşteri hizmetleri politikaları veya yalnızca teknik servis kılavuzları. Bu pilot, veri kalitesi sorunlarını erken gösterir ve yatırımın genişletilip genişletilmeyeceğine veriyle karar vermenizi sağlar. Asistanın arayüzü bir web paneli, mevcut intranet veya mobil uygulama olabilir; bu kısımda web yazılım geliştirme ekibimizle birlikte çalışıyoruz.

Pilot sonrasında genişleme genellikle üç yönde olur: yeni doküman kaynakları eklemek, yeni kullanıcı gruplarına açmak ve asistana yalnızca cevap vermenin ötesinde işlem yapma yeteneği kazandırmak. Son adım, asistanın bir yapay zeka ajanına dönüşmesi anlamına gelir ve ek yetki ve güvenlik tasarımı gerektirir. Dokümanların sürekli güncel kalması için kaynak sistemlerle otomatik senkronizasyon kurmak da uzun vadede bakım yükünü azaltır.

Yapay zeka entegrasyonunun genel çerçevesini merak ediyorsanız işletmeler için yapay zeka entegrasyonu yazımıza da bakabilirsiniz.

BernSoftware, şirket dokümanlarınızla güvenli şekilde çalışan RAG tabanlı asistanları uçtan uca tasarlıyor ve geliştiriyor. Projenizi değerlendirmek için yapay zeka çözümleri sayfamızı inceleyin veya bize ulaşın.