// SÖZLÜK

RAG (Retrieval-Augmented Generation)

Modelin bir yanıt üretirken dış belge ya da veri kaynaklarından ilgili parçaları çekerek bağlamını zenginleştirdiği mimaridir. Bir dil modelinin iki temel sınırını aşmak için yaygınlaşmıştır: modelin eğitim verisiyle sınırlı ve zamanla eskiyen bilgisini güncel, kuruma özgü verilerle beslemek ve yanıtları doğrulanabilir bir kaynağa dayandırmak. Bu yüzden üretken yapay zeka uygulamalarında çalışma zamanı zincirinin merkezi bileşenlerindendir. Ancak değer sağladığı yer, aynı zamanda risk açtığı yerdir: RAG, modele dışarıdan içerik getirir ve o içeriğin güvenilir olduğunu varsayar. Bu varsayım kırıldığında yeni bir saldırı yüzeyi doğar; getirilen belgeye yerleştirilmiş bir talimat dolaylı istem enjeksiyonuna, erişim sınırı zayıf çizilmiş bir bilgi tabanı hassas veri ifşasına, güvenilmeyen bir kaynak ise modelin yanıtının zehirlenmesine yol açabilir. 'Güvenilen kaynak' varsayımı RAG'ın hem gücü hem de zaafıdır; güvenlik testi, modele hangi verinin hangi yetki ve sınırla ulaştığını ve bu verinin bir saldırgan tarafından kontrol edilip edilemeyeceğini sorgular.