İçeriğe geç

// SÖZLÜK

Prompt Injection (İstem Enjeksiyonu)

Üretken yapay zeka modelinin davranışını, tasarlanmamış bir biçimde değiştiren girdidir. Doğrudan biçimi kullanıcının istemiyle gelir; dolaylı biçimi ise modelin okuduğu dış kaynaklardan (web sayfası, dosya, RAG belgesi, e-posta) gelen içeriğin model tarafından talimat gibi yorumlanmasıyla tetiklenir. OWASP LLM Top 10 listesinde birinci sırada yer alır (LLM01) ve bu önceliklendirme bir tesadüf değildir; kök nedeni bir yapılandırma hatası değil, mimarinin kendisidir. Geleneksel yazılımda kod ile veri ayrı kanallardan akar ve bu ayrım güvenliğin temelidir; bir dil modelinde ise talimat ve veri aynı kanaldan, aynı doğal dil akışı içinde gelir ve model ikisini kesin biçimde ayıramaz. Kendisine 'bundan sonraki metni yok say' diyen bir girdiyi, o metin bir kullanıcıdan mı yoksa okuduğu bir belgeden mi geldiğini ilkesel olarak bilemez. Bu yüzden prompt injection tek bir yamayla kapatılabilen bir zafiyet değil, yönetilmesi gereken bir tasarım sınırıdır; savunma girdiyi 'temizlemeye' değil, modelin yetkisini ve eyleyebileceği yüzeyi sınırlamaya dayanır.