İçeriğe geç

// SÖZLÜK

Kötüye Kullanım Yolu (Abuse Path)

Üretken yapay zeka uygulamasının çalışma zamanı zincirinde gerçekten istismar edilebilen davranış sıralamasıdır: dolaylı istem enjeksiyonu, RAG ifşası, araç kötüye kullanımı, MCP yetkilendirme istismarı ve çok turlu zincirleme istismar bu zincirin tipik adımlarıdır. Teorik bir zafiyet listesi değildir; güvenli kavram kanıtı (PoC) ile kontrollü icra altında, sahada gösterilerek kanıtlanır. Geleneksel sızma testindeki saldırı yolunun (attack path) yapay zeka karşılığıdır ve aynı epistemolojik iddiayı taşır: 'yapılabilir' değil, 'yapıldı'. Bu ayrım yapay zeka güvenliğinde özellikle önemlidir, çünkü alan spekülatif tehdit anlatılarıyla doludur; bir modelin 'kötüye kullanılabileceğini' söylemek kolaydır, o kötüye kullanımın modele bağlı gerçek araçlar ve yetkiler üzerinden somut bir sonuç ürettiğini göstermek ise kanıt ister. OWASP LLM Top 10 ve MITRE ATLAS bu yolun adımlarını çerçeveler. Kötüye kullanım yolu, Üretken Yapay Zeka Red Team'in birincil kanıt nesnesidir.

Sık karışan

saldırı yolu - Modüler Red Team Simülasyonu kritik hedefe gider; bu zincir yapay zeka uygulamasının davranışını sınar.