// SÖZLÜK

Üçlü Risk Koşulu (Lethal Trifecta)

Bir yapay zeka sisteminin aynı anda üç yeteneğe sahip olması durumudur: özel veriye erişebilmek, güvenilmeyen içeriği okuyabilmek ve dışarıya iletişim kurabilmek. Her yetenek tek başına meşru ve çoğu zaman gereklidir; tehlike üçünün bir arada bulunmasından doğar. Bu koşul sağlandığında dolaylı istem enjeksiyonu doğrudan veri sızıntısına dönüşür ve mekanizma şaşırtıcı derecede basittir: saldırgan modelin okuyacağı güvenilmeyen bir içeriğe (bir e-posta, bir web sayfası, bir belge) gizli bir talimat yazar; model o içeriği okurken talimatı komut sanar, erişebildiği özel veriyi toplar ve dışarıya iletişim kanalını kullanarak saldırgana gönderir. Kavramın analitik gücü, karmaşık bir tehdidi üç net koşula indirgemesinde ve savunmayı bir tasarım kararına çevirmesindedir. Savunma mantığı sadedir: üç koşuldan herhangi birini kaldırmak zinciri kırar. Model özel veriye erişmesin, ya da güvenilmeyen içeriği işlemesin, ya da dışarıyla serbestçe iletişim kuramasın. Bu yüzden bir yapay zeka uygulamasının mimarisi tasarlanırken sorulması gereken soru 'üç yetenekten hangisini feda edebilirim' olur; üçünü birden vermek, tasarlanmış bir risktir.