RINP // SİBER GÜVENLİK HİZMETLERİ
Yapay Zeka Güvenliği · AIS-1 · Çalışma Anındaki Zincir Doğrulaması
Üretken yapay zeka ürünlerinde koşu zamanı (runtime) saldırı yollarını doğruluyoruz.
İstem, RAG, araç, MCP ve yetki akışlarını kontrollü biçimde test ediyoruz. Kötüye kullanım yollarını güvenli PoC ile doğruluyoruz. Veri ve iş etkisine göre sıraladığımız bulguları, zinciri kesen kontrollerle birlikte raporluyoruz.
- İstem, RAG, araç, MCP ve yetki zinciri uçtan uca değerlendirilmektedir.
- Ajan davranışının veri erişimi ve aksiyon yetkisi üzerindeki etkisi güvenli PoC ile doğrulanmaktadır.
- Zinciri kesen kontroller canlıya geçiş ve kapatma önceliğine bağlanmaktadır.
4 yüzey
- 01
İstem ve orkestrasyon
Sistem istemi ve güvenli yürütüm
- 02
Araç ve bağlayıcı
İzin matrisi ve yazma yetkisi
- 03
RAG getirimi
Erişim kontrolü ve veri ifşası
- 04
MCP ve yetki
Yetkilendirme, token ve onay
Kontrollü PoC · saldırgan bakışıyla
Bu hizmet nedir, ne değildir
- Üretken yapay zeka ürünündeki koşu zamanı (runtime) akışını tehdit senaryolarıyla kontrollü biçimde test etmektedir.
- İstem, RAG, araç ve MCP üzerinden oluşan kötüye kullanım yollarını güvenli PoC ile doğrulamaktadır.
- Yönetici özeti, teknik rapor ve zinciri kesen kontrol planını aynı doğrulanmış bulgulara dayandırmaktadır.
- Yapay Zeka Model Tedarik Zinciri Güvencesi kapsamında yer almamaktadır; modelin nereden geldiği ve nasıl üretildiği ayrı bir karar anını açmaktadır.
- Sızma Testi ve Red Team için Yapay Zeka hizmeti değildir; iç ofansif teslim iş akışını yapay zeka ile hızlandırmak ayrı bir karar konusudur.
- Yalnızca istem enjeksiyonu testi, sağlayıcı altyapısına saldırı ya da gerçek veriyle kontrolsüz agresif test kapsamamaktadır; yazılı mutabakat, kontrollü PoC, test hesabı, durdurma kriteri ve geri alma koordinasyonu içinde yürütülmektedir.
Kapsam ve sınırlar
- LLM ve ajan orkestrasyon katmanı; sistem istemi, güvenli yürütüm sınırları, girdi ve çıktı işleme
- Araç ve bağlayıcı çağrıları; izin matrisi; yazma yetkili araçlarda kötüye kullanım yolu testi
- RAG getirim davranışı, erişim kontrolü, veri ifşası ve getirim manipülasyonu
- MCP yetkilendirme, onay, belirteç yönetimi, token aktarımı kötüye kullanımı, oturum ve araç maruziyeti kontrolleri
- Uygulanabildiği yerde API, kimlik doğrulama, yetkilendirme ve iş mantığı kontrolleri
- Güvenli PoC ile kötüye kullanım yolu kanıtı: zaman çizgisi, teknik iz ve yeniden üretilebilir adımlar
- Zinciri kesen kontrol önerileri ve fix-first iş listesi (sahibi belli, sıralı)
- Yönetim için karar desteği + teknik ekip için uygulanabilir iş listesi (çift katmanlı teslim)
- Model sağlayıcısının kendi altyapısına yönelik kara kutu saldırı testi
- Kaynak kökeni, bileşen listesi ve registry değerlendirmesi (Yapay Zeka Model Tedarik Zinciri Güvencesi kapsamı)
- DoS, stres, yük testi veya kalıcılık kurma
- Sosyal mühendislik veya fiziksel test
- Yetkisiz üçüncü taraf sistemlere erişim veya test
- Yazılı mutabakatsız yıkıcı aksiyon, üretim etkisi veya kontrolsüz veri dışarı aktarma
- Otonom saldırı ajanı kurulumu veya tam otomatik istismar üretimi
- Yazılı yetkilendirme, çalışma kuralları (RoE), durdurma kriterleri ve geri alma koordinasyonu onaylanmıştır.
- Test ortamı, test hesapları ve gerektiğinde üretime benzer ortam paylaşılmıştır; üretim üzerinde test yalnız yazılı mutabakatla yapılır.
- Sistem istemi, güvenli yürütüm sınırları, araç kataloğu, izin matrisi, RAG veri kaynak listesi ve MCP sunucusu özeti paylaşılmıştır.
- Yüksek etkili aksiyonlar (yazma, çalıştırma, yönetici, ödeme, silme) yazılı onaya tabidir; testler kontrollü PoC ile sınırlıdır.
- Başlangıç fiyatı yaklaşık bütçedir; nihai teklif mimari, izin modeli, veri hassasiyeti, sağlayıcı kısıtları ve test penceresi netleşince daraltılır.
- Ürün ve iş akışı hedefi; kullanıcı rolleri ve izin matrisi
- Test ortamı ve hesaplar; sistem istemi ve güvenli yürütüm sınırları
- Araç kataloğu, RAG veri kaynak listesi, MCP sunucusu özeti
- VPN, MFA, IP izin listesi ve eskalasyon temasları; acil durdurma için ulaşılabilir teknik temas kişisi
- Opsiyonel: mimari özet, tehdit modelleme çıktıları, üçüncü taraf sözleşme kısıtları, raporlama dili (TR / TR+EN), önceki AI güvenlik değerlendirme raporları
Test; yazılı yetki, test hesapları, izinli araçlar, onay kapıları, durdurma koşulları ve geri alma planıyla yürütülmektedir.
Nasıl çalışıyoruz: mimariden kapatma planına altı adım
Kapsam, RoE ve erişim doğrulama
Yazılı yetkilendirme, çalışma kuralları (RoE), durdurma kriterleri, geri alma koordinasyonu, test ortamı ve hesaplar, ajan iş akışı kapsamı ile RAG ve MCP yüzeyi ilk adımda tanımlanmakta; başlangıç görünümü çıkarılmaktadır.
Mimari okuma ve saldırı yüzeyi çıkarımı
Sistem istemi, güvenli yürütüm sınırları, araç kataloğu, izin matrisi, RAG veri kaynakları, MCP sunucuları ve aksiyon sınıfları (salt okunur, sınırlı yazma, yüksek etkili) okunmakta; saldırı yüzeyi haritası çıkarılmaktadır.
Tehdit modelleme ve senaryo tasarımı
İstem enjeksiyonu, dolaylı istem, RAG ifşası, araç kötüye kullanımı ve MCP yetkilendirme istismarı senaryoları; iş akışı hedefine, ajan yetkisine ve aksiyon sınıfına göre tasarlanmakta, OWASP LLM ve Agentic Applications referanslarıyla denetlenmektedir.
İstem, RAG, araç, MCP ve kimlik testleri
İstem enjeksiyonu, RAG erişim kontrolü, araç kötüye kullanımı, MCP yetkisi ve ajan aksiyonlarını onaylı sınırlar içinde güvenli PoC ile test ediyoruz.
Bulgu teyidi ve risk önceliklendirme
Doğrulanmış bulguları veri etkisi, aksiyon yetkisi ve iş riskiyle birlikte değerlendirerek kapatma önceliğini oluşturuyoruz.
Raporlama ve kontrol doğrulaması
Yönetici özeti, teknik rapor, güvenli PoC ve zinciri kesen kontrol önerilerini teslim ediyor; müşteri kontrolleri uyguladıktan sonra uygun kapsamda yeniden test yürütüyoruz.
Ne teslim ediyoruz
Yönetici özeti
- Risk görünümü: doğrulanan kötüye kullanım yollarını veri ve iş etkisiyle açıklamaktadır.
- Canlıya geçiş özeti: önce uygulanması gereken kontrolleri ve kalan riski göstermektedir.
- Yeniden test sonucu: müşteri kontrolleri uyguladıktan sonra kötüye kullanım yolunun durumunu göstermektedir.
Teknik rapor ve güvenlik kayıtları
- Teknik rapor: istem, RAG, araç, MCP ve yetki zincirindeki bulguları açıklamaktadır.
- Güvenli PoC: kötüye kullanım yolunu test ortamında yeniden üretmek için gereken adımları göstermektedir.
- Kontrol planı: zinciri kesecek izin, onay, kayıt ve veri erişimi kontrollerini sıralamaktadır.
- Paylaşılabilir teknik güvenlik kayıtları: test izlerini, ekran görüntülerini ve etkilenen akışı bir araya getirmektedir.
Opsiyonel çıktılar
- Odaklı yeniden test: 30 gün içinde yalnız kapatılan bulgular için ayrı bir kalemdir.
- Uçtan uca yeniden test: zincirin tamamının yeniden doğrulanması için ayrı bir kalemdir.
- Güvenli Ajan ve MCP atölyesi, sıkılaştırma oturumu, tehdit modelleme ya da çift dilli raporlama: ihtiyaç halinde ayrı bir kalem olarak fiyatlandırılmaktadır.
Yönetim canlıya geçiş için gereken kontrolleri görmektedir. Ürün ve güvenlik ekipleri kötüye kullanım yolunu, teknik bulguyu ve kapatma sırasını izlemektedir.
Karar profili
- Süre
- 2-4 hafta (kapsam ve pakete göre)
- Ritim
- Kontrollü PoC ve onay kapıları
- Teslim
- Yönetim ve teknik teslim
- Kapsam
- Ajan iş akışı, araç, RAG, MCP ve yetki
- Uygun
- GenAI uygulamalı ürün ve ajan ekipleri
Hangi durumda hangisi doğru başlangıçtır?
Üç yaklaşım aynı somut bulguyu üretmemektedir. Aralarındaki farkı bilmeden başlamak, yanlış bulgu peşinde zaman ve bütçe kaybettirmektedir.
| Kriter | ÖnerilenÜretken Yapay Zeka (GenAI) Red Team | Yapay Zeka Model Tedarik Zinciri Güvencesi | Genel yapay zeka güvenlik değerlendirmesi |
|---|---|---|---|
| Karar sorusu | Çalışma anında hangi zincir gerçekten istismar ediliyor ve hangi kontrol onu kesmektedir? | Modelin ve yayına alma hattının neyine gerçekten güveniyoruz? | Yapay zeka risk yüzeyimiz genel bir kontrol listesine göre nerede durmaktadır? |
| Birincil somut bulgu | İstismar edilen çalışma anındaki zincir, kötüye kullanım yolu, ajan davranışı ve zinciri kesen kontrol | Kaynak kökeni, bileşen listesi (BOM), kanıt beyanı (attestation), registry ve yayına alma güveni | Kontrol listesi sonucu, duruş skoru ve genel risk haritası |
| İdeal tetikleyici | GenAI ürünün canlıya geçişi; yeni araç, bağlayıcı ya da MCP eklenmesi; ajan yetkisinin yazma veya çalıştırmaya çıkması | Model hattı kaynak ve registry güveninin öne çıkması; iç ya da düzenleyici kanıt paketi ihtiyacı | Genel yapay zeka risk farkındalığı turu; üst düzey yönetim için panoramik özet |
| Yanlış eşleşme | Modelin tedarik güveni ihtiyacını çalışma anındaki zincir testiyle karşılamak | Çalışma anındaki zincir ihtiyacını model tedarik zinciri güvencesiyle karşılamak | Kanıtlanmış zincir kararını genel bir kontrol listesi sonucuyla yerine koymak |
Bir net karar örneği
Anonim örnek
Ajan canlıya geçmeden önce yetki, RAG ve MCP zinciri gerçekte ne yapabiliyordu?
Bir ürün ekibi, RAG ve araç kullanan ajanlı uygulamasını canlıya almadan önce koşu zamanı akışını test etmemiz için bize kapsam verdi. Test hesaplarını, izinli aksiyonları ve durdurma koşullarını birlikte belirledik.
Kontrollü testlerimiz, hazırlanmış içerik üzerinden aracın yetkili olmadığı veriye erişmesine uzanan bir kötüye kullanım yolunu ortaya koydu. Zinciri güvenli PoC ve teknik izlerle doğruladık.
Yönetici özetini, teknik raporu ve zinciri kesen kontrol planını teslim ettik. Müşteri yetki ve onay kontrollerini uyguladıktan sonra yaptığımız yeniden test, kötüye kullanım yolunun kapandığını doğruladı.
Bu çalışmanın kuruma sağladığı
- Canlıya geçiş kararı doğrulanmış kötüye kullanım yoluna göre verildi.
- Veri erişim etkisi güvenli PoC ile doğrulandı.
- Yetki ve onay kontrolleri yeniden test ile doğrulandı.
Ajan iş akışı kapsamınızı birlikte netleştirelim
Ürünün istem, RAG, araç, MCP, kimlik ve yetki akışlarını; test hesaplarını ve izinli aksiyonları bu formda netleştiriyoruz.
Sık sorulan sorular
GenAI Red Team, ürünün koşu zamanı (runtime) akışını ve ajan davranışını test eder. Model Tedarik Zinciri Güvencesi ise modelin kaynağını, bileşenlerini ve dağıtım hattını inceler.
Bu hizmet müşterinin GenAI ürününü test eder. İç sızma testi ekibinin yapay zeka iş akışını geliştirmek için Sızma Testi ve Red Team için Yapay Zeka hizmeti kullanılmaktadır.
Sağlayıcının altyapısı test edilmez. Üretim çalışmaları test hesapları, sınırlı izinler, onay kapıları ve durdurma koşullarıyla yürütülür.
İstem, RAG, araç, MCP, kimlik ve yetki akışı birlikte değerlendirilir. Yönetici özeti, teknik rapor, güvenli PoC ve kontrol planı teslim edilir.
Mimari akış, test hesapları, araç ve MCP listesi, RAG veri kaynakları, izin matrisi, test ortamı ve durdurma temasları çalışma öncesinde paylaşılmalıdır.
En az ayrıcalık, insan onayı, test verisi, kayıt tutma ve geri alma kontrolleri uygulanır. Yıkıcı aksiyonlar ve yetkisiz veri erişimi kapsam dışında tutulur.
İlgili hizmetler ve eklentiler
İhtiyacınız Üretken Yapay Zeka (GenAI) Red Team kapsamının ötesine taşıyorsa doğru köprüyü buradan açabilirsiniz.
Sızma Testi ve Red Team için Yapay Zeka
Odağınız iç ofansif güvenlik ekibinin keşif, kanıt, raporlama ve yeniden test iş akışını insan denetimli yapay zeka ile kontrollü biçimde hızlandırmaksa doğru başlangıç Sızma Testi ve Red Team için Yapay Zeka olmaktadır.
RTModüler Red Team Simülasyonu
Odağınız kritik hedefe giden saldırı yolu, iş etkisi ve tespit boşluğu ise doğru başlangıç Modüler Red Team Simülasyonu olmaktadır.
PT-1Uygulama Güvenliği Sızma Testi
Odağınız GenAI ürünün altta yatan web, API ve mobil yüzeyindeki kritik akış, yetki, müşteri sınırı ve iş mantığı bulgusu ise doğru başlangıç Uygulama Güvenliği Sızma Testi olmaktadır.
// AIS-1 · KEŞİF
Ajan akışını, veri erişimini ve izinli aksiyonları birlikte netleştirelim.
Keşif görüşmesinde istem, RAG, araç, MCP, kimlik ve yetki kapsamını; test ortamını ve beklenen kanıtları birlikte belirliyoruz.