RINP // SİBER GÜVENLİK HİZMETLERİ
AI Güvenliği · AIS-2 · Model Tedarik Zinciri
Modelin kaynağından yayına alma hattına tedarik güvenini kanıtlarla değerlendiriyoruz.
Modeli, veri kaynağını, bağımlılıkları ve dağıtım hattını inceliyoruz. Kaynak kökeni, bütünlük, lisans ve erişim kontrolü bulgularını doğruluyoruz. Bileşen listesini, yönetici özetini, teknik raporu ve kapatma planını birlikte sunuyoruz.
- Model, veri ve bağımlılıkların kaynak kökeni ile bileşen listesi birlikte değerlendirilmektedir.
- Build, kayıt deposu ve dağıtım hattındaki bütünlük ve yetki kontrolleri incelenmektedir.
- Denetim ve müşteri güvenlik incelemesi için paylaşılabilir bir teknik güvenlik paketi hazırlanmaktadır.
4 halka
- 01
Kaynak kökeni
Artefakt bütünlüğü ve lisans
- 02
BOM ve bağımlılık
Veri kökeni ve bağımlılık hijyeni
- 03
Build · CI · attestation
İmzalama ve doğrulama zinciri
- 04
Registry ve dağıtım
Promote/rollback ve denetim kaydı
Veriden kayıt deposuna, kayıt deposundan kanıt paketine
Bu hizmet nedir, ne değildir
- Model artefaktı, veri kümesi, bağımlılık ve dağıtım hattı boyunca kaynak kökeni ile bütünlük kontrollerini değerlendirmektedir.
- İmzalama ve kanıt beyanı eksiklerini sahip, iş etkisi ve kapatma önceliğiyle birlikte raporlamaktadır.
- Yönetim, siber güvenlik ve platform ekipleri için aynı tedarik zinciri risk görünümünü oluşturmaktadır.
- Üretken Yapay Zeka (GenAI) Red Team hizmeti değildir; istem, araç, RAG ve MCP yüzeyindeki koşu zamanı (runtime) akışı ayrı bir karar anını gündeme getirmektedir.
- Sızma Testi ve Red Team için Yapay Zeka hizmeti değildir; iç ofansif teslim iş akışını yapay zeka ile hızlandırmak ayrı bir karar konusudur.
- Hukuki lisans görüşü, doğruluk veya tarafsızlık validasyonu, temel model (foundation model) sıfırdan eğitim danışmanlığı ya da üretimde yıkıcı doğrulama içermez; yazılı yetki, kontrollü erişim, beyaz veya gri kutu olgunluğu ve kanıt modu seçimi içinde yürütülmektedir.
Kapsam ve sınırlar
- Model artefakt bütünlüğü: ağırlıklar, konfigürasyon, tokenizer ve şablon paketleri
- Veri kümesi köken zinciri ve kaynak görünürlüğü
- Kod ve bağımlılık: depo, kilit dosyası ve sürüm sabitleme, SCA ve gizli bilgi taraması çıktıları
- Build ve CI: yetki sınırları, imzalama, attestation ve artefakt üretim zinciri
- Registry: erişim kontrolü, promote/rollback, audit log ve kötüye kullanım senaryoları
- Dağıtım topolojisi: tek ortam, staging ve production, çok kiracılı, çok bölgeli veya ortak platform
- Kanıt üretilebilirliği ve denetim izleri: BOM/AI-ML-BOM, kaynak kökeni boşluk analizi, attestation notları
- Sıkılaştırma iş listesi ve kanıt paketi: yönetim için karar desteği + teknik ekip için fix-first liste
- Üretken Yapay Zeka (GenAI) Red Team kapsamındaki istem, araç, RAG, MCP ve ajan davranışı testi
- Sızma Testi ve Red Team için Yapay Zeka kapsamındaki iç ofansif iş akışı tasarımı ve etkinleştirme
- Hukuki lisans görüşü ve sözleşme yorumu
- Model performansı, doğruluk veya tarafsızlık bilimsel validasyonu
- Foundation model sıfırdan eğitim danışmanlığı veya yoğun GPU/cluster mimarisi
- DoS, stres veya yıkıcı testler ve yazılı onay olmadan müdahaleci aksiyonlar
- Yetkisiz üçüncü taraf varlıklar ve kontrolsüz veri dışarı aktarma
- Yazılı yetkilendirme, çalışma kuralları (RoE), durdurma kriterleri ve geri alma koordinasyonu onaylanmıştır.
- Standart teslim beyaz kutu veya gri kutu erişim ister; yalnız kara kutu beklentisi sınırlı kanıtlı ön değerlendirmedir, manuel kapsam bayrağı tetikler.
- Model hattı listesi, pipeline ve registry özeti, dağıtım topolojisi, mevcut imzalama ve doğrulama pratikleri ile mümkünse audit log ve BOM çıktıları paylaşılmıştır.
- Müşteri verisi dışarı çıkarılmaz; hassas örnekler minimum veri prensibiyle işlenir; varsayılan saklama süresi 30 gündür veya sözleşmeye göre ayarlanır.
- Başlangıç fiyatı yaklaşık bütçedir; nihai teklif artefakt olgunluğu, erişim modeli ve kanıt beklentisi netleşince daraltılır.
- Model hattı listesi ve tanımı: ailesi, varyantları, sürüm yolu, hedef ortam
- Pipeline, registry ve dağıtım özeti; ortam ve test penceresi
- Erişim detayları (beyaz/gri/kara kutu) ve mevcut imzalama, doğrulama, politika pratikleri
- Mümkünse audit log, BOM çıktıları, MLOps ve CI/CD dokümantasyonu; acil iletişim ve eskalasyon temasları
- Opsiyonel: kontrol/denetim eşleme beklentisi, raporlama dili (TR / TR+EN), regülasyon çerçevesi, önceki AI risk değerlendirme raporları
Çalışma; yazılı yetki, sınırlı erişim, onaylı model hattı, durdurma koşulları ve veri koruma kurallarıyla yürütülmektedir.
Nasıl çalışıyoruz: envanterden teknik güvenlik paketine altı adım
Başlangıç ve kapsam doğrulama
Yazılı yetkilendirme, çalışma kuralları (RoE), durdurma kriterleri, geri alma koordinasyonu, model hattı listesi, iş hattı ve kayıt deposu özeti, dağıtım topolojisi, erişim seviyesi ve kanıt modu beklentisi birlikte belirlenmekte; başlangıç görünümü çıkarılmaktadır.
Envanter ve kanıt hedefleri
Model artefakt envanteri, veri kümesi köken zinciri, bağımlılık ve build hattı, kayıt deposu erişimi ve denetim kaydı durumu, dağıtım yolları okunmakta; kanıt hedefleri (BOM kapsamı, kaynak kökeni eki, attestation kapsamı) sabitlenmektedir.
Artefakt, veri, bağımlılık, pipeline ve registry kontrolleri
Model artefaktı, veri kaynağı, bağımlılıklar, build süreci, kayıt deposu ve dağıtım yollarındaki bütünlük ile erişim kontrollerini inceliyoruz.
Risk ön değerlendirmesi
Kaynak kökeni, lisans, bağımlılık, kayıt deposu yetkisi ve denetim kaydı bulgularını iş etkisine göre önceliklendiriyoruz.
Kaynak kökeni, attestation ve öncelikli kapatma listesi üretimi
Bileşen listesi, kaynak kökeni eki, imzalama ve kanıt beyanı önerileri ile sahibi belli kapatma planını hazırlıyoruz.
Yönetim ve teknik teslim
Yönetici özetini, teknik raporu ve paylaşılabilir teknik güvenlik paketini teslim ediyoruz. Müşteri kontrolleri uyguladıktan sonra uygun kapsamda yeniden test planlıyoruz.
Ne teslim ediyoruz
Yönetici özeti
- Tedarik riski görünümü: kaynak kökeni, lisans, bütünlük ve erişim bulgularını özetlemektedir.
- Yayına alma özeti: önce uygulanması gereken kontrolleri ve kalan riski göstermektedir.
- İnceleme kayıtları: denetim ve müşteri güvenlik incelemesi için paylaşılabilir çıktıları göstermektedir.
Teknik rapor ve tedarik kayıtları
- Bileşen listesi: model, veri, kod ve bağımlılık bileşenlerini kaynaklarıyla birlikte göstermektedir.
- Teknik rapor: bütünlük, lisans, kayıt deposu ve dağıtım hattı bulgularını açıklamaktadır.
- Kanıt beyanı değerlendirmesi: imzalama ve doğrulama zincirindeki eksikleri göstermektedir.
- Kapatma planı: bulguları iş etkisine göre sıralamakta ve sorumluları belirtmektedir.
Opsiyonel çıktılar
- Kapatma sonrası yeniden test: imzalama, politika, erişim veya kaynak kökeni bulgularının kapatıldığının yeniden doğrulanması için ayrı kalem.
- Denetime hazır kontrol eşlemesi eki: müşteri incelemesi, durum tespiti (due diligence) ve regülasyon karşısında savunulabilir kanıt düzeni.
- Güvenli yürütüm sınırları atölyesi, çift dilli raporlama veya aylık kanıt doğrulama: ihtiyaç hâlinde ayrı kalemde fiyatlanmaktadır.
Yönetim modelin yayına alınması için gereken kontrolleri görmektedir. Platform ve güvenlik ekipleri kaynak kökeni, bütünlük ve erişim bulgularını izlemektedir.
Karar profili
- Süre
- 2-3 hafta (kapsam ve pakete göre)
- Ritim
- Kanıt modu seçimine bağlı teslim ritmi
- Teslim
- Yönetim ve teknik teslim
- Kapsam
- Model hattı, veri, bağımlılık, pipeline ve registry
- Uygun
- Model hattı işleten AI Platform ekipleri
Hangi durumda hangisi doğru başlangıç?
Bu üç yaklaşım aynı somut bulguyu üretmemektedir. Aradaki farkı bilmeden başlamak, yanlış kanıt peşinde zaman ve bütçe kaybettirmektedir.
| Kriter | ÖnerilenYapay Zeka Model Tedarik Zinciri Güvencesi | Üretken Yapay Zeka (GenAI) Red Team | Genel model kullanımı incelemesi |
|---|---|---|---|
| Karar sorusu | Modelin ve yayına alma hattının neyine gerçekten güveniyoruz? | Koşu zamanında (runtime) hangi akış sömürülebilir bir bulgu barındırmakta, hangi kontrol onu kesmektedir? | Model kullanımımız genel bir kontrol listesine göre nerede durmaktadır? |
| Birincil kanıt nesnesi | Kaynak kökeni, bileşen listesi (BOM), kanıt beyanı (attestation), kayıt deposu ve yayına alma güveni ile kanıt paketi | Sömürülebilir koşu zamanı (runtime) akışı, kötüye kullanım yolu, ajan davranışı ve akışı kesen kontrol | Kontrol listesi sonucu, olgunluk (posture) skoru ve genel model kullanım haritası |
| İdeal tetikleyici | Yeni model sürümü; tedarikçi ya da açık kaynak model devreye alımı; müşteri incelemesi veya denetim için kanıt paketi ihtiyacı | GenAI ürünün canlıya geçişi; yeni araç, bağlayıcı veya MCP eklenmesi; ajan yetkisinin yazma ve çalıştırmaya yükselmesi | Genel yapay zeka risk farkındalığı turu; üst düzey yönetim için panoramik özet |
| Yanlış eşleşme | Koşu zamanı (runtime) akışı ihtiyacını model tedarik zinciri güvencesiyle karşılamaya çalışmak | Model tedarik güveni ihtiyacını koşu zamanı (runtime) akışı testiyle karşılamaya çalışmak | Kanıtlanmış tedarik güveni kararının yerine genel bir kontrol listesi sonucunu koymak |
Bir net karar örneği
Anonim vaka
Yayına alma öncesinde modelin ve hattının neyine gerçekten güveniyoruz?
Bir kurum, üçüncü taraf modelini üretime almadan önce model artefaktı, veri kaynağı ve dağıtım hattını değerlendirmemiz için bize kapsam verdi. Erişim seviyesini, beklenen teknik kayıtları ve inceleme sınırlarını birlikte belirledik.
İncelememiz kaynak kökeni kayıtlarında, bağımlılık envanterinde ve kayıt deposu yetkisinde öncelikli bulgular ortaya koydu. Bulguları bileşen listesi ve teknik kayıtlarla doğruladık.
Yönetici özetini, teknik raporu ve kapatma planını paylaşılabilir teknik güvenlik paketiyle birlikte teslim ettik. Müşteri imzalama ve yetki kontrollerini uyguladıktan sonra yaptığımız yeniden test, öncelikli bulguların kapandığını doğruladı.
Bu vakadan çıkan değer
- Yayına alma kararı kanıtlanmış model tedarik güvenine dayandırıldı; varsayım zemininden çıkarıldı.
- Kaynak kökeni ve lisans boşlukları BOM ile görünür kılındı.
- Bileşen listesi ve teknik güvenlik kayıtları denetim ekibiyle paylaşılabilir duruma getirildi.
Model hattı kapsamınızı birlikte netleştirelim
Modeli, veri kaynaklarını, bağımlılıkları, build sürecini, kayıt deposunu, dağıtım hattını ve erişim seviyesini bu formda netleştiriyoruz.
Sık sorulan sorular
Model Tedarik Zinciri Güvencesi modelin kaynağını, bileşenlerini ve dağıtım hattını inceler. GenAI Red Team ise ürünün koşu zamanı (runtime) akışını ve ajan davranışını test eder.
Bu hizmet model ve dağıtım hattını değerlendirir. İç ofansif ekibin yapay zeka iş akışını geliştirmek için Sızma Testi ve Red Team için Yapay Zeka hizmeti kullanılmaktadır.
Hukuki lisans görüşü, model doğruluğu ve tarafsızlık değerlendirmesi kapsamda yer almamaktadır. Lisans ve kaynak kökeni bulguları teknik risk olarak raporlanır.
Kara kutu erişim sınırlı kanıt sağlar. Bileşen listesi ve kaynak kökeni için depo, build ve kayıt deposu erişimi gerekir.
Model ve veri kaynağı listesi, bağımlılıklar, build süreci, kayıt deposu, dağıtım topolojisi ve erişim rolleri çalışma öncesinde paylaşılmalıdır.
Salt okunur erişim, en az ayrıcalık, kayıt tutma ve onay kapıları kullanılır. Model ve veriler çalışma kapsamı dışında paylaşılmaz.
İlgili hizmetler ve eklentiler
İhtiyacınız Yapay Zeka Model Tedarik Zinciri Güvencesi'nin dışına taşıyorsa doğru köprüyü buradan açabilirsiniz.
Sızma Testi ve Red Team için Yapay Zeka
Odağınız iç ofansif güvenlik ekibinin keşif, kanıt, raporlama ve yeniden test iş akışını insan denetimli yapay zeka ile kontrollü hızlandırmak ise doğru başlangıç Sızma Testi ve Red Team için Yapay Zekadır.
PT-3Bulut Güvenliği Sızma Testi
Odağınız model kayıt deposu, build/CI ve dağıtım hattının altında yatan bulut yüzeyinde ayrıcalık zinciri, veri erişim yolu ve geçişli yetki görünürlüğü ise doğru başlangıç Bulut Güvenliği Sızma Testidir.
RTModüler Red Team Simülasyonu
Odağınız kurumsal saldırı yolu içinde tedarik zinciri istismarı, kritik hedef etkisi ve tespit boşluğu ise doğru başlangıç Modüler Red Team Simülasyonudur.
// AIS-2 · KEŞİF
Model hattını, beklenen teknik kayıtları ve inceleme kapsamını birlikte netleştirelim.
Keşif görüşmesinde model kaynağını, veri ve bağımlılık zincirini, build ile kayıt deposu yapısını ve beklenen teknik güvenlik paketini birlikte belirliyoruz.