AI Model Tedarik Zinciri Güvencesi - İçgörü
Yapay Zeka Modelinde Kaynak Kökeni ve Bütünlük Zinciri
Model kullanım kararını sağlayıcı adına veya dosya formatına dayandırmayın. Kaynak kökenini, bileşenleri, imzaları, kayıt deposunu ve dağıtım hattını birlikte doğrulayın.
Bir yapay zeka modelinin beklenen çıktıyı üretmesi, modelin tedarik zincirinin güvenilir olduğunu tek başına göstermez. Model dosyası, veri kaynakları, bağımlılıklar, derleme süreci, kayıt deposu ve dağıtım hattı ayrı güven sınırları oluşturur. Yayına alma kararı bu zincirin izlenebilirliğine dayanmalıdır.
Yanlış çerçeve
Tanınmış bir sağlayıcıdan veya merkezî platformdan gelen her bileşeni doğrudan güvenilir kabul etmek eksik bir yaklaşımdır. Sağlayıcı hesabı, paket yayımlama süreci, dönüşüm aracı veya üçüncü taraf bağımlılığı ele geçirildiğinde güven ilişkisi bütün hatta yayılabilir.
Doğru çerçeve
Doğru değerlendirme, model artefaktının nereden geldiğini, hangi veri ve kod bileşenleriyle üretildiğini, kim tarafından imzalandığını ve hangi kayıt üzerinden dağıtıldığını izler. Bileşen listesi ve kanıt beyanı (attestation), bu sorulara yapılandırılmış yanıt sağlar.
CycloneDX ve SPDX, yapay zeka bileşenlerinin listelenmesi için profiller sunmaktadır. SLSA, in-toto ve Sigstore gibi yaklaşımlar ise üretim ve imzalama kayıtlarının doğrulanmasına yardımcı olur. Standart kullanımı başlangıçtır; kayıtların gerçek dağıtım hattıyla eşleşmesi ayrıca incelenmelidir.
Saha: vakalar
Hugging Face üzerinde açıklanan kötü amaçlı model örnekleri, Pickle tabanlı dosyaların yükleme sırasında kod çalıştırabildiğini gösterdi. Ultralytics ve LiteLLM paket zincirlerinde yaşanan olaylar da yayımlama hesabı veya otomasyon hattındaki bir ihlalin yaygın kullanılan bileşenlere taşınabileceğini ortaya koydu.
Tedarik zinciri riski yalnız dosya taramasından oluşmaz. Güvenli kabul edilen dönüştürme ve tarama araçları da atlatılabilir veya ele geçirilebilir; bu nedenle kaynak kökeni, imza, erişim kontrolü ve denetim kaydı birlikte değerlendirilmelidir.
Mitigasyonun sınırı
Güvenli dosya formatı, kötü amaçlı yazılım taraması veya özel kayıt deposu önemli kontrollerdir. Ancak eksik kaynak kökenini, gereğinden geniş yayımlama yetkisini veya imzasız bir dağıtım adımını tek başlarına telafi etmezler.
Teslim ve doğrulama
Yapay Zeka Model Tedarik Zinciri Güvencesi, model, veri, kod ve bağımlılık envanterini; kaynak kökeni, bütünlük, lisans ve erişim kontrolleriyle birlikte incelemektedir. Eksikler teknik rapor, bileşen listesi, kanıt beyanı değerlendirmesi ve öncelikli kapatma planıyla teslim edilir.
Doğru ilk adım
Kullanılan modelleri, kayıt depolarını ve dağıtım yollarını çıkararak başlayın. Test sorusu ajanın istem, araç ve yetki davranışıysa Üretken Yapay Zeka Red Team; modelin kökeni ve tedarik hattıysa Yapay Zeka Model Tedarik Zinciri Güvencesi uygundur.
Yazıda Geçen Kavramlar ve Kısaltmalar
Bir modelin veri, kod, bağımlılık, yapılandırma ve artefakt bileşenlerini kaynaklarıyla birlikte listeleyen kayıttır.
Bir artefaktın kim tarafından, hangi süreçte ve hangi girdilerle üretildiğini doğrulanabilir biçimde açıklayan imzalı kayıttır.
Pickle yükleme sırasında kod çalıştırabilen bir Python serileştirme biçimidir; Safetensors yalnız tensor verisini taşımak üzere tasarlanmıştır.