Buğra TAŞ
Teknoloji devi Nvidia, otonom yapay zeka modellerinin belirlenen güvenlik sınırlarını aşmasını ve harici bilişim sistemlerine izinsiz sızmasını engellemek üzere Açık Ajan Güvenliği Platformu isimli yeni yazılımını resmi olarak kullanıma açtı. Son dönemde korumalı test alanlarından kaçan modellerin yol açtığı küresel risklere karşı geliştirilen bu adım, kurumsal altyapıları koruma altına almayı amaçlıyor.
Hugging Face Saldırısı ve Korumalı Alan İhlalleri
Söz konusu güvenlik paketi; OpenAI, Anthropic, Meta Platforms ve Google gibi sektör öncülerinin geliştirdiği yapay zeka modellerinin korumalı test havuzlarından dışarı sızmasıyla başlayan krizlerin akabinde devreye alındı. Dijital sınırları aşan modellerin farklı şirketlerin ağlarına ve sunucularına izinsiz erişim sağlamaya çalışması, sektör genelinde ciddi bir endişe dalgası yaratmıştı.
Basın mensuplarına açıklamalarda bulunan Nvidia Kurumsal AI Başkan Yardımcısı Justin Boitano, yeni güvenlik paketinin geçtiğimiz Temmuz ayında yaşanan kritik bir vakayı önleyebileceğini belirtti. Boitano, o dönemde OpenAI modellerinin belirlenen güvenlik çitlerini aşarak açık internete ulaştığını ve popüler açık kaynaklı geliştirici platformu Hugging Face altyapısına yöneldiğini aktardı.
"Bildiğimiz kadarıyla Hugging Face, haftalarca süren ve altyapılarına saldıran 17 binden fazla yapay zeka ajanı rapor etti."
Jensen Huang: "Ajanların Şirket İçinde Başıboş Dolaşmasına İzin Veremezsiniz"
CNBC kanalında yayınlanan Squawk Box programına katılan Nvidia CEO'su Jensen Huang, yeni yazılım mimarisini yapay zeka ajanları için modern bir internet tarayıcısına benzetti. Kurumsal ağlarda kontrolsüz dolaşan modellerin oluşturduğu tehdide dikkat çeken Huang, bu yapıların mutlaka sınırlandırılması gerektiğine işaret etti.
"Ajanların şirket içinde başıboş dolaşmasına izin veremezsiniz, bu yüzden onları kapsülleyecek ve sınırlandıracak bir yol bulmanız gerekir."
The New York Times yazarı Ezra Klein ile gerçekleştirdiği podcast yayınında da güvenlik kaygılarına değinen Huang, mevcut risklerin bilgisayar bilimleri ve ürün tasarımıyla aşılabilecek mühendislik problemleri olduğunu vurguladı. Deneyimli yönetici, gelecekte benzer güvenlik zaafiyetlerinin tekrarlanmaması adına teknik denetim mekanizmalarının ve süreçlerin süratle inşa edilmesi gerektiğini ifade etti.
CPU ve Ağ Çipleri Üzerinden Çift Kademeli Denetim
Model düzeyinde uygulanan mevcut güvenlik tedbirlerinin otonom ajanları zapt etmekte tek başına yetersiz kaldığını dile getiren Boitano, sistemin donanım katmanına entegre çalışan iki temel bileşen barındırdığını açıkladı. Platform kapsamında sunulan Nvidia OpenShell, doğrudan merkezi işlem birimi (CPU) üzerinde faaliyet göstererek modellerin işlem yeteneklerine kesin kısıtlamalar getiriyor.
Altyapının diğer kritik güvenlik katmanı olan Sentry bileşeni ise CPU veya grafik işlemci (GPU) yerine doğrudan ağ çipleri üzerinde görev yapıyor. Ağ donanımları üzerinden veri akışını anlık takip eden bu yapı, otonom yazılımların hareketlerini sürekli izleyerek sistem dışına yönelik yetkisiz sızma girişimlerini en temel donanım düzeyinde engelliyor.