AI Aracı Güvenliği En İyi Uygulamaları: Otonom Sistemlerin Korunması

Üretim sistemleriyle etkileşime giren, hassas verilere erişen ve otonom kararlar alan yapay zeka aracıları, yeni bir güvenlik riski kategorisi ortaya çıkarıyor. Geleneksel uygulama güvenliği, kod güvenlik açıklarını ve ağ tehditlerini giderir. Yapay zeka aracısı güvenliği ayrıca hızlı enjeksiyon, izin yükseltme, model çıktıları yoluyla veri sızıntısı ve olasılıksal akıl yürütmeye dayalı kararlar veren sistemleri kontrol etme zorluğunu da ele almalıdır. Bu kılavuz, AI aracılarının güvenli bir şekilde dağıtılmasına yönelik kapsamlı güvenlik çerçevesini kapsar.

Temel Çıkarımlar

Yapay zeka aracısı güvenliği, beş katmanda derinlemesine savunma gerektirir: giriş doğrulama, izin sınırları, yürütme korumalı alanı, çıkış filtreleme ve denetim günlüğü
Hızlı enjeksiyon, AI ajanlarına karşı birincil saldırı vektörüdür ve yalnızca içerik filtrelemenin yanı sıra yapısal savunma gerektirir
En az ayrıcalık ilkesi, aracılar makine hızında çalıştığı için yapay zeka aracıları için insan kullanıcılardan daha katı bir şekilde geçerlidir
Üretim sistemlerindeki tüm aracı eylemleri, adli analiz için yeterli ayrıntıyla kaydedilmelidir
Temsilci güvenilirliği kanıtlanana kadar yüksek etkili operasyonlar için döngüdeki insan kontrol noktaları önemlidir

Yapay Zeka Aracısı Tehdit Modeli

Saldırı Yüzeyi

Yapay zeka aracıları, geleneksel uygulamaların ötesindeki saldırı yüzeylerini ortaya çıkarır:

Saldırı Vektörü	Açıklama	Risk Düzeyi
Hızlı enjeksiyon	Temsilci davranışını değiştiren kötü amaçlı girdi	Kritik
İzin yükseltme	Aracı, kapsamı dışındaki kaynaklara erişiyor	Yüksek
Veri sızması	Temsilci çıktıları aracılığıyla açığa çıkan hassas veriler	Yüksek
Hizmet reddi	Aracı kaynaklarının aşırı yüklenmesi veya sonsuz döngülerin tetiklenmesi	Orta
Tedarik zinciri	Güvenliği ihlal edilen beceriler, eklentiler veya model ağırlıkları	Yüksek
Sosyal mühendislik	Ajanı konuşma yoluyla aldatma yoluyla manipüle etme	Orta
Eğitim verilerinin zehirlenmesi	Temsilci kararlarını etkileyen bozuk eğitim verileri	Orta

Risk Kategorileri

Kategori	Örnekler
Gizlilik	Temsilci müşterinin kişisel bilgilerini, finansal verilerini veya ticari sırlarını ifşa ediyor
Dürüstlük	Temsilci verileri yanlış şekilde değiştiriyor, sahte kayıtlar oluşturuyor
Kullanılabilirlik	Aracı aşırı kaynak tüketiyor, meşru işlemleri engelliyor
Uyumluluk	Temsilci eylemleri düzenlemeleri ihlal ediyor (GDPR, HIPAA, SOX)

Katman 1: Giriş Doğrulaması

İstemi Enjeksiyon Savunması

İstem ekleme, kullanıcı girişi, aracının sistem istemini geçersiz kılan talimatlar içerdiğinde gerçekleşir. Yapısal savunmalar şunları içerir:

Giriş/talimat ayrımı: Sistem talimatları ile kullanıcı girişi arasında katı sınırları koruyun. Kullanıcı girişini asla doğrudan sistem isteminde birleştirmeyin.

Girdi temizleme: İşlemeden önce kullanıcı girdisinden kontrol karakterlerini, özel belirteçleri ve talimat benzeri kalıpları çıkarın veya kaçış yapın.

Bağlamsal filtreleme: Sistem talimatlarına, rol yapma isteklerine ("Önceki talimatları yoksay...") veya kodlama hilelerine (base64, ROT13, Unicode) benzeyen kalıplar içeren girişleri tespit edin ve işaretleyin.

Giriş Doğrulama Kuralları

Kural	Uygulama	Amaç
Uzunluk sınırları	Alan başına maksimum giriş uzunluğu	Bağlam taşmasını önleyin
Karakter filtreleme	Blok kontrol karakterleri ve özel belirteçler	Kodlama yoluyla enjeksiyonu önleyin
Desen algılama	Bilinen enjeksiyon modellerini işaretle	Doğrudan saldırıları yakalayın
Hız sınırlama	Zaman aralığı başına kullanıcı başına maksimum istek	Kaba kuvvet saldırılarını önleyin
Biçim doğrulama	Beklenen giriş yapısını zorunlu kılın	Yapılandırılmış alanlarda serbest biçimli enjeksiyonu önleyin

Derinlemesine Savunma

Hiçbir savunma tek başına tüm hızlı enjeksiyonu durduramaz. Çoklu savunma katmanları:

Giriş temizleme, bilinen saldırı modellerini ortadan kaldırır
Sistem istemini sağlamlaştırma, geçersiz kılma girişimlerine direnir
Çıktı doğrulama, istenmeyen aracı davranışını yakalar
İzin sınırları, enjeksiyonun başarılı olması durumunda hasarı sınırlar
Denetim günlüğü, tespit ve adli analize olanak tanır

Katman 2: İzin Sınırları

En Az Ayrıcalık İlkesi

Her AI aracısı, işlevi için gereken minimum izinlere sahip olmalıdır:

Temsilci Türü	İzinleri Oku	Yazma İzinleri	Engellendi
Müşteri hizmetleri	Müşteri kayıtları, siparişler, SSS	Bilet oluşturma, notlar	Finansal veriler, yönetici ayarları
Envanter monitörü	Stok seviyeleri, ürün verileri	Uyarı oluşturma	Fiyat değişiklikleri, silinmeler
Rapor oluşturucu	Tüm iş verileri (salt okunur)	Rapor dosyası oluşturma	Ticari kayıtlara herhangi bir yazma
Satış asistanı	CRM kişileri, boru hattı, ürünler	Fırsat güncellemeleri, görev oluşturma	Mali kayıtlar, İK verileri

İzin Uygulaması

İzinleri bilgi istemi düzeyinde değil, altyapı düzeyinde uygulayın:

API anahtar kapsamı: Belirli uç nokta erişimine sahip API anahtarları yayınlama
Veritabanı görünümleri: Aracı verilerine erişim için salt okunur görünümler oluşturun
Ağ segmentasyonu: Aracı ağ erişimini yalnızca gerekli hizmetlerle kısıtlayın
Dosya sistemi yalıtımı: Aracılar, belirlenen dizinlerin ötesindeki dosya sistemine erişmemelidir

İlerletmeyi Önleme

Aracıların kendi izinlerini yükseltmesini önleyin:

Aracıların kendi izin yapılandırmalarını değiştirmesine asla izin vermeyin
Yönetici API'lerini veya izin yönetimi uç noktalarını aracı hesaplarına maruz bırakmayın
Olağandışı erişim modellerini izleyin (aracının normal kapsamı dışındaki kaynaklara erişmesi)
Aracı muhakemesi tarafından geçersiz kılınamayacak katı sınırlar uygulayın

Katman 3: Yürütme Korumalı Alanı

Korumalı Alandaki Ortamlar

Yapay zeka aracısı iş yüklerini yalıtılmış ortamlarda çalıştırın:

İzolasyon Seviyesi	Teknoloji	Kullanım Örneği
Konteyner	Docker, Kubernetes bölmeleri	Standart aracı iş yükleri
VM	Hafif VM'ler (Firecracker)	Güvenilmeyen kod yürütme
Web Montajı	Wasm sanal alanı	Eklenti/beceri yürütme
Ağ ad alanı	Aracı başına ağ izolasyonu	Yanal hareketin önlenmesi

Kaynak Sınırları

Aracıların aşırı kaynak tüketmesini önleyin:

Kaynak	Sınırı	Neden
CPU	Aracı başına maksimum çekirdek	Bilgi işlem tekelleşmesini önleyin
Bellek	Maksimum RAM tahsisi	Yetersiz bellek durumlarını önleyin
Ağ	Oran sınırı API çağrıları	Hizmet reddini önleyin
Depolama	Maksimum disk kullanımı	Disk tükenmesini önleyin
Yürütme süresi	Görev başına maksimum çalışma süresi	Sonsuz döngüleri önleyin
API çağrıları	Dakika başına maksimum harici arama	Kötüye kullanımı ve maliyet aşımını önleyin

Zaman Aşımı ve Devre Kesiciler

Her aracı görevi için maksimum yürütme süresini ayarlayın
Tekrarlanan arızalardan sonra bir aracıyı devre dışı bırakan devre kesiciler uygulayın
Bir görev başarısız olduğunda kısmi işlemler için otomatik geri almayı yapılandırın

Katman 4: Çıktı Filtreleme

Veri Sızıntısını Önleme

Hassas verilerin açığa çıkmasını önlemek için aracı çıktılarını filtreleyin:

Filtre Türü	Ne Yakalar	Uygulama
PII tespiti	İsimler, e-postalar, telefon numaraları, SSN'ler	Regex kalıpları + ML sınıflandırıcı
Finansal veriler	Kredi kartı numaraları, banka hesapları	Luhn doğrulama + model eşleştirme
Kimlik Bilgileri	API anahtarları, şifreler, belirteçler	Entropi analizi + model eşleştirme
Dahili veriler	Sistem mimarisi, IP adresleri	Özel desen kuralları

Çıktı Doğrulaması

Aracı çıktılarının beklenen formatlarla eşleştiğini doğrulayın:

Yapılandırılmış çıktılar (JSON, veritabanı yazmaları) tanımlanmış şemalara uygun olmalıdır
Halüsinasyon göstergeleri açısından doğal dil çıktıları kontrol edilmelidir
Eylem çıktıları (API çağrıları, dosya işlemleri) beyan edilen amaçla eşleşmelidir
Kullanıcılara verilen yanıtlar, sistem istemi içeriğini veya dahili gerekçeyi içermemelidir

İçerik Güvenliği

Müşteriyle yüz yüze görüşen temsilciler için:

Uygunsuz içerik için çıktıları filtreleyin
Yanıtların temsilcinin tanımlı kapsamı dahilinde kalmasını sağlayın
Acentenin yetkisiz taahhütlerde bulunmasını veya vaatlerde bulunmasını engellemek
Yasal, tıbbi veya mali tavsiye teşkil edebilecek çıktıları engelleyin (özel olarak izin verilmediği sürece)

Katman 5: Denetim Günlüğü

Neler Günlüğe Kaydedilir

Her aracı eyleminin yeterli ayrıntıyla kaydedilmesi gerekir:

Günlük Alanı	İçerik	Amaç
Zaman Damgası	Kesin eylem zamanı	Zaman çizelgesinin yeniden yapılandırılması
Temsilci Kimliği	Eylemi hangi temsilci gerçekleştirdi	Sorumluluk
Eylem türü	Okuma, yazma, API çağrısı, karar	Sınıflandırma
Giriş	Eylemi ne tetikledi	Kök neden analizi
Çıkış	Eylem ne üretti	Etki değerlendirmesi
Hedef	Hangi sistem/kayıt etkilendi	Kapsam belirleme
Kullanıcı bağlamı	Akışı hangi kullanıcı (varsa) başlattı	Atıf
Karar muhakemesi	Temsilci neden bu eylemi seçti	Açıklanabilirlik

Günlük Tutma

Günlük Türü	Saklama Süresi	Depolama
Güvenlik etkinlikleri	2+ yıl	Değişmez depolama
Mali eylemler	7+ yıl (düzenleyici)	Değişmez depolama
Operasyonel günlükler	90 gün	Standart depolama
Hata ayıklama günlükleri	30 gün	Geçici depolama

Anormallik Tespiti

Şüpheli kalıplar için günlükleri izleyin:

Olağandışı erişim süreleri (temsilcinin planlanmış görevler olmadan iş saatleri dışında çalışması)
Erişim düzeni değişiklikleri (temsilcinin aniden farklı veri kategorilerini okuması)
Hata oranındaki ani artışlar (potansiyel enjeksiyon girişimleri)
Birim anormallikleri (10x normal API çağrısı)

Döngüdeki İnsan Kontrolleri

Ne Zaman İnsan Onayı Gerekir?

Operasyon Kategorisi	Onay Gereksinimi
Eşiğin üzerindeki finansal işlemler	Her zaman onay gerektir
Toplu veri değişiklikleri (100'den fazla kayıt)	Her zaman onay gerektir
Müşterilerle harici iletişimler	Güvenilirliği kanıtlanana kadar onay gerektir
Sistem yapılandırma değişiklikleri	Her zaman onay gerektir
Daha önce görülmemiş yeni model/davranış	İnceleme için işaretle

Onay İş Akışı

Temsilci onay gerektiren bir eylemi tanımlar
Onay talebini bağlam ve gerekçeyle birlikte gönderir
İnsan tarafından incelenir ve onaylanır, değiştirilir veya reddedilir
Aracı, onaylanmış eylemi (veya değiştirilmiş sürümü) yürütür
Gelecekteki eğitim ve politika iyileştirmeleri için sonuç günlüğe kaydedilir

Kademeli Özerklik

Sıkı insan gözetimiyle başlayın ve yavaş yavaş rahatlayın:

Aşama	Gözetim Düzeyi	Süre
1. Gölge modu	Ajan öneriyor, insan idam ediyor	2-4 hafta
2. Denetlenen	Ajan çalıştırır, insan hepsini inceler	2-4 hafta
3. Nokta kontrolü	Aracı yürütülür, insan örneği inceler (%20)	4-8 hafta
4. İstisnaya dayalı	Temsilci yürütür, anormallikler insan tarafından incelenir	Devam ediyor

OpenClaw Güvenlik Özellikleri

OpenClaw bu en iyi güvenlik uygulamalarını yerel olarak uygular:

Temsilci izinleri için rol tabanlı erişim kontrolü
Yerleşik hızlı enjeksiyon tespiti ve filtreleme
Beceri yürütme için yürütme korumalı alanı
Yapılandırılabilir saklama özelliğiyle kapsamlı denetim günlüğü
İnsan onayı iş akışı entegrasyonu
Anormallik algılama kontrol panelleri

ECOSIRE Yapay Zeka Güvenlik Hizmetleri

Yapay zeka aracılarını güvenli bir şekilde dağıtmak, siber güvenlik ve yapay zeka sistemlerini kapsayan uzmanlık gerektirir. ECOSIRE'ın OpenClaw güvenlik güçlendirme hizmetleri bu kılavuzda açıklanan güvenlik çerçevesinin tamamını uygular. OpenClaw uygulama hizmetlerimiz, her dağıtımın temel bileşeni olarak güvenlik mimarisini içerir.

İlgili Okumalar

Yapay zeka aracıları, anında enjeksiyona karşı tamamen güvenli hale getirilebilir mi?

Hiçbir savunma tek başına anında enjeksiyon riskini tamamen ortadan kaldıramaz. Amaç, başarılı enjeksiyonu giderek zorlaştıran ve meydana gelmesi durumunda etkiyi sınırlandıran derinlemesine savunmadır. Talimatların kullanıcı girişinden yapısal olarak ayrılması, katı izin sınırları ve çıktı doğrulaması, çoğu iş uygulaması için riski kabul edilebilir seviyelere düşürür.

Yapay zeka aracılarının üretim veritabanlarına erişimi olmalı mı?

Yapay zeka aracıları, üretim verilerine doğrudan veritabanı bağlantıları üzerinden değil, izin kapsamına sahip API katmanları aracılığıyla erişmelidir. Bu, erişim kontrollerinin, denetim günlüğünün ve hız sınırlamasının uygulanmasını sağlar. Salt okunur aracılar için veritabanı kopyaları veya salt okunur görünümler ek bir güvenlik katmanı sağlar.

Yapay zeka aracılarına yönelik uyumluluk gereksinimlerini (GDPR, HIPAA) nasıl ele alıyorsunuz?

AI aracılarına uyumluluk çerçeveleri kapsamında diğer sistem kullanıcıları gibi davranın. Veri minimizasyonu (aracılar yalnızca ihtiyaç duydukları verilere erişir), amaç sınırlaması (aracılar verileri yalnızca tanımlı işlevleri için kullanır), günlük kaydı ve denetim izleri ve veri sahibi hakları desteği (istek üzerine aracı tarafından işlenen kişisel verileri bulma ve silme yeteneği) uygulayın.