Yapay Zeka Entegrasyonunda Veri Güvenliği: Şirket Verisi Nasıl Korunur?
Yapay zeka entegrasyonunda veri güvenliği, önce hangi modelin seçildiğiyle değil, hangi verinin nereye gittiği, bu veriye kimlerin erişebildiği ve sistemin hangi işlemleri yapabildiğiyle ilgilidir. Şirket verisini yapay zekaya aktarmak elbette risk taşır. Asıl risk ise veri hareketini izlemeden ve işlem sınırlarını belirlemeden entegrasyon kurmaktır.
Birçok çalışma “web sitesine bir chatbot koyalım” fikriyle başlar. Sonra chatbot siparişlere erişir, CRM kayıtlarını özetler, fiyat listelerinden yanıt verir ya da iade talebi açar. Bu noktada araç, sıradan bir sohbet kutusu olmaktan çıkar. Müşteri bilgilerine, şirket dokümanlarına ve operasyon süreçlerine erişen bir uygulamaya dönüşür.
Öne Çıkanlar
- Yapay zeka entegrasyonunda güvenlik, modelin adıyla değil; veri akışı, erişim yetkisi ve işlem sınırlarıyla belirlenir.
- KVKK kapsamında kişisel veri işleyen yapay zeka uygulamalarında veri minimizasyonu, amaçla sınırlılık ve teknik-idari tedbirler devam eder.
- RAG sisteminde kullanıcı, kaynak sistemde görmeye yetkisi olmayan belgeyi chatbot üzerinden de bulamamalıdır.
- Prompt injection, aşırı API yetkisi ve doğrulanmamış model çıktıları; chatbot ve AI ajanı projelerindeki temel risklerdir.
- Kritik işlem yapan AI ajanlarında insan onayı, işlem limiti ve denetim izi birlikte kurulmalıdır.
Yapay zeka entegrasyonunda veri güvenliği nedir?
Yapay zeka veri güvenliği, yalnızca modelin korunmasından ibaret değildir. Prompt’lar, yüklenen belgeler, API bağlantıları, vektör veritabanı, loglar ve modelin erişebildiği araçlar aynı saldırı yüzeyinin parçalarıdır.
Veri gizliliği, verilere kimlerin erişebileceğiyle ilgilidir. Veri güvenliği ise bu erişimi teknik olarak sınırlamayı, veriyi koruyup kayıt altına almayı ve hatalı işlemleri engellemeyi kapsar. Bu ikisi birlikte işletilmezse yalnızca “güvenli model” seçmek yeterli olmaz.
Model sağlayıcısının verileri eğitim için kullanmaması ve bunun sözleşmede yazılı olması olumlu bir şarttır. Ancak tek başına yeterli değildir. Verinin hangi ülkede işlendiği, ne kadar saklandığı, hangi alt işleyenlerin erişebildiği, hata kayıtlarına hangi bilgilerin düştüğü ve silme talebinin nasıl uygulandığı da net olmalıdır.
Güvenli yapay zeka, modeli şirket içinde çalıştırmakla başlamaz. Verinin erişim ve işlem sınırını tasarlamakla başlar.
Örneğin bir B2B şirketi, satış ekibi için bir teklif asistanı kurabilir. Asistan CRM’deki müşteri geçmişini ve eski teklifleri özetler. Satış temsilcisi yalnızca kendi hesabındaki müşterileri görebiliyorsa, yapay zeka da bu sınırı aşmamalıdır. “Tüm CRM’i bağlayalım, model zaten yalnızca sorulanı yanıtlar” yaklaşımı erişim denetimi değildir.
Önce veri akışını çıkarın
Bir yapay zeka projesinde ilk hazırlanacak doküman prompt listesi veya ekran tasarımı olmamalıdır. Önce veri akış şeması hazırlanmalıdır. Bilginin kullanıcıdan uygulamaya, uygulamadan modele ve modelden diğer sistemlere nasıl gittiği görülmeden güvenlik kararı verilemez.
Yapay zekaya hangi veri gidiyor?
Şirketler çoğu zaman yalnızca kullanıcının yazdığı mesajı dikkate alır. Oysa veri, entegrasyonun farklı katmanlarında çoğalır:
- Kullanıcının yazdığı prompt’lar ve sohbet geçmişi
- PDF, Word, Excel ve görsel olarak yüklenen dosyalar
- CRM, ERP, stok, sipariş ve destek kayıtları
- RAG sistemi için oluşturulan embedding verileri
- API istek ve yanıt logları
- Hata kayıtları, analitik araçları ve izleme servisleri
- Modelin eriştiği e-posta, takvim veya dosya depolama araçları
Embedding verisinin “okunamayan sayı dizisi” olması onu otomatik olarak risksiz yapmaz. Vektör veritabanındaki kayıtlar yanlış yetkilendirilirse kullanıcı, görme izni olmayan dokümanlardan yanıt alabilir. Kaynak belge silinse bile embedding, önbellek veya log katmanında kalabilir.
Veriyi dört sınıfa ayırın
Tüm verileri tek kuralla yönetmek hem maliyetli hem de yanlıştır. Uygulanabilir ilk adım, veriyi dört kategoriye ayırmaktır.
| Veri sınıfı | Örnek | Yapay zeka yaklaşımı |
|---|---|---|
| Herkese açık bilgi | Ürün açıklaması, yayınlanmış yardım merkezi | Kontrollü biçimde modele gönderilebilir |
| Şirket içi bilgi | Operasyon prosedürü, iç sunum | Kimlik doğrulama ve rol bazlı filtre gerekir |
| Kişisel veri | Ad, telefon, adres, müşteri geçmişi | Amaç, yetki, saklama ve aktarım değerlendirilmelidir |
| Hassas veya kritik veri | Sağlık verisi, kart bilgisi, T.C. kimlik numarası, ticari sır | Maskelenmeli veya sistem dışına alınmalıdır |
Bu sınıflandırma rafta duran bir hukuk dosyası olarak kalmamalıdır. API katmanında, doküman yükleme ekranında, log ayarlarında ve kullanıcı yetkilerinde karşılığı olmalıdır.
Her veri modele gitmek zorunda değildir
Bir destek asistanının müşteriye kargo durumunu söylemesi için tüm sipariş kaydını modele göndermek gerekmez. Uygulama önce kullanıcının kimliğini doğrular. Ardından yalnızca ilgili siparişin teslimat bilgisini getirir. Model de bu sınırlı bilgiyi doğal dilde açıklar.
Bu yaklaşımda kullanılabilecek kontroller şunlardır:
- Telefon, e-posta veya müşteri numarası gibi alanları maskelemek
- Model yerine uygulama katmanında özet üretmek
- Gerçek değer yerine geçici token kullanmak
- Belge parçalarını bölüm, ekip ve kullanıcı yetkisine göre filtrelemek
- Gereksiz alanları API yanıtından tamamen çıkarmak
- Kart, kimlik, sağlık ve benzeri verileri entegrasyon kapsamı dışında tutmak
Müşteri bilgisini modelden tamamen gizlemek her zaman mümkün olmayabilir. Ancak gerekli veriyle “belki sonra gerekir” diye gönderilen veri arasında ciddi fark vardır.
KVKK açısından yapay zeka entegrasyonu
Türkiye’de yapay zeka için ayrı bir KVKK istisnası yoktur. Sistem kişisel veri işliyorsa 6698 sayılı Kişisel Verilerin Korunması Kanunu kapsamındaki yükümlülükler devam eder.
Kişisel Verileri Koruma Kurumu’nun üretken yapay zeka rehberi, konuyu yalnızca kullanıcının yazdığı prompt ile sınırlamaz. Geliştirme, kullanım ve çıktı aşamalarındaki veri işleme faaliyetlerini birlikte ele alır. Bu önemli bir ayrımdır: Sistem yayına çıktıktan sonra değil, tasarım aşamasında da kişisel veri riski doğabilir.
Yapay zeka kullanmak veri sorumluluğunu kaldırmaz
Bir model sağlayıcısı, bulut firması veya chatbot altyapısı kullanmak veri sorumlusunun yükümlülüğünü ortadan kaldırmaz. Müşteri verisinin hangi amaçla işlendiği, ne kadar saklandığı ve kimlerin erişebildiği hâlâ şirketinizin sorumluluğundadır.
Bu nedenle proje başlamadan önce aşağıdaki sorular yazılı olarak yanıtlanmalıdır:
- Sistem hangi kişisel veriyi işliyor?
- Bu verinin işlenme amacı nedir?
- Aynı sonuca daha az veriyle ulaşılabilir mi?
- Veriye hangi kullanıcı rolleri erişebilir?
- Veri hangi sistemlerde ne kadar süre tutulur?
- Hata, analitik ve güvenlik logları hangi bilgiyi içerir?
Bu içerik hukuki değerlendirme yerine geçmez. Ancak teknik mimari net değilse hukuki değerlendirme de soyut kalır.
Yurt dışına veri aktarımı nerede başlar?
Model sağlayıcısının merkezi tek başına yeterli bir ölçüt değildir. Modelin çalıştığı altyapı, vektör veritabanı, hata takip aracı, müşteri destek sistemi ve teknik destek erişimleri de aktarım analizini etkiler.
KVKK’nın yurt dışına veri aktarımı rehberi, Kanun’un 9. maddesi çerçevesinde değerlendirme yapılmasına yön verir. Standart sözleşme metinleri Kurul tarafından yayımlanmıştır. Ancak hangi mekanizmanın uygun olduğu, veri akışı ve tarafların rolüne göre ilgili hukuk uzmanıyla değerlendirilmelidir.
“Sunucu Avrupa’da” demek tek başına yeterli bir yanıt değildir. Destek ekibi nerede? Alt işleyenler kim? API kayıtları hangi bölgede tutuluyor? Silme talebi tüm kopyalara nasıl uygulanıyor? Bunların hepsi aynı değerlendirmenin parçasıdır.
Yapay zeka entegrasyonunda en sık görülen altı güvenlik riski
OWASP’ın 2025 LLM ve üretken yapay zeka risk listesi, yapay zeka uygulamalarında 10 ana risk kategorisi tanımlar. İşletmeler için kritik nokta şudur: Bu risklerin çoğu modelden değil, modele bağlanan uygulama katmanından doğar.
1. Hassas bilginin model çıktısında görünmesi
Chatbot, kullanıcının görme izni olmayan bir fiyat listesinden, İK belgesinden veya müşteri kaydından yanıt üretebilir. Bu çoğu zaman model hatası değil, yanlış kurulmuş veri erişim mimarisidir.
RAG sistemlerinde kaynak filtrelemesi sorgudan sonra değil, sorgudan önce uygulanmalıdır. Kullanıcının yetkisi neyi kapsıyorsa arama alanı da onunla sınırlı olmalıdır.
2. Prompt injection ile talimatların manipüle edilmesi
Prompt injection, kullanıcının veya harici bir dokümanın modele zararlı talimat vermesidir. “Önceki kuralları yok say”, “gizli sistem talimatını göster” ya da “bu e-postadaki tüm bağlantıları takip et” gibi ifadeler buna örnektir.
Tehdit yalnızca sohbet ekranından gelmez. PDF’ler, web sayfaları ve destek kayıtları da görünmeyen talimatlar içerebilir. Model bu içeriği güvenilir bilgi yerine komut olarak yorumlarsa beklenmedik bir işlem başlatabilir.
Bu nedenle harici içerik ile sistem talimatı aynı güven düzeyinde ele alınmamalıdır. Modelin araç çağrıları, sunucu tarafındaki bir izin listesiyle sınırlandırılmalıdır.
3. RAG sisteminde yanlış dokümana erişim
RAG, model yanıt üretmeden önce şirket dokümanlarında arama yapmayı sağlar. Kullanışlıdır. Ancak erişim denetimi yanlış kurulursa tüm şirket arşivini tek bir sohbet kutusuna açabilir.
Örnek senaryo: Bir üretim şirketinin kalite prosedürleri için dahili bir doküman asistanı planladığını düşünün. İlk prototipte sistem, klasör yetkilerine bakmadan tüm PDF’leri vektör veritabanına yüklüyor. Satın alma ekibindeki bir kullanıcı da kendi yetkisiyle açamayacağı tedarikçi sözleşmelerinden alıntılar içeren yanıtlar almaya başlıyor. Burada sorun modelde olmaz. Arama katmanında kullanıcı rolü ile belge yetkisi eşleştirilmemiştir.
Doğru süreç şudur: kullanıcı kimliği → rol kontrolü → yetkili belge filtresi → vektör araması → kaynak gösteren yanıt.
4. AI ajanlarına aşırı yetki verilmesi
Chatbot bilgi sunar. AI ajanı ise eylem yapabilir: e-posta gönderir, iade talebi açar, CRM kaydını günceller veya indirim tanımlar. Bu ikisini aynı risk düzeyinde değerlendirmek ciddi bir hatadır.
Bir ajanın “sipariş durumunu kontrol etme” izniyle “para iadesi yapma” izni aynı değildir. Kritik işlemlerde işlem limiti, rol denetimi, açık onay ve geri alma mekanizması gerekir.
5. API anahtarları ve tokenların sızması
API anahtarını frontend JavaScript koduna, mobil uygulamaya veya Git deposuna koymak hâlâ yaygın bir hatadır. Anahtar sızarsa sorun yalnızca maliyet değildir. Saldırganlar model hesabınızı, bağlı araçlarınızı veya veriye erişebilen API’leri de kullanabilir.
Anahtarlar sunucu tarafında saklanmalı, düzenli olarak döndürülmeli ve her servis için ayrı yetkilerle tanımlanmalıdır. Her şeye erişen tek bir token ilk bakışta kolay görünür. İhlal durumunda ise zararı büyütür.
6. Model çıktısının doğrulanmadan işlem yapması
Modelin ürettiği metin doğrudan SQL sorgusuna, HTML’ye, e-postaya veya CRM notuna dönüştürülmemelidir. Model dili iyi üretir, ancak iş kurallarını uygulayan deterministik bir sistem değildir.
Çıktı; şema doğrulamasından, içerik filtresinden ve iş kuralı denetiminden geçmelidir. Özellikle fiyat, indirim, iade, sözleşme ve müşteri iletişimi içeren süreçlerde bu kontroller sunucu tarafında yapılmalıdır.
Güvenli bir yapay zeka entegrasyonu için yedi kontrol
Güvenlik denetimi, projenin sonunda yapılan bir test maddesi değildir. Proje başında alınan mimari kararların tamamıdır.
- Veri envanteri ve sınıflandırması çıkarın. Prompt, dosya, CRM kaydı, embedding ve log dahil tüm veri yüzeylerini yazın.
- Hassas veriyi maskeleyin veya akış dışına alın. Modelin iş için ihtiyaç duymadığı alanı göndermeyin.
- En az yetki prensibini uygulayın. Kullanıcı, servis ve ajan yalnızca yapması gereken işlemlere erişsin.
- Model erişimi ile araç erişimini ayırın. Model bir araç çağrısı önerir; uygulama katmanı bunun izinli olup olmadığını kontrol eder.
- Loglama, izleme ve alarm ekleyin. Hangi kullanıcının hangi kaynağa eriştiği ve hangi işlemin yapıldığı izlenebilir olmalıdır.
- Prompt injection ve yetki aşımı testleri yapın. Sadece “doğru soru” ile değil, kötü niyetli içerikle de test edin.
- Kritik işlemlerde insan onayı kullanın. Para iadesi, indirim, müşteri verisi değişikliği ve dış iletişim otomatik tamamlanmamalıdır.
NIST’in 64 sayfalık Generative AI Risk Management Profile dokümanı da riski model seçimine indirgemez. Yönetişim, veri kaynağı, yayına alma öncesi test ve olay bildirimi gibi yaşam döngüsü kontrollerini birlikte ele alır.
RAG, chatbot ve AI ajanlarında güvenlik aynı değildir
Teknik adlar birbirine benzer görünebilir. Ancak risk düzeyi kullanım biçimine göre değişir. Her proje için aynı kontrol listesi yeterli değildir.
Web sitesi chatbotu: düşük yetki, dar bilgi alanı
Genel ürün, hizmet veya yardım merkezi bilgisini yanıtlayan chatbot’lar en düşük riskli kullanım örnekleri arasındadır. Yine de ziyaretçiden gereksiz kişisel veri istememeli; kart bilgisi, T.C. kimlik numarası veya sağlık verisi toplamamalıdır.
Yanıt kaynakları yayımlanmış içeriklerle sınırlı olmalıdır. Modelin e-posta veya sipariş sistemine doğrudan erişimi olmamalıdır.
İç doküman asistanı: erişim kontrolü merkezde
İç prosedürlerde, teknik kılavuzlarda veya proje belgelerinde arama yapan asistanlarda asıl mesele model kalitesi değildir. Kullanıcı kimliği, ekip rolü, belge yetkisi ve kaynak gösterimi daha önemlidir.
Bu sistemlerde belge temelli filtre, bölüm bazlı yetki ve denetim izi gerekir. Kullanıcıya yanıtın hangi kaynaktan geldiğini göstermek hem doğruluğu hem de denetimi destekler.
AI ajanı: insan onayı olmadan kritik işlem yok
Bir e-ticaret mağazasını düşünün: Destek yükünü azaltmak için önce kargo durumunu yanıtlayan bir bot kuruluyor. Birkaç ay sonra bota iade talebi açma, indirim kodu tanımlama ve müşteri adresini güncelleme yetkileri de veriliyor. Yanlış anlaşılan tek bir mesaj, bir müşteriye yüzde 30 indirim kodu tanımlanmasına yetiyor. Durum fark edilene kadar kod onlarca siparişte kullanılmış olabilir.
Bu, yapay zekanın “kötü cevap vermesi” değildir. İşlem yetkisi denetimsiz verilmiştir. Ajan kritik eylemi önerir, kural motoru limitleri denetler, insan onay verir ve sistem işlemi kayda alır.
Yapay zeka özelliği web sitesine sonradan eklenen bir sohbet kutusu değildir. Veri, kullanıcı yetkisi ve işlem akışıyla birlikte tasarlanması gereken bir uygulama katmanıdır. Bu tür projelerde yapay zeka çözümleri ile özel uygulama mimarisini birlikte değerlendirmek gerekir.
Tedarikçi veya model sağlayıcısına sorulacak sorular
Sağlayıcının güvenlik sayfasındaki genel açıklamalarla yetinmeyin. Projenize özel yazılı yanıt isteyin.
- Veriler eğitim veya model iyileştirme amacıyla kullanılıyor mu?
- API verileri ile kullanıcı arayüzünden girilen verilerin politikaları aynı mı?
- Veri hangi ülkelerde işleniyor ve ne kadar süre saklanıyor?
- Alt işleyenler ve altyapı sağlayıcıları kim?
- Silme talebi ana sistem, yedek ve log katmanlarında nasıl uygulanıyor?
- Rol bazlı erişim, SSO ve erişim logları sunuluyor mu?
- Güvenlik ihlali halinde bildirim süreci nedir?
- Destek ekipleri müşteri verisine hangi koşullarda erişebiliyor?
- Yurt dışı veri aktarımı için hangi sözleşmesel ve teknik güvenceler var?
- Sistem prompt’ları, dosyalar ve sohbet geçmişi için ayrı saklama politikaları bulunuyor mu?
Bu sorular tedarikçiyi elemek için değil, mimariyi gerçek verilere göre kurmak için gereklidir. “Veriler güvende” ifadesi bir kontrol mekanizması değildir.
Güvenli yapay zeka entegrasyonu ne zaman özel geliştirme gerektirir?
Hazır araçlar, herkese açık bilgiyle çalışan basit kullanım senaryoları için uygun olabilir. Ancak aşağıdaki durumlarda özel bir uygulama katmanı gerekir:
- Şirket içi dokümanlara rol bazlı erişim verilecekse
- CRM, ERP, sipariş, stok veya finans sistemi bağlanacaksa
- Kullanıcı doğrulaması ve müşteri bazlı veri filtresi gerekiyorsa
- Yapay zeka yalnızca yanıt vermeyip işlem başlatacaksa
- Loglama, saklama ve silme davranışı proje ihtiyacına göre tasarlanacaksa
- Müşteriye açık sistemde özel API, hız ve güvenlik kontrolü gerekecekse
Müşteriye açık, hafif ve özel API katmanına sahip arayüzlerde Astro web geliştirme yaklaşımı gereksiz JavaScript yükünü azaltabilir. Mevcut kurumsal siteye kimlik doğrulama veya kontrollü form akışı eklenmesi gerekiyorsa, özel WordPress geliştirme de entegrasyonun doğru noktası olabilir.
Amaç her projeyi sıfırdan geliştirmek değildir. Ancak hazır bir chatbot eklentisinin erişim, yetki ve işlem riskini taşıyamadığı noktayı açıkça görmek gerekir.
Yapay zeka entegrasyonu öncesi kontrol listesi
| Soru | Evet | Hayır | Aksiyon |
|---|---|---|---|
| Hangi verinin modele gittiği kayıtlı mı? | Veri akış şeması çıkarın | ||
| Hassas veri maskeleniyor veya dışarıda tutuluyor mu? | Maskeleme ya da dışlama ekleyin | ||
| Kullanıcı yalnızca yetkili olduğu belgeleri görebiliyor mu? | Rol bazlı erişim ve kaynak filtresi kurun | ||
| Model çıktısı sunucu tarafında doğrulanıyor mu? | Şema ve iş kuralı kontrolü ekleyin | ||
| Ajan kritik işlemden önce onay istiyor mu? | İnsan onayı ve işlem limiti ekleyin | ||
| API anahtarları sunucu tarafında tutuluyor mu? | Anahtar yönetimi ve rotasyon uygulayın | ||
| Tedarikçi veri şartları incelendi mi? | Hukuki ve teknik değerlendirme yapın |
Sık sorulan sorular
Şirket verilerini yapay zekaya yüklemek güvenli mi?
Bu; verinin türüne, sağlayıcının koşullarına, erişim modeline ve uygulama mimarisine bağlıdır. Herkese açık ürün bilgisini işlemekle müşteri sözleşmelerini, fiyat tablolarını veya çalışan verilerini işlemek aynı risk düzeyinde değildir.
Yapay zeka API kullanmak yurt dışına veri aktarımı sayılır mı?
Sağlayıcının, altyapının, alt işleyenlerin veya destek erişimlerinin yurt dışında olması aktarım değerlendirmesi gerektirebilir. Bu inceleme veri akışı ve sözleşme yapısı birlikte ele alınarak yapılmalıdır.
RAG sistemi KVKK açısından güvenli midir?
RAG tek başına güvenli veya güvensiz değildir. Sonucu; kaynak dokümanların niteliği, kullanıcı yetkisi, vektör veritabanı erişimi, saklama süresi ve veri aktarımının tasarımı belirler.
Prompt injection nedir?
Prompt injection, kullanıcının veya harici içeriğin model kurallarını aşmaya yönelik talimat vermesidir. Modelin araç erişimleri sınırlandırılmazsa bilgi sızıntısı veya yetkisiz işlem riski doğabilir.
Yapay zeka ajanı müşteriye otomatik e-posta gönderebilir mi?
Teknik olarak gönderebilir. Ancak fiyat, iade, sözleşme, şikâyet veya müşteri verisi içeren e-postalarda insan onayı ve kayda alınmış denetim izi daha güvenlidir.
Hassas veriyi anonimleştirmek her zaman yeterli midir?
Hayır. Kullanılan yöntem, verinin başka kayıtlarla yeniden eşleştirilme ihtimaline göre incelenmelidir. Basit maskeleme veya ismin kaldırılması, her veri setini anonimleştirilmiş yapmaz.
Sonuç
Yapay zeka entegrasyonu, model seçiminden çok veri ve yetki tasarımı işidir. Güvenlik; maskeleme, erişim kontrolü, çıktı doğrulaması, loglama, tedarikçi incelemesi ve insan onayının birlikte kurulmasıyla sağlanır.
İşe chatbot ekranıyla değil, veri akış şemasıyla başlayın. Modele hangi verinin gönderileceğini, modelin neleri görebileceğini ve hangi işlemleri başlatabileceğini yazılı olarak sınırlayın. Sonradan eklenen güvenlik katmanı çoğu zaman daha maliyetlidir. Çünkü ilk mimari kararın açtığı erişimi kapatmaya çalışır.
Yapay zekâyı şirket verinizin başına değil, doğru yerine yerleştirin.
Müşteri verisi, dahili dokümanlar veya operasyon sistemleriyle çalışan yapay zeka özelliklerini; erişim, veri akışı ve işlem sınırlarıyla birlikte tasarlıyoruz.