Özel Yapay Zeka Aracında Veri Gizliliği: Kontrol Listesi

Şirket verisini yapay zekâya aktarmak başlı başına yanlış değildir. Asıl hata, verinin nasıl korunduğunu anlamadan özel bir yapay zekâ aracı kullanmaktır: Verinin nereye gittiğini, ne kadar saklandığını ve hangi kişinin hangi dokümana eriştiğini denetlemeden.

Müşteri listesini genel amaçlı bir sohbet aracına yapıştırmakla, şirket içi belgelerde yetkiye göre arama yapan özel bir asistan kullanmak aynı şey değildir. Model aynı olsa bile veri akışı, erişim kısıtları, sağlayıcı sözleşmesi ve sorumluluk değişir. Konu yalnızca model eğitimi değildir. Çoğu vakada asıl açık, yetkisiz erişimdir.

Öne Çıkanlar

• “Veriniz model eğitimi için kullanılmaz” ifadesi tek başına gizlilik garantisi değildir; saklama, loglama, insan incelemesi ve alt veri işleyenler ayrıca incelenmelidir.
• Özel AI aracı, kullanıcıya normalde erişemediği belgeyi göstermemelidir; RAG katmanı kaynak sistemdeki belge yetkilerini aynen uygulamalıdır.
• API’ye gönderilen kişisel veri, sağlayıcının işlem konumuna göre yurt dışına veri aktarımı değerlendirmesi gerektirebilir.
• Yerel sunucuda çalışan model bazı riskleri azaltır; ancak zayıf kimlik doğrulama, açık loglar ve yanlış yetkileri çözmez.
• En güvenli başlangıç, düşük riskli bir iş akışı, sınırlı veri seti ve insan onaylı pilot kullanımdır.

Veri Gizliliği Model Seçiminden Önce Başlar

Bir yapay zekâ projesinde ilk soru “hangi model?” olmamalıdır. Önce hangi verinin hangi amaçla işleneceği belirlenmelidir.

Satış ekibi teklif taslağı hazırlamak isteyebilir. Destek birimi ürün dokümanlarında arama yapabilir. İK ekibi izin prosedürlerine daha hızlı ulaşmak isteyebilir. Bunların her biri makul kullanım senaryosudur. Ancak hepsi aynı veri riskini taşımaz.

Aracı seçmeden önce veriyi sınıflandırın:

• Herkese açık veri: Web sitesindeki ürün açıklamaları, yayınlanmış kullanım kılavuzları, basın bültenleri.
• Şirket içi veri: Onaylı süreç dokümanları, iç eğitim materyalleri, operasyon rehberleri.
• Gizli ticari veri: Fiyat listeleri, satış teklifleri, tedarikçi koşulları, kaynak kod, strateji belgeleri.
• Kişisel veri: İsim, e-posta, telefon, müşteri notu, çalışan bilgisi, sipariş geçmişi.
• Özel nitelikli veya yüksek hassasiyetli veri: Sağlık, performans, ücret, disiplin, aday değerlendirmesi gibi kayıtlar.

Bu ayrım yoksa “AI kullanıyoruz” bir strateji değil, denetimsiz veri çıkışıdır.

Örnek senaryo: Satış ekibi için teklif asistanı tasarlayan bir şirket düşünün. İlk fikir basittir: Son üç yıla ait tüm teklif klasörünü tek bir bilgi tabanına yüklemek. Ancak klasörde müşteriye özel indirimler, eski fiyatlar ve satış temsilcilerinin notları vardır. Herkesin tüm klasörde arama yapabildiği bir sistem satış hızını artırır, fakat şirket içi mahremiyeti ortadan kaldırır. Doğru çözüm bütün klasörü modele aktarmak değildir. Kullanıcının mevcut erişim yetkisine göre kaynak getiren bir arama katmanı kurmaktır.

Eğitim Politikası Tek Başına Yeterli Değil

Sağlayıcının “veriler eğitim için kullanılmaz” demesi önemlidir. Ancak kontrol listesi bununla bitmez.

Örneğin OpenAI veri kontrolleri sayfasına göre API üzerinden gönderilen veriler, varsayılan ayarlarda model eğitimi için kullanılmaz. Buna rağmen API girdileri ve çıktıları, belirli istisnalar dışında kötüye kullanım tespiti amacıyla 30 güne kadar tutulabilir. Bu, sağlayıcının kötü olduğu anlamına gelmez. “Eğitime gitmiyor” ile “hiçbir yerde tutulmuyor” aynı ifade değildir.

Her plan ve sağlayıcı için şu soruların yazılı yanıtını alın:

1. Prompt ve çıktı verileri model eğitimi için kullanılıyor mu?
2. Veri ne kadar süre saklanıyor?
3. İnsan incelemesi hangi koşullarda mümkün?
4. Veri hangi ülkede işleniyor ve depolanıyor?
5. Alt veri işleyenler kimler?
6. Silme talebi nasıl uygulanıyor?
7. Güvenlik ve hata loglarında hangi alanlar tutuluyor?

Bu bilgileri satış sunumundan almayın. Güncel ürün şartları, veri işleme ekleri ve teknik dokümantasyon üzerinden doğrulayın.

Genel Hesap, Kurumsal Platform ve Özel AI Aracı Aynı Değil

Çalışanların kişisel hesaplarıyla kullandığı genel sohbet araçları, kurumsal veri için varsayılan çalışma ortamı olmamalıdır. Merkezi kullanıcı yönetimi, erişim kaydı ve yazılı kullanım sınırı yoksa kimin hangi içeriği paylaştığını izlemek zorlaşır.

Kurumsal AI platformları daha kapsamlı yönetim denetimleri sunabilir. Yine de belge yetkileriyle nasıl çalıştıkları, entegrasyon biçimleri ve saklama seçenekleri ayrıca incelenmelidir. Özel AI aracı ise belirli bir iş akışı için geliştirilir. Örneğin yalnızca onaylanmış destek makalelerinde arama yapan bir asistan veya CRM erişimi sınırlandırılmış bir teklif taslak aracı olabilir.

Kriter	Genel tüketici hesabı	Kurumsal AI platformu	Özel AI aracı
Kullanıcı yönetimi	Kişisel ve dağınık	Merkezi yönetim mümkün	İşletmenin kimlik sistemiyle eşlenir
Veri kaynakları	Kullanıcının elle yüklediği içerik	Plan ve entegrasyona bağlı	Seçili şirket sistemleri
Belge yetkisi	Genellikle ayrı yönetilir	Entegrasyona bağlı	Kaynak yetkileriyle eşlenebilir
Saklama ve log	Sağlayıcı politikasına bağlı	Kurumsal ayarlara bağlı	Mimariye göre tasarlanır
İş akışı uyumu	Genel amaçlı	Genişleyebilir	Belirli sürece göre kurulur
Uyum sorumluluğu	Çalışan ve işletme arasında dağılır	İşletme + sağlayıcı	İşletme + geliştirici + sağlayıcı

Özel araç oluşturmak, kendi büyük dil modelinizi sıfırdan eğitmeniz gerektiği anlamına gelmez. KOBİ’lerin çoğunun buna ihtiyacı yoktur. Genellikle gereken şey daha nettir: Şirket bilgisini yalnızca yetkili kişilere sunan, veriyi gereksiz süre saklamayan ve belirli bir işi hızlandıran bir arayüz.

Bu tür projelerde yapay zekâ yaklaşımımız, model adından önce veri akışını ve iş sürecini tanımlamayı gerektirir. Çünkü model değişebilir; yanlış kurulan erişim mimarisi ise sorun olarak kalır.

Özel AI Aracında Veri Nerelerden Geçer?

Bir AI aracı tek parça bir kutu değildir. Kullanıcı “sor” düğmesine tıkladığında veri genellikle birden fazla sistemden geçer:

1. Kullanıcı arayüzü ve tarayıcı
2. Kimlik doğrulama katmanı
3. Uygulama sunucusu
4. Veri maskeleme veya filtreleme katmanı
5. Model API’si ya da yerel model
6. Dosya depolama ve vektör veritabanı
7. Hata izleme, analitik ve denetim logları
8. Yedekleme sistemleri

Veri akışı görünmüyorsa, gizlilik de yönetilmiyordur.

Örneğin bir destek asistanı, müşterinin sorusunu yanıtlamak için bilgi bankasında arama yapabilir. Ancak aynı talep hata izleme aracına da kaydediliyorsa kişisel veri başka bir sağlayıcıya da gönderilmiş olabilir. API anahtarı istemci tarafında tutuluyorsa, iyi tasarlanmış görünen uygulama gereksiz bir güvenlik açığı oluşturabilir.

API anahtarlarını tarayıcı kodunda saklamayın. Anahtarlar sunucu tarafında tutulmalı, belirli aralıklarla döndürülmeli ve yalnızca gerekli yetkilere sahip olmalıdır. Bu temel ilke göz ardı edilirse en iyi veri politikası bile uygulamada zayıf kalır.

RAG Sistemi Gizliliği Otomatik Sağlamaz

RAG, yani retrieval-augmented generation, modelin tüm şirket dokümanlarıyla yeniden eğitilmesi yerine soruyla ilgili belge bölümlerini getirerek yanıt üretmesidir. Doğru tasarlandığında şirket içi bilgiye dayalı yanıtlar için işe yarar.

Ancak RAG bir gizlilik özelliği değildir. Bu, arama ve kaynak getirme mimarisidir.

RAG sisteminde üç ayrı alan korunmalıdır:

• Kaynak dokümanlar: Dosyaya kim erişebilir?
• Vektör veritabanı: Doküman parçaları ve anlam temsilleri nasıl korunuyor?
• Yanıt katmanı: Kullanıcıya hangi kaynaklardan bilgi gösteriliyor?

Örnek senaryo: Müşteri destek asistanı geliştiren bir ekibin eski destek kayıtlarını sisteme eklemek istediğini düşünün. İlk incelemede kayıtlarda müşteri adı, telefon, teslimat notu ve sipariş numarası olduğu görülür. Ekip, geçmiş kayıtların tamamını olduğu gibi indekse eklemek yerine kişisel alanları maskeler. Başlangıç bilgi tabanına yalnızca onaylı çözüm makalelerini alır. Böylece asistan hızlı yanıt taslakları hazırlar, fakat müşteri verisini gereksiz bir arama katmanına taşımaz.

RAG aracınız, kullanıcının normalde erişemeyeceği bir satış teklifini, sözleşmeyi veya İK dosyasını semantik aramayla bulabiliyorsa belge yetkilendirmesi bozulmuştur. AI katmanı, kaynak sistemin izinlerini genişletmemeli; olduğu gibi uygulamalıdır.

Prompt Injection ve Araç Yetkileri

Prompt injection, zararlı niyet taşıyan bir metnin modeli normal talimatlarını görmezden gelmeye yöneltmeye çalışmasıdır. Bu metin kullanıcı mesajında, yüklenen bir dokümanda veya harici bir web sayfasında bulunabilir.

Risk daha yüksektir; çünkü bazı AI araçları yalnızca yanıt üretmez. E-posta gönderebilir, dosya okuyabilir, CRM kaydı oluşturabilir veya web üzerinde arama yapabilir.

Bu nedenle:

• Dış web erişimini varsayılan olarak kapalı tutun.
• Modelin çağırabileceği araçları iş akışına göre sınırlandırın.
• E-posta gönderme, kayıt silme veya veri dışa aktarma gibi işlemlerde insan onayı isteyin.
• Güvenilmeyen dokümanları doğrudan talimat kaynağı gibi kabul etmeyin.
• Hassas işlemler için çıktı doğrulaması ve denetim kaydı tutun.

NIST’in üretken yapay zekâ risk çerçevesi de güvenlik, gizlilik ve içerik kökeni risklerinin ürün tasarımında birlikte ele alınması gerektiğini vurgular. NIST Generative AI Profile, teknik ekibin değerlendirebileceği yararlı bir başlangıç kaynağıdır.

KVKK Açısından Sorulması Gerekenler

AI aracı kullanmak, işletmenin kişisel veriye ilişkin sorumluluğunu sağlayıcıya devretmez. Kişisel veri işleyen şirket, hangi veriyi hangi gerekçeyle işlediğini, ne kadar süre sakladığını ve kimlerin erişebildiğini açıklayabilmelidir.

KVKK’nın üretken yapay zekâ rehberi, konunun yalnızca sonuç ekranındaki metinle sınırlı olmadığını söyler. Veri toplama, hazırlama, kullanım, saklama ve silme aşamalarının tamamı değerlendirilmelidir. KVKK’nın üretken yapay zekâ rehberi, bu yaşam döngüsü yaklaşımı için temel başvuru kaynağıdır.

Özel AI projesinde hukuk ve bilgi güvenliği ekipleriyle şu başlıkları değerlendirin:

• Veri sorumlusu ve veri işleyen rolleri
• İşleme amacı ve hukuki sebep
• Veri minimizasyonu
• Saklama ve imha süresi
• Aydınlatma yükümlülüğü
• Sağlayıcıyla veri işleme sözleşmesi
• Alt veri işleyenler
• Özel nitelikli kişisel veri kullanımı
• Yurt dışı veri aktarımı

Yapay zekâ API’sinin yurt dışındaki altyapıya veri göndermesi, somut akışa göre yurt dışına veri aktarımı değerlendirmesi doğurabilir. Kurul, 4 Haziran 2024 tarihli ve 2024/959 sayılı kararıyla dört tip standart sözleşmeyi kabul etti; yurt dışı aktarım yönetmeliği 10 Temmuz 2024’te Resmî Gazete’de yayımlandı. İmzalanan standart sözleşme beş iş günü içinde Kurum’a bildirilmelidir. Ancak hangi mekanizmanın gerektiği; veri türüne, alıcıya, altyapıya ve sözleşmeye göre değişir. KVKK’nın yurt dışına aktarım rehberi, bu değerlendirme için incelenmelidir.

Bu metin hukuki danışmanlık değildir. “KVKK uyumlu AI” hazır bir etiket olarak satın alınamaz. Uyum; veri akışı, sözleşme, erişim yetkisi, saklama politikası ve şirket içi kullanım kurallarının birlikte kurulmasıdır.

Özel AI Aracı İçin 7 Veri Gizliliği Kontrolü

Aşağıdaki liste, ajansınıza, yazılım ekibinize veya sağlayıcınıza iletmeniz gereken temel gereksinimleri içerir.

1. Veri kategorilerini yazılı tanımlayın. Hangi verinin araca gireceğini ve hangisinin yasak olduğunu belirleyin. “Gerektiğinde bakarız” politikası değildir.

2. Kişisel veriyi ve ticari sırrı varsayılan olarak hariç tutun. İlk pilotta anonimleştirilmiş, herkese açık veya düşük riskli içerikle başlayın.

3. Sağlayıcının eğitim, saklama ve insan incelemesi politikasını belgeleyin. Pazarlama cümlesi değil; sözleşme ve teknik doküman kontrol edin.

4. Belge yetkilerini kaynakla eşleyin. Kullanıcı yalnızca CRM, dosya sistemi veya bilgi bankasında zaten erişebildiği içeriği AI aracında görebilmelidir.

5. API anahtarlarını sunucu tarafında saklayın. Anahtarı tarayıcıya, mobil uygulamaya veya paylaşılan dokümana koymayın. Yetkileri daraltın ve anahtarları döndürün.

6. Logları denetleyin. Prompt, belge parçası, müşteri bilgisi veya model çıktısının hata kayıtlarına yazılıp yazılmadığını kontrol edin.

7. Yurt dışı aktarımını ve DPA ihtiyacını değerlendirin. Sağlayıcı, bulut, vektör veritabanı, analitik ve yedekleme araçlarının tümünü veri akışına dahil edin.

Özel AI aracınızda veri akışını ve yetki modelini baştan kurmak istiyorsanız, müşteri paneli veya şirket içi arayüz için performans odaklı özel web geliştirme yaklaşımını inceleyin. AI katmanı kadar, onu kullanan arayüzün kimlik doğrulama ve rol yapısı da önemlidir.

Yerel Model Her Zaman Daha Güvenli Değil

Modeli yerel sunucuda veya özel bulutta çalıştırmak bazı işletmeler için doğru seçim olabilir. Özellikle yüksek hassasiyetli veri, veri egemenliği gereksinimi, sürekli yüksek hacimli kullanım veya ileri düzey özelleştirme gereken durumlarda anlamlıdır.

Ancak yerel modeli ideal çözüm gibi görmemek gerekir. Veri şirketin kendi sunucusunda olsa bile şu sorunlar sürebilir:

• Yanlış kullanıcı yetkileri
• Açık dosya depolama alanları
• Zayıf parola politikası
• Çok faktörlü kimlik doğrulamanın olmaması
• Güncellenmeyen sunucu ve bağımlılıklar
• Şifresiz yedekler
• Hassas promptların loglarda tutulması
• Denetimsiz çalışan kullanımı

Örnek senaryo: İK dokümanlarında arama yapmayı planlayan bir işletmenin, yerel model seçtiği için projenin “güvenli” olduğunu varsaydığını düşünün. İlk erişim testinde tüm yöneticilerin ücret dosyalarında ve performans değerlendirmelerinde arama yapabildiği görülebilir. Sorun modelin nerede çalıştığı değildir. Belge temelli izinler AI katmanına aktarılmamıştır. İK prosedürleri kişisel çalışan dosyalarından ayrıldığında sistem hem daha faydalı hem de daha denetimli hale gelir.

Yerel model, yurt dışına aktarım ve üçüncü taraflarla paylaşım riskini azaltabilir. Ancak güvenliğin yerini tutmaz. Güvenlik; kimlik doğrulama, yetkilendirme, şifreleme, loglama, yedekleme ve güncelleme disiplinidir.

Şirketiniz İçin Doğru Başlangıç Noktası

İşletmelerin çoğu için ilk AI projesi, tüm şirket bilgisini tek bir asistana yüklemek olmamalıdır. Bunun yerine düşük riskli, tekrarlanan ve ölçülebilen bir iş akışı seçilmelidir.

Başlangıç için şu sıralama işe yarar:

1. Tek bir iş akışı seçin. Örneğin sadece onaylı destek makalelerinde arama veya herkese açık ürün dokümanından yanıt taslağı hazırlama.
2. Veri envanteri çıkarın. Hangi kaynaklar kullanılacak, hangi alanlar maskelenecek, hangi belgeler hariç kalacak?
3. Kullanıcı rollerini tanımlayın. Satış, destek, operasyon ve yönetim aynı bilgiye erişmek zorunda değildir.
4. İnsan onayını koruyun. Özellikle müşteri yanıtı, sözleşme özeti ve dış sistemde işlem başlatan çıktılarda son onay insanda kalmalıdır.
5. Pilot kullanımda logları ölçün. Hangi sorular soruluyor, hangi kaynaklar çağrılıyor, gereksiz veri taşınıyor mu?
6. Sonra entegrasyonu genişletin. İlk kullanım kanıtlanmadan CRM, ERP, e-posta ve dosya depolarını bağlamayın.

Türkiye’de kurulmuş olmak, AB’deki müşteri verisini kullanan bir AI ürününün Avrupa düzenlemelerinden bütünüyle bağımsız olduğu anlamına gelmez. Avrupa’ya hizmet sunan veya Avrupa’daki kişilere ait verileri işleyen şirketler, GDPR ve AI Act etkisini somut kullanımlarına göre ayrıca değerlendirmelidir.

Sık Sorulan Sorular

Özel yapay zekâ aracında veriler model eğitimi için kullanılır mı?

Bu durum sağlayıcının ürününe, planına ve sözleşmesine göre değişir. Kurumsal ürünlerde eğitim dışında bırakma seçeneği olabilir. Ancak saklama süresi, insan incelemesi, alt veri işleyenler ve yurt dışı işleme koşulları da ayrıca incelenmelidir.

Şirket verisini genel yapay zekâ araçlarına yüklemek güvenli mi?

Kişisel hesapla kullanılan genel araçlar, şirket verisi için varsayılan çalışma alanı olmamalıdır. Müşteri bilgisi, sözleşme, fiyat, çalışan verisi, kaynak kod veya ticari sır içeren içeriklerde onaylı araç, yazılı politika ve erişim denetimi gerekir.

RAG sistemi kişisel veri riskini ortadan kaldırır mı?

Hayır. RAG, ilgili doküman bölümlerini çağırır. Ancak dokümanlara kimlerin erişebildiği, vektör veritabanının nasıl korunduğu ve hangi kayıtların loglandığı ayrı güvenlik konularıdır.

Yerel sunucuda çalışan yapay zekâ KVKK’ya otomatik olarak uygun mudur?

Hayır. Yerel kurulum bazı aktarım risklerini azaltabilir. Ancak erişim yetkileri, silme, saklama, loglama, şifreleme, yedekleme ve güncellemeler doğru kurulmamışsa uyum sağlanmış sayılmaz.

Yapay zekâ API’sine veri göndermek yurt dışına veri aktarımı sayılır mı?

Sağlayıcının altyapısı, işlem yeri, alt veri işleyenleri ve veri akışı incelenmelidir. Kişisel veri yurt dışındaki bir alıcıya aktarılıyorsa KVKK’nın yurt dışına aktarım kuralları gündeme gelebilir. Somut kullanım için hukuk danışmanıyla değerlendirme yapılmalıdır.

Özel AI aracında en önemli teknik güvenlik önlemi nedir?

Tek başına yeterli bir önlem yoktur. Temel gereklilik, kullanıcının yalnızca zaten erişim hakkı olan bilgiye ulaşmasını sağlayan kimlik doğrulama ve belge bazlı yetkilendirmedir.

AI Aracı Değil, Veri Sınırı Tasarlıyorsunuz

Özel yapay zeka aracında veri gizliliği, “verileriniz güvende” sözüyle sağlanmaz. Hangi verinin hangi amaçla işlendiği, hangi ülkede saklandığı, hangi kullanıcının hangi kaynağa eriştiği ve verinin ne zaman silineceği baştan tasarlanmalıdır.

Doğru kurulmuş özel AI aracı, çalışanların müşteri verisini rastgele genel araçlara aktarmasını azaltır. Bunu sağlayan modelin adı değildir. Erişim mimarisi, veri minimizasyonu, log disiplini ve yazılı kullanım kuralları belirleyicidir.