← Tüm yazılar
AI

Yapay Zeka Otomasyonunda İnsan Denetimi Nasıl Kurulur

Yapay zeka otomasyonundaki temel tehlike, tek başına hatalı bir yanıt değildir. Asıl risk, o yanıtın müşteriye gönderilmesi, reklam bütçesini değiştirmesi, bir kaydı silmesi ya da bir kişi hakkında karar vermesidir. Yapay zeka otomasyonunda insan denetimi, AI çıktısını sonradan kontrol etmek değildir. Hangi eylemlerde AI’ya en baştan yetki verilmeyeceğini belirlemektir.

AI araçları toplantı notlarını özetliyor, müşteri mesajları hazırlıyor, CRM kayıtlarını düzenliyor ve kampanya önerileri sunuyor. Bunların çoğu faydalı. Ancak bir AI ajanına erişim açmak, ona işlem yapma yetkisi de vermektir. Yetki sınırları, onay kapıları ve işlem kayıtları yoksa bu otomasyon değil, işi denetimsiz devretmektir.

Öne Çıkanlar

  • Toplantı özeti ve içerik sınıflandırması gibi düşük riskli işler örneklem denetimiyle otomatik çalışabilir.
  • Müşteri e-postası, teklif, CRM güncellemesi ve reklam bütçesi değişikliği işlem öncesi insan onayı gerektirir.
  • Ödeme, iade, veri silme, erişim yetkisi ve kişi hakkında önemli kararlar AI tarafından tek başına uygulanmamalıdır.
  • İnsan denetimi, “onayla” düğmesi değildir; kaynak veri, gerekçe, etki ve geri alma seçeneği görünür olmalıdır.
  • Kayıt tutmayan otomasyonlarda hata kaynağı bulunamaz; yalnızca aynı hata yeni bir prompt ile tekrar üretilir.

İnsan Denetimi AI Çıktısını Okumaktan Fazlasıdır

İnsan denetimi çoğu zaman yanlış kurulur. Sistem işlemi yapar, ekip de sorun çıktıktan sonra inceleme başlatır. Bu denetim değil, zararı fark etmektir.

Doğru düzen işlemden önce kurulur: AI hangi bilgileri okuyabilir, hangilerini yazabilir, hangi mesajları müşteriye gönderebilir ve hangi eylemleri tek başına yapamaz? Entegrasyona başlamadan bu soruların yanıtı net olmalıdır.

Human-in-the-loop, human-on-the-loop ve human-in-command farkı

Bu üç yaklaşım arasındaki fark, insanın iş akışına hangi noktada dahil olduğudur.

  • Human-in-the-loop: AI öneri üretir veya işlemi hazırlar. İnsan onay vermeden işlem tamamlanmaz.
  • Human-on-the-loop: Sistem belirlenmiş sınırlar içinde çalışır. İnsan istisnaları, uyarıları veya örneklemleri izler ve gerektiğinde müdahale eder.
  • Human-in-command: AI bilgi, tahmin veya taslak sağlar. Karar ve işlem yetkisi tamamen insanda kalır.

Bir blog taslağında human-on-the-loop yeterli olabilir. Müşteriye özel bir fiyat istisnası tanımlanacaksa human-in-the-loop gerekir. İade, ödeme ya da çalışan performansı gibi konularda ise AI yalnızca bilgi sağlamalıdır. Bu durumlarda human-in-command modeli tercih edilmelidir.

NIST’in AI Risk Management Framework yaklaşımı da riski yalnız modelin teknik doğruluğuna bağlamaz. Risk; tasarım, kullanım, veri erişimi, izleme ve müdahale kapasitesi boyunca yönetilir.

Denetim neden sonradan eklenince zayıflar?

Bir AI ajanı müşterilere mesaj gönderebiliyor, CRM kaydını değiştirebiliyor ve reklam hesabında işlem yapabiliyorsa denetimi sonradan eklemek zordur. Çünkü işlem yetkisi çoktan verilmiştir.

Örneğin bir ekip, AI aracını müşteri destek platformuna bağlar. İlk hafta sistem yalnızca teslimat durumu sorularını yanıtlar. Ardından ekip, “İade taleplerini de hızlandıralım” der. Sonra AI, para iadesi isteyen bir müşteriye yanlış bir söz verir. Sorun modelin kötü metin yazması değildir. Sorun, mali etkisi olan bir talebin müşteri mesajı üzerinden otomatikleştirilmesidir.

AI’nın yanılması yeni değil. Yeni olan, aynı hatanın saniyeler içinde yüzlerce müşteriye ulaşabilmesidir.

Hangi AI Otomasyonlarında İnsan Onayı Şart?

Bir işlemin riskini yalnızca parasal değeri belirlemez. Müşteri güveni, kişisel veriler, marka itibarı, işlemin geri alınabilir olup olmadığı ve hukuki etkiler de hesaba katılmalıdır.

Basit bir kural kullanın: Hatalı uygulandığında geri dönüş maliyeti yüksek olan bir eylemi AI tek başına yapmamalıdır.

İşlemHata maliyetiGeri alınabilir mi?Uygun denetim
Toplantı özetiDüşükEvetÖrneklem denetimi
Blog taslağıDüşükEvetEditör kontrolü
Müşteri e-postasıOrtaKısmenGönderim öncesi onay
CRM kaydı güncellemeOrtaKısmenKural bazlı onay
Reklam bütçesi değişikliğiOrta–yüksekKısmenLimit + insan onayı
İade veya ödeme işlemiYüksekHer zaman değilİnsan kararı
Veri silmeÇok yüksekHayırÇift onay + kayıt
Erişim yetkisi değiştirmeÇok yüksekKısmenYetkili insan onayı

Düşük riskli işlemler: örneklem denetimi yeterli olabilir

Düşük riskli görevler genellikle geri alınabilir, müşteriyi doğrudan bağlamaz ve hassas veriler üzerinde işlem gerektirmez. AI bu işlerde hız kazandırır.

Örnekler:

  • Toplantı notlarını özetlemek
  • İç dokümanları etiketlemek
  • Destek taleplerini konuya göre sınıflandırmak
  • Ürün açıklaması taslağı üretmek
  • Tekrarlayan içerikleri ilk taslak seviyesinde hazırlamak
  • CRM görüşme notlarından takip görevi önermek

Yine de AI’yı tamamen serbest bırakmak doğru değildir. Her hafta örneklem kontrolü yapılmalıdır. Hangi çıktıların düzeltildiği, hangi hata türlerinin tekrar ettiği ve aracın hangi verilerde zorlandığı izlenmelidir.

Stanford AI Index 2026’ya göre yeni bir doğruluk testinde 26 üst düzey modelin halüsinasyon oranları %22 ile %94 arasında değişiyor. Modelin akıcı yazması, her zaman güvenilir bilgi ürettiği anlamına gelmez.

Orta riskli işlemler: yayın veya işlem öncesi onay gerekir

Orta riskli işlemler hatalı yapıldığında geri alınabilir. Ancak maliyet yaratabilir, zaman kaybettirebilir veya müşteri güvenini zedeleyebilir.

Bu kategoriye şunlar girer:

  • Müşteriye gönderilecek e-posta taslakları
  • Fiyat teklifi ve kapsam taslakları
  • CRM’de müşteri segmenti veya satış aşaması güncellemesi
  • Reklam metni ve kampanya önerileri
  • Stok, teslimat veya kargo bilgisi içeren yanıtlar
  • Sosyal medya gönderilerinin yayınlanması
  • Ürün kategorisi ve etiket önerileri

Online satış yapan bir mağazanın destek ekibinin, kargo gecikmesi bildirimleri için AI aracı kullandığını düşünün. Sistem, kargo takip verisini okuyup müşterilere uygun taslaklar hazırlıyor. Fakat bir müşteri aynı mesaj dizisinde iade ve ücret geri ödemesi istediğinde AI standart teslimat mesajını göndermeye devam ediyor.

Doğru değişiklik şudur: Kargo durumu soruları otomatik taslak olarak kalır. İade, gecikme tazmini, fiyat farkı ve kişisel veri talepleri ise insan kuyruğuna yönlendirilir. Böylece hız korunur, müşteriyi bağlayan karar yetkisi AI’ya verilmez.

Müşteriyle iletişim kuran AI, markanız adına konuşur. Bu yüzden denetçi, mesaj gönderilmeden önce kaynak veriyi, mesajın tonunu ve fiyat ya da taahhüt içerip içermediğini inceleyebilmelidir.

Yüksek riskli işlemler: AI önerir, insan karar verir

Yüksek riskli eylemlerde hata yalnızca düzeltme işi çıkarmaz. Para veya veri kaybına, ayrımcılığa, sözleşme uyuşmazlıklarına ya da kalıcı itibar zararına yol açabilir.

AI’nın tek başına yapmaması gereken işlemler şunlardır:

  • Ödeme, iade veya indirim tanımlamak
  • Reklam hesabında bütçe artırmak, azaltmak veya kampanyayı durdurmak
  • Veri silmek veya arşivden kaldırmak
  • Kullanıcı erişim yetkisi vermek ya da kaldırmak
  • Müşteriyi bağlayan fiyat, sözleşme veya teslimat taahhüdü göndermek
  • İşe alım, çalışan performansı, kredi, sigorta veya sağlık sonucu doğuran sınıflandırma yapmak
  • Kişisel veriyi üçüncü taraf bir araca aktarmak

Bu durumda model nettir: AI bilgileri toplar, seçenekleri sıralar ve gerekçesini sunar. Son kararı yetkili kişi verir.

AI’nın ödeme veya veri silme yetkisi alması, bir metin aracının kendi başına iş yapmaya başlaması anlamına gelmez. İşletmenin kritik karar alanına erişim almasıdır.

İnsan Denetimini Gerçek Bir Kontrol Noktasına Çevirin

Yapay zeka otomasyonunda insan denetimi, süreç şemasına bir “onay” kutusu eklemekten ibaret değildir. Denetçinin gerçekten karar verebileceği bir arayüz, doğru yetkiler ve işlem kayıtları gerekir.

Yetkiyi işlem türüne göre sınırlayın

İlk ayrım, okuma ve yazma erişimi arasındadır. AI’nın CRM’deki eski müşteri notlarını okuyabilmesi ile müşteri kaydının statüsünü değiştirebilmesi aynı yetki değildir.

Yetki basamaklarını mümkün olduğunca açık tanımlayın:

  1. Oku: AI veriyi inceler, özetler veya sınıflandırır.
  2. Taslak oluştur: Mesaj, teklif, görev veya rapor taslağı üretir.
  3. Yaz: İnsan onayıyla CRM, içerik sistemi veya görev aracında güncelleme yapar.
  4. Gönder: İnsan onayı olmadan müşteriye veya dış sisteme mesaj göndermez.
  5. Kritik işlem yap: Para hareketi, veri silme ve erişim değişikliği AI’ya kapalıdır.

Bu ayrım özellikle reklam operasyonlarında önemlidir. AI arama terimlerini sınıflandırabilir, negatif kelime önerebilir veya düşük performanslı reklamları işaretleyebilir. Buna karşılık bütçe değiştirme, teklif stratejisini güncelleme ve kampanyayı durdurma yetkisi insan onayı olmadan verilmemelidir.

Bu tür işletmeye özel onay ekranları ve kayıt akışları, hazır araçların bağlanmasıyla her zaman çözülmez. Süreç kendi iş kurallarınıza göre çalışacaksa özel web uygulaması geliştirme yaklaşımı daha doğru bir temel olabilir.

Onay ekranı karar vermeyi kolaylaştırmalı

Denetçiye yalnızca “AI bunu önerdi” denirse, insan onayı biçimsel bir adıma dönüşür. Onay ekranında en az dört unsur bulunmalıdır:

  • AI’nın kullandığı kaynak veri
  • Önerilen işlem veya mesaj
  • Önerinin kısa gerekçesi
  • İşlemin etkisi ve geri alma seçeneği

Örneğin CRM’de “satış olasılığı %80” güncellemesi yapılacaksa denetçi yalnızca oranı görmemelidir. AI’nın bu sonuca hangi görüşme notu, davranış veya müşteri sinyaline dayanarak ulaştığını da inceleyebilmelidir.

Aynı kural e-ticaret katalog yönetiminde de geçerlidir. AI ürün açıklaması taslağı hazırlayabilir. Fakat fiyat, stok, kargo taahhüdü, ürün kullanım iddiası veya mevzuata tabi bir ifade insan denetiminden geçmelidir.

Kayıt olmadan denetim kanıtlanamaz

Bir sorun çıktığında “Promptu değiştirelim” demek kolaydır. Ancak bu çoğu zaman eksik bir teşhistir. Sorun yanlış kaynak veriden, gereğinden geniş yetkilerden, yetersiz tanımlanmış bir istisnadan veya denetçinin işlem etkisini görememesinden kaynaklanabilir.

Her otomasyon için şu kayıtları saklayın:

  • İşlemi başlatan tetikleyici
  • Kullanılan veri ve veri kaynağı
  • AI’nın ürettiği çıktı
  • Uygulanan işlem
  • Onaylayan veya reddeden kişi
  • Zaman damgası
  • İşlemin geri alınıp alınmadığı
  • Hata veya itiraz sonucu

Bu kayıtlar yalnızca teknik ekip için değildir. Operasyon yöneticisi, müşteri destek sorumlusu ve iş sahibi de hangi eylemlerin risk yarattığını bu kayıtlar üzerinden görebilir.

En Büyük Risk: İnsan Var Ama Gerçekten Denetlemiyor

İnsan denetiminin tek başına güvenlik sağladığını düşünmek rahatlatıcıdır. Ancak kişi AI çıktısını sorgulamadan sürekli kabul ediyorsa süreç fiilen otomatik çalışıyordur.

Buna otomasyon önyargısı denir: İnsanların otomatik sistemlerin sonucunu yeterince değerlendirmeden doğru kabul etmesi. KVKK’nin üretken yapay zekâ rehberi de çıktıların düzenli olarak izlenmesini ve insan gözetimini öneriyor.

Göstermelik onayı azaltmak için üç kural

İnsan denetiminin işe yaraması için şu üç ilkeyi uygulayın:

  1. Sonucu değil, kanıtı gösterin. Denetçi yalnız taslağı değil; kaynak veriyi, ilgili müşteri geçmişini ve işlem etkisini görmelidir.
  2. Belirsizlikte otomasyonu durdurun. Veri eksikse, müşteri talebi birden fazla anlama geliyorsa veya AI güven eşiği altındaysa işlem insan kuyruğuna düşmelidir.
  3. Yüksek etkili istisnalara odaklanın. Her sıradan işlemi elle kontrol etmek yerine, tutar, müşteri türü, veri kategorisi veya sıra dışı durumlara göre önceliklendirme yapın.

Bir satış ekibinin, AI’nın görüşme notlarını özetlemesini ve satış olasılığı vermesini istediğini varsayalım. İlk denetim ekranında yalnızca “%20, %50, %80” seçenekleri var. Ekip kısa süre içinde AI önerilerini sorgulamadan kabul etmeye başlar.

Ekran yenilenip sistem oranla birlikte son görüşme tarihini, açık itirazları, bütçe bilgisini ve AI’nın gerekçesini gösterdiğinde tablo değişir: Satış yöneticileri bazı kayıtları reddetmeye başlar. Sorun modelin doğruluk oranı değildir. Denetçinin karar vermesi için gereken bağlam ekranda yoktur.

KOBİ’ler İçin 30 Dakikalık İnsan Denetimi Kontrolü

Tüm otomasyon altyapısını bir günde yeniden kurmanız gerekmez. İlk adım, mevcut yetkileri görünür hale getirmektir.

Mevcut otomasyonları listeleyin

Her araç için şu soruları yanıtlayın:

  • Hangi sistemlere erişiyor?
  • Hangi verileri okuyabiliyor?
  • Hangi alanları yazabiliyor veya değiştirebiliyor?
  • Müşteriyle doğrudan iletişim kurabiliyor mu?
  • Para, bütçe, indirim veya stok üzerinde etkisi var mı?
  • İşlem geri alınabiliyor mu?
  • İşlem kaydı tutuluyor mu?

Bu liste çoğu ekipte beklenenden uzundur. Çünkü otomasyonlar zamanla küçük eklemelerle genişler. İlk başta yalnızca içerik taslağı üreten bir araç, birkaç entegrasyondan sonra müşteri verisini okuyan ve mesaj gönderen bir sisteme dönüşebilir.

Her otomasyon için tek bir karar verin

Her iş akışını aşağıdaki dört kategoriden birine yerleştirin:

  • Tam otomatik çalışabilir.
  • İstisna olduğunda insan incelemeli.
  • Her işlemde insan onayı gerekli.
  • AI yalnız öneri üretmeli; işlemi insan yapmalı.

Bu sınıflama, yapay zeka otomasyonunda insan denetimi için uygulanabilir bir başlangıçtır. Her iş akışına aynı katı kuralı uygulamak hem pahalı hem yavaştır. Risk düşükse otomasyon ilerlemelidir. Risk arttıkça insanın karardaki rolü de artmalıdır.

İlk düzeltilecek dört kırmızı bayrak

Aşağıdaki dört durumdan biri varsa otomasyonu durdurun ve yetki yapısını yeniden değerlendirin:

  • AI müşteriye doğrudan mesaj gönderiyor.
  • AI ödeme, iade, indirim veya reklam bütçesi değiştiriyor.
  • AI kişisel veriyi gereksiz yere başka bir araca aktarıyor.
  • AI veri silme veya erişim yetkisi değiştirme yetkisi taşıyor.

İçerik tarafında da benzer bir ayrım gerekir. AI taslak üretebilir; fakat yayın kararı editoryal kontrolden geçmelidir. Bu akışlar, elle kodlanmış WordPress geliştirme projelerinde içerik rolü, taslak, onay ve yayın yetkileri ayrılarak kurulabilir.

Kendi otomasyonunuzdaki yetki sınırlarını netleştirmek istiyorsanız, yapay zeka yaklaşımımızı inceleyin. Başlangıç noktası araç seçimi değil; iş akışı, veri ve karar sınırıdır.

KVKK ve AI Act Bağlamında Neye Dikkat Edilmeli?

Bu bölüm hukuki tavsiye değildir. Ancak AI sistemleri kişisel veri işliyorsa, kişiler hakkında etkili kararlar veriyorsa veya AB pazarına sunuluyorsa denetim yapısı yalnızca operasyonel bir konu olmaktan çıkar.

Türkiye’de kişisel veri ve otomatik kararlar bakımından KVKK’nin genel çerçevesi önem taşır. KVKK’nin üretken yapay zekâ rehberinin de hatırlattığı gibi, Kanun’un 11. maddesi kişiye münhasıran otomatik sistemlerle yapılan analiz sonucunda aleyhine çıkan bir sonuca itiraz etme hakkı tanır. Bu yüzden kişilerin aleyhine sonuç doğurabilecek tamamen otomatik kararlar, insan müdahalesi ve itiraz süreçleri açısından değerlendirilmelidir. Veri işleyen AI araçlarına müşteri listeleri, çalışan bilgileri veya destek kayıtları aktarılmadan önce hangi verinin nereye gittiği açıkça belirlenmelidir.

AB müşteriniz, AB’de kullanıcılarınız veya AB’ye sunulan AI destekli bir ürününüz varsa AI Act kapsamını hukuk danışmanınızla doğrulayın. Avrupa Komisyonu’nun AI Act uygulama takvimine göre yasaklı uygulamalara, şeffaflık yükümlülüklerine ve genel amaçlı yapay zekâ (GPAI) modellerine ilişkin kurallar 2 Ağustos 2026 itibarıyla denetim ve yaptırım kapsamında. Ek III kapsamındaki yüksek riskli sistemlere ilişkin kurallar ise 2 Aralık 2027’de uygulanacak.

Bu nedenle kayıt tutma, insan müdahalesi ve şeffaflık yalnızca “iyi uygulama” değildir. Özellikle müşteri ve çalışan verilerine temas eden sistemlerde, ileride açıklamanız gerekebilecek operasyonel tercihlerdir.

İnsan Denetimi Otomasyonu Yavaşlatmaz; Hatalı Yetkiyi Yavaşlatır

İyi kurulmuş insan denetimi, her e-postayı elle yazmak veya her kaydı tek tek girmek değildir. Düşük riskli ve geri alınabilir işleri otomatikleştirir. İnsan zamanını müşteri, para, itibar ve kişisel veriler üzerinde etkisi olan eylemlere ayırır.

Stanford AI Index 2026, AI Incident Database’e kaydedilen olayların 2024’te 233’ten 2025’te 362’ye çıktığını gösteriyor. Bu, AI kullanımını tamamen bırakmak gerektiği anlamına gelmez. Sistemler büyüdükçe hata, istismar ve yanlış yetkilendirmenin görünürlüğü de artıyor.

Sorulması gereken soru “AI bunu yapabilir mi?” değildir. Doğru soru şudur: “AI bunu yanlış yaparsa kim müdahale edecek, ne geri alınacak ve bunu nasıl ispatlayacağız?”

Yapay zeka otomasyonunda insan denetimi, bu üç soruya yanıt verebiliyorsa işe yarar. Ekranda bir insan bulunması, sistemin gerçekten denetlendiğini tek başına göstermez.

Sık Sorulan Sorular

Yapay zeka otomasyonunda insan denetimi nedir?

Yapay zeka otomasyonunda insan denetimi, sistemin ürettiği çıktıyı veya yapacağı eylemi insanın takip ettiği, doğruladığı, durdurabildiği ya da geri çevirebildiği kontrol düzenidir. Amaç, AI’nın hız avantajını korurken yüksek etkili hataları sınırlamaktır.

Her AI otomasyonunda insan onayı gerekir mi?

Hayır. Düşük riskli ve geri alınabilir işlemler örneklem denetimiyle yürütülebilir. Müşteriye gönderilecek mesajlar, fiyat değişimleri, ödeme, veri silme veya bir kişi hakkında alınan kararlar ise insan onayı ya da doğrudan insan kararı gerektirir.

Human-in-the-loop ile human-on-the-loop arasındaki fark nedir?

Human-in-the-loop modelinde AI, işlem gerçekleşmeden önce insan onayı bekler. Human-on-the-loop modelinde sistem tanımlanmış sınırlar içinde çalışır; insan süreci izler ve gerektiğinde müdahale eder. İşlemin etkisi büyüdükçe insanın karar sürecindeki rolü de büyümelidir.

AI ajanı hangi işlemleri tek başına yapmamalı?

Bir AI ajanı ödeme, iade, veri silme, erişim yetkisi değiştirme, müşteriyi bağlayan fiyat veya sözleşme gönderme ya da bir kişi için önemli sonuç doğuracak kararları tek başına almamalıdır.

İnsan denetimi neden bazen işe yaramaz?

Denetçi AI çıktısını incelemeden otomatik olarak kabul ediyorsa insan denetimi göstermelik kalır. Buna otomasyon önyargısı denir. Denetim ekranı kaynak veriyi, işlem etkisini, gerekçeyi ve geri alma seçeneğini açıkça göstermelidir.

AI otomasyonunda kayıt tutmak neden önemlidir?

Kayıtlar; hangi verinin işlendiğini, AI’nın ne önerdiğini, işlemi kimin onayladığını ve sonucun ne olduğunu gösterir. Hata çıktığında sorunun yalnızca promptta değil, veri, yetki ve süreç tasarımında da aranmasını sağlar.

AI otomasyonu hız kazandırır; denetim yoksa hatalar da aynı hızla büyür.

Yapay zeka destekli iş akışları; yetki sınırı, onay kapısı ve kayıt düzeni olmadan kurulursa aynı yanlışı yalnızca daha hızlı üretir. İşinize uygun, denetlenebilir bir otomasyon kapsamı için projenizi yazın.

Projenizi anlatın, yazılı kapsam çıkaralım.