Yapay Zekanın Yeni Kimlik Kartı
Yapay zeka artık yalnızca soruları yanıtlamıyor. Kurumsal sistemlere bağlanıyor, veriye erişiyor, işlem başlatıyor ve çalışanlara karar süreçlerinde destek oluyor. Bu yeni dönemde şirketlerin yalnızca teknolojiye değil, dijital çalışanların kimliğine, yetkisine ve sorumluluk sınırlarına da odaklanması gerekiyor.
Pazartesi sabahı bir müşteri, aldığı ürünün iadesi için dijital asistana yazıyor. Sistem talebi anlıyor, siparişi buluyor, koşulları kontrol ediyor ve iade sürecini başlatıyor. Müşteri memnun. Operasyon hızlı. Raporlar olumlu.
Ardından finans ekibi önemli bir ayrıntıyı fark ediyor: Dijital çalışanın ne kadar tutara kadar işlem yapabileceği tanımlanmamış.
Bu noktada soru değişiyor.
Yapay zeka doğru karar verdi mi?
Yerine şu soru geliyor:
Bu kararı kurum adına kim verdi ve hangi yetkiyle verdi?
Yapay zeka kurumsal sistemlere erişmeye başladığında artık yalnızca bir arayüz değildir. Belirli görevleri yerine getiren, veri kullanan ve işlem yapan bir dijital çalışandır. Bu nedenle her dijital çalışanın tanımlı bir kimliği, görevi ve yetki alanı olmalıdır.
Erişim, yetki anlamına gelmez
Bir dijital çalışan müşteri kayıtlarını görebilir. Ancak bu, kayıtları değiştirebileceği anlamına gelmez. Sipariş geçmişini inceleyebilir. Ancak belirli bir tutarın üzerindeki iadeleri tek başına onaylamamalıdır. Belgeleri kontrol edebilir. Ancak yüksek etkili kararları insan onayı olmadan tamamlamamalıdır.Kurumsal yapay zeka projelerinde temel risk çoğu zaman sistemin yetersiz kalması değildir. Gereğinden fazla erişime veya işlem yetkisine sahip olmasıdır. Bu nedenle dijital çalışanlar için en az yetki yaklaşımı uygulanmalıdır. Her sistem yalnızca görevini tamamlamak için ihtiyaç duyduğu veriye, araca ve işleme erişmelidir.
Dijital çalışanın kimlik kartı
CBOT olarak farklı sektörlerde yürüttüğümüz yapay zeka projelerinde, başarılı uygulamaların ortak bir özelliğini görüyoruz: Teknoloji kadar görev tanımı, erişim modeli ve insan kontrolü de net biçimde tasarlanıyor. Bu yapıyı yönetmek için her dijital çalışan adına sekiz temel alandan oluşan bir kimlik kartı hazırlanabilir.
1. Görev tanımı
Dijital çalışanın ne yaptığı açık ve ölçülebilir olmalıdır.
“Müşterilere destek verir” ifadesi yeterli değildir.
“Teslimatı geciken siparişleri kontrol eder, müşteriye güncel bilgi verir ve belirlenen koşullarda yeniden gönderim talebi oluşturur” daha doğru bir tanımdır.
2. Kurumsal sahibi
Her dijital çalışanın bir iş sahibi ve teknik sahibi olmalıdır.
İş sahibi, beklenen sonucu ve performans kriterlerini belirler. Teknik sahip ise entegrasyon, güvenlik ve sistem sürekliliğinden sorumludur.
Sahibi belli olmayan bir dijital çalışanın sorumluluğu da belirsiz kalır.
3. Veri erişimi
Dijital çalışanın hangi verilere ulaşabileceği önceden tanımlanmalıdır.
Müşteri verileri, işlem kayıtları, kurum içi belgeler ve çalışan bilgileri aynı risk seviyesinde değildir. Erişimler göreve ve veri hassasiyetine göre sınırlandırılmalıdır.
4. Kullanabildiği sistemler
Bilgiye erişmek ile işlem yapmak aynı şey değildir.
CRM kaydını görüntülemek bir erişimdir. Kaydı değiştirmek ise aksiyondur.
Dijital çalışanın kullanabileceği uygulamalar, servisler ve fonksiyonlar açık biçimde listelenmelidir.
5. İşlem limitleri
Finansal tutar, işlem sayısı, indirim oranı veya değiştirilebilecek kayıt adedi gibi sınırlar belirlenmelidir.
Örneğin düşük tutarlı iadeler otomatik tamamlanabilir. Daha yüksek tutarlarda çalışan onayı gerekebilir.
6. İnsan onayı
Her işlem için insan onayı istemek verimliliği azaltır. Hiçbir işlem için istememek ise gereksiz risk yaratır.
Kişisel veri değişiklikleri, yüksek tutarlı işlemler ve geri alınması zor kararlar insan kontrolüne yönlendirilmelidir.
7. İzlenebilirlik
Dijital çalışanın yalnızca sonucu değil, izlediği yol da kayıt altına alınmalıdır.
Hangi veriyi kullandı? Hangi sisteme erişti? Hangi işlemi başlattı? Nerede insan onayı aldı?
İzlenemeyen bir sistem etkin biçimde yönetilemez.
8. Kullanım süresi
Her dijital çalışanın bir yaşam döngüsü olmalıdır.
Ne zaman devreye alındığı, son güncelleme tarihi, aktif yetkileri ve ne zaman devreden çıkarılacağı bilinmelidir. Aksi hâlde kurum içinde kullanılmayan ancak erişimi devam eden sistemler oluşabilir.
Güven, hatasızlık değildir
Kurumsal yapay zekada güveni, sistemin hiç hata yapmaması üzerine kuramayız. Güven, hata ihtimalini kabul eden ve bu ihtimalin etkisini sınırlayan bir yapı kurmakla oluşur. Bu nedenle yöneticilerin her dijital çalışan için şu sorulara yanıt vermesi gerekir: Dijital çalışanın görevi ne? Kimin adına hareket ediyor? Hangi veriye erişiyor? Hangi işlemleri yapabiliyor? Yetkisinin sınırı ne? Ne zaman insan onayı gerekiyor? Nasıl izleniyor? Görevi sona erdiğinde erişimleri nasıl kapatılıyor? Bu soruların yanıtı yoksa kurumda yapay zeka kullanılıyor olabilir. Ancak yapay zeka yönetişimi henüz kurulmamıştır.
Dijital çalışanlara sınır çizmek
Kurumsal yapay zekada farkı, en fazla dijital çalışana sahip olmak yaratmayacak. Asıl fark, bu dijital çalışanları güvenli, ölçülebilir ve sorumlu biçimde yöneten kurumlarda ortaya çıkacak. Bir dijital çalışanın kimliği yalnızca teknik bir kullanıcı hesabından ibaret değildir. Görevini, erişimlerini, yetkilerini, limitlerini ve sorumluluk sınırlarını tanımlar.
Bu nedenle kurumların sorması gereken ilk soru şu değildir:
Dijital çalışanımız neler yapabilir?
Daha doğru soru şudur:
Dijital çalışanımız kurum adına neleri yapmaya yetkilidir?
CBOT olarak yapay zekayı yalnızca bir teknoloji yatırımı olarak değerlendirmiyoruz. İş süreci, veri, entegrasyon, insan kontrolü ve yönetişim modeliyle birlikte ele alıyoruz.
Çünkü başarılı bir dijital çalışan yalnızca doğru yanıt veren sistem değildir.
Doğru görevle, doğru yetkiyle ve doğru sınırlar içinde çalışan sistemdir.