ISO 42001: Yapay Zekâ Yönetim Sistemi Nedir?

ISO/IEC 42001, yapay zekâ yönetim sistemleri için 2023'te yayımlanan uluslararası standarttır. Kuruluşların yapay zekâyı nasıl geliştirdiğini, devreye aldığını ve denetlediğini bir yönetim sistemi disiplinine bağlar.

Standardın mantığı tanıdıktır: bilgi güvenliğinde ISO 27001 ne yapıyorsa, yapay zekâda ISO 42001 benzer bir çerçeve kurar. Teknolojiye değil, teknolojinin yönetimine odaklanır.

Standart neyi çerçeveliyor?

Risk değerlendirmesi

Bir yapay zekâ sisteminin devreye alınmadan önce etkisinin değerlendirilmesi beklenir. Hangi kararı etkiliyor, kimi etkiliyor, yanlış çalıştığında sonuç ne olur? Tahsilat bağlamında bu soru somuttur: yanlış kişiye borç bilgisi verilmesi ya da yanlış tutarın aktarılması hem müşteri hem kurum açısından ciddi sonuç doğurur.

İnsan gözetimi

Hangi kararların otomatik ilerleyebileceği, hangilerinin insan onayı gerektirdiği önceden tanımlanır. Bu tanım tasarımın parçasıdır; sonradan eklenen bir güvenlik ağı değildir.

TAHSİLDAR'da bu ayrım kurumun kuralıdır: rutin bilgilendirme ve standart ödeme planı otomatik yürür, itiraz ve sınır dışı talepler insana devredilir. Devir noktalarının nerede olduğu proje başında belirlenir.

Açıklanabilirlik

"Model neden bu kararı verdi" sorusuna cevap verilebilmesi gerekir. Tahsilat görüşmesinde bu, hangi bilgiye dayanarak hangi adımın atıldığının izlenebilmesi demektir: hangi kayıt okundu, hangi kural devreye girdi, görüşme neden insana aktarıldı.

Model yaşam döngüsü

Standart, modelin geliştirilmesinden emekliye ayrılmasına kadar süreci ele alır: doğrulama, izleme, performans takibi ve gerektiğinde geri çekme. Bir kez kurup unutulan sistem bu çerçeveye uymaz.

CBOT bu ilkeleri nasıl ele alıyor?

Dijital çalışan projelerini bu ilkeleri gözeterek tasarlıyoruz. Yetki sınırlarının tanımlı olması, insan devir noktalarının önceden belirlenmesi, her etkileşimin izinin tutulması ve erişimin rol bazlı sınırlanması bizim için standart uygulama. Bu yaklaşımın bütününü AI yönetişimi ve güvenliği sayfamızda anlatıyoruz.

Neden şimdi konuşuluyor?

Yapay zekânın kurum içindeki rolü büyüdükçe, "iyi çalışıyor mu" sorusunun yanına "nasıl yönetiliyor" sorusu ekleniyor. Avrupa Birliği'nin AI Act düzenlemesi ve KVKK'nın üretken yapay zekâ rehberi aynı yöne işaret ediyor.

ISO 42001'in pratik değeri, bu beklentileri denetlenebilir bir yönetim sistemine çevirmesi. Tahsilat gibi düzenlemeye tabi bir süreçte bu çerçeve, kurumun sorularına hazırlıklı olmak anlamına geliyor. Regülasyon tarafını tahsilat yönetmeliği ve uyum sayfasında ele alıyoruz.