Anahtar çıkarımlar
- Yönetişim yavaşlatan değil, ölçeklenmeyi mümkün kılan bileşendir.
- Risk sınıflandırması olmadan her kullanım aynı ağırlıkta denetlenir; bu da sistemi tıkar.
- İnsan denetimi kuralı kararın etkisine göre değişmelidir, her karara aynı denetim uygulanmaz.
- Yazılı olmayan yönetişim, denetim anında yok sayılır.
Beş bileşenli minimum çerçeve
İşleyen bir başlangıç çerçevesi şu beş bileşeni içerir: kullanım politikası (hangi araç, hangi veriyle), risk sınıflandırması (düşük/orta/yüksek etki), insan denetimi kuralları, veri gizliliği ve KVKK uyumu, kayıt ve denetim izi.
Bu beş bileşen üç–beş sayfada anlatılabilir. Uzunluk değil, netlik önemlidir. Çalışanın on saniyede cevabını bulabildiği bir belge, kimsenin okumadığı bir politikadan iyidir.
Risk sınıflandırması neden şart?
Her yapay zekâ kullanımını aynı ağırlıkta denetlemek pratikte iki sonuç doğurur: ya süreç tıkanır ya da kurallar görmezden gelinir. Çözüm, kullanımları etkiye göre sınıflandırmaktır.
Düşük etkili kullanımlar (iç not özetleme) hafif kuralla geçer. Yüksek etkili kullanımlar (müşteriye giden içerik, insan hakkında karar, finansal karar) zorunlu insan onayı ve kayıt gerektirir.
İnsan denetimi nasıl tanımlanır?
“İnsan kontrol eder” cümlesi tek başına yetersizdir. Kim kontrol eder, neyi kontrol eder, ne kadar süre içinde ve itiraz durumunda ne olur? Bu dört soru yazılı olmalıdır.
Uygulamada en işe yarayan yöntem, denetimi sürecin içine gömmektir: onay adımı olmadan çıktı bir sonraki adıma geçemez. Süreç dışı denetim isteği zamanla uygulanmaz hâle gelir.
Kayıt tutma ve denetlenebilirlik
Hangi kararda yapay zekânın kullanıldığı, hangi girdilerle çalıştığı ve kimin onayladığı kayıt altında olmalıdır. Bu kayıt hem iç denetim hem müşteri güveni için gereklidir.
Kayıt sistemi ayrı bir yazılım olmak zorunda değil; mevcut süreç araçlarına eklenen basit alanlarla başlanabilir.