Finans yazılımlarında yapay zekâ kullanırken en kritik tasarım problemlerinden biri, modelin ürettiği öneri ile sistemin kayıt altına aldığı muhasebe gerçeğini birbirinden ayırmak. Örneğin bir banka hareketinin belirli bir faturayla eşleştiğini tahmin eden model yüksek güven skoruna sahip olabilir. Fakat bu tahmin tek başına tahsilat kaydının kesinleştiği veya muhasebe fişinin oluşması gerektiği anlamına gelmemeli.

Biz bu ayrımı iki ayrı nesne üzerinden düşünmenin daha güvenli olduğunu görüyoruz: öneri ve finansal kayıt. Öneri; model sürümü, güven skoru, kullanılan veriler, üretim zamanı ve gerekçeyle birlikte saklanmalı. Finansal kayıt ise yalnızca geçerli iş kuralları ve gerekli kullanıcı onayı tamamlandıktan sonra oluşturulmalı. Böylece sonradan “Bu kayıt neden oluştu?” sorusuna yalnızca sonuçla değil, karar zinciriyle cevap verilebilir.

Örnek bir banka mutabakatı akışında sistem, 48.500 TL tutarındaki hareketi aynı tutardaki açık faturayla eşleştirmeyi önerebilir. Kullanıcı öneriyi kabul ettiğinde mevcut veriyi sessizce değiştirmek yerine ayrı olaylar üretilmesi daha sağlıklı:

- AI eşleştirme önerisi oluşturuldu.

- Öneri kullanıcıya gösterildi.

- Yetkili kullanıcı öneriyi kabul etti.

- Tahsilat ile fatura arasında ilişki kuruldu.

- İlgili finansal durum güncellendi.

Bu olayların her birinde zaman, kullanıcı veya servis kimliği, önceki durum ve yeni durum bulunmalı. Modelin önerisi reddedildiyse bunun da kaydedilmesi değerli; reddedilen örnekler hem denetim hem de model kalitesini değerlendirmek için kullanılabilir.

İnsan onayı da tek tip olmamalı. Düşük riskli bir kategori önerisi ile vergi veya belge durumunu etkileyen işlem aynı politikayı kullanmamalı. Tutar, belge tipi, güven skoru ve işlemin geri alınabilirliği bir risk katmanı oluşturabilir. Sistem bazı önerileri yalnızca gösterebilir, bazılarını taslak hâline getirebilir; mevzuat veya finansal durumu etkileyen adımlarda ise açık onay istemeli. GİB uyumlu e-belge akışlarında AI alan doldurma veya kontrol önerisi sunabilir, ancak gönderim ve yasal durum gerçek sağlayıcı yanıtına ve açık süreç kurallarına dayanmalı.

“Geri al” özelliği de basit bir silme işlemi olmamalı. Bir işlem başka kayıtları etkilediyse geçmişi yok etmek yerine telafi edici işlem üretilmeli. Yanlış eşleştirilen tahsilat kaldırıldığında eski bağlantı, düzeltmeyi yapan kişi, gerekçe ve yeni durum audit izinde korunmalı.

Son olarak kullanıcıya yalnızca güven yüzdesi göstermek yeterli değil. “Tutar eşleşti”, “tarih aralığı uygun” veya “açıklamada fatura numarası bulundu” gibi anlaşılır gerekçeler gösterildiğinde insan onayı gerçek bir kontrol adımına dönüşüyor.

Bu yaklaşımı, kurucusu olduğum FISCUS AI üzerinde geliştiriyoruz: https://fiscusai.org/

Topluluğun görüşünü merak ediyorum:

1. Hangi finansal işlemlerde AI önerisinin insan onayı olmadan uygulanmasını kabul edilebilir buluyorsunuz?

2. Audit kaydında model sürümü ve güven skorunun yanında hangi veriler mutlaka tutulmalı?

3. Hatalı bir otomasyonu düzeltirken silme yerine telafi edici işlemi nasıl modelliyorsunuz?