Denetimlerde Yapay Zeka Kullanılabilir Mi?

Son yılların kuşkusuz en ilgi çekici konularından birisi yapay zeka. Yapay zeka devrimi ile yapay zekanın hayatın çeşitli alanlarında kullanımı da yaygınlaşıyor.

Tabii yapay zekadan faydalanırken, sahip olduğu riskleri düşünerek kullanımını dikkatli şekilde yapmak gerekiyor. Bu noktada denetimlerde yapay zeka kullanımı üzerinde hassasiyetle durulması gereken konulardan. Bu sebeple yapay zekayı kullanırken dikkat edilmesi gereken konular, avantajları, dezavantajları, riskleri ve kullanım alanlarına ilişkin bir incelemenin faydalı olduğu ortadadır.

1. Yapay Zekanın Kullanımındaki Avantajlar

• Denetimlerin hızının artırılması

• Denetimlerin görece kalitesinin artırılması

• Denetimlerdeki tutarlılığın artırılması

• Rapor yazımının hızlandırılması

• Denetimlerdeki insan hatalarının minimize edilmesi

• Manuel işlerin minimize edilmesi

• Veri analizi desteği

• Belge incelemesi desteği

2. Yapay Zekanın Kullanımındaki Dezavantajlar ve Riskler

• False-positive sonuçların üretilmesi

• Yapay zekanın hatalı varsayımlarda bulunması

• Yapay zekanın hatalı önyargılarının ortaya çıkması

• Eğitim Verisinin Kalitesine Bağımlılık: Yapay zeka, eksik, yanlı veya güncel olmayan verilerle eğitildiyse veya gerçek kurumsal ortamı temsil etmeyen örnekler içeriyorsa değerlendirmeleri de hatalı olur.

• Veri Kalitesi: Veri kalitesinin düşük olması, zafiyetlerin gözden kaçmasına neden olabilir.

• Kara Kutu Yapay Zeka Modellerinin Kullanım Riski: Kullanılan yapay zeka modelinin ve yapay zekanın nasıl karar verdiği şeffaf olmalıdır. Aksi halde tüm değerlendirmeler ve kararlar tartışmalı hale gelebilir.

• Yapay Zekanın Kendi Güvenliği: Kullanılan yapay zekanın kendi güvenliğinin nasıl sağlandığı, hangi standartlara uyumlu olduğu, başta veri işleme, loglama, erişim olmak üzere bilgi güvenliğinin her alanında güvenliğinin nasıl sağlandığı belli olmalıdır. Bununla beraber sürdürülebilir şekilde bu güvenliğinin sağlandığı makul güvenceye tabi olmalıdır.

• Modelin Manipüle Edilebilmesi (Adversarial Attacks) ve Manipülasyon Riski: Yapay zeka;

• • Belirli girdileri manipüle edilerek hatalı kararlar üretmeye zorlanabilir,

  • Deliller yapay zeka modelini kandıracak şekilde manipüle edebilir,

  • Modelin saldırıyı normal aktivite olarak sınıflandırması sağlanabilir,

  • Sektöre özel ihtiyaçların analizi sorunlu olabilir,

  • Denetlenen kurumun bütçesine, personel ve organizasyon yapısına, kültürüne ve iş yapış biçimine aykırı çözümler üretebilir.

• Veri Gizliliği ve Gizli Bilgilerin Modellerde Sızma Riski: Denetimlerde yapay zekanın erişeceği güvenlik kontrolleri, loglar, gizli bilgiler, ticari sırlar, kuruma ait dosyalar, yapısal ağ verileri, zafiyet bilgileri…vb. bilgileri yapay zeka;

• • Sızdırabilir 

  • Kötü amaçlı kullanılabilir hale getirebilir

  • Bu verileri yanlışlıkla işleyebilir,

  • Saklayabilir,

  • Model eğitimine dahil edebilir,

Özellikle bulutta çalışan veya internete erişecek yapay zeka için bu risk daha da büyüktür.

3. Yapay Zeka ile Denetimlerde Yapılabilecek İşler

• Bazı teknik kontrollerin yapılması

• Draft raporların hazırlanması

• Karmaşık analizlerin ön değerlendirmesinin yapılması

• Büyük veri setlerine ilişkin anomalilerin tespiti

• Örneklem miktarının maksimize edilmesi

• Raporların şeklen gözden geçirilmesi

4. Yapay Zeka ile Denetimlerde Yapılamayacak İşler

• Nihai çıktıların doğrulanması

• Nihai uyumluluk/uyumsuzluk kararlarının alınması

• İnsan uzmanlığının ve yargısının yerini alması

• Karmaşık gereksinimlerin yorumlanması veya nüanslı veya bağlama özgü sorunların değerlendirilmesi.

• Fiziksel denetimlerin yapılması

• Değerlendirme bulgularının veya nihai raporların yayınlanmasına yetki verilmesi

Sonuç

Yapay zeka bir denetçi değil, denetçiye yardımcı olan bir araç olabilir. Bu anlamda bir analiz aracı olarak kullanılabilir ancak karar verici mekanizma her zaman denetçi olmalıdır. Bununla beraber denetçi yapılan tüm çalışmalardan her zaman sorumludur. Bu noktada yapay zekanın bir denetçinin tam anlamıyla rolünü üstlenmesi sakıncalar yaratacaktır.