Yapay Zeka Bilgi Güvenliğini Temelden Sarsıyor

• Yapay zeka (AI) dünyada bir devrim yaratırken, mevcut pek çok olguyu da derinden sarsıyor. Bazen eskiyi tamamen yıkmayı, bazen eskiyi modernize etmeyi bazen de eskiden yapılana artık farklı bir açıdan yaklaşmayı gerektiriyor. Peki pek çok olgu değişirken bilgi güvenliği değişmiyor mi? Elbette yapay zeka ile birlikte bilgi güvenliği de değişiyor. Hem de öyle bir değişiyor ki sadece güvenlik teknolojileri, güvenlik süreçleri ve insanlar değil aynı zamanda bilgi güvenliğinin temel problemleri olan gizlilik, bütünlük ve erişilebilirlik de çeşitleniyor.
• Gizlilik, bütünlük ve erişilebilirlik problemleri geleneksel bilgi teknolojileri için yeterince güçlü bir kavramsal çerçeve çiziyor ve bu kavramlara dayanarak üretilen güvenlik mimarileri de oldukça güçlü durumda. Ancak yapay zekanın hayatımıza girmesiyle bu kavramlar için hala yeterli, güçlü ve ihtiyacı karşılıyor diyebiliyor muyuz?
•  
• 
• Gizlilik, Bütünlük ve Erişilebilirlik AI için Yetersiz mi Kalmaktadır?
• Süregelen bilgi teknolojileri; veriyi saklayan, ileten ve işleyen pasif sistemlerdir. Bu yüzden de bilgi güvenliği veriye erişim (gizlilik), verinin değiştirilmesi (bütünlük) ve sistemin çalışması (erişilebilirlik) üzerine inşa edilir. Bu açıdan gizlilik, bütünlük ve erişilebilirlik problemlerine çözüm olarak çeşitli teknolojik, süreçsel ve insana ilişkin önlemler birlikte kullanılmaktadır. Oysaki yapay zeka, klasik bilgi teknolojilerinin ötesinde deterministik olmayan, davranış üreten olasılıksal ve adaptif sistemlerdir.
•  
• AI, doğası gereği öğrenen, yorumlayan, karar veren, üreten, bazen insan adına karar verebilen ve bazen de öngörülemeyen davranışlar sergileyen aktif yapılardır. Bu açıdan, AI davranışlarının yönetilebilir ve hatta sınırlandırılabilir olması, çıktıların güvenilir kılınması, modelin kontrol altında tutulması, tasarlanan niyetlerin dışına çıkamaması beklenir. Ancak bunlar mevcutta çok ciddi ve çözülmesi gereken temel problemlerdir. Bununla birlikte, geleneksel bilgi teknolojilerinde tehdit bir kuruma iki yerden gelebiliyor; kurumun dışından veya o kurumun içinden. Dolayısıyla tüm önlemler de dışardan veya içerden gelebilecek tehditlerin yaratacağı riskleri azaltmaya yönelik oluşturuluyor. Ancak, AI ile birlikte sistemin kendisi de artık tehdit üretiyor yani riskin bir kısmı yapay zekanın kendi doğasından ve bu doğanın ortaya çıkardığı davranışlardan doğuyor. Çünkü AI modeli yanlış anlayabiliyor, ikna olabiliyor, manipüle edilebiliyor, halüsinasyon görebiliyor, öğrenilmiş temsil ile verilerdeki önemli ilişkileri tespit edip içsel bir bilgi yapısına dönüştürebiliyor, hedefini hatalı veya fazla optimize edebiliyor. Bu noktada, yapay zekayı kendi potansiyelinden korumak da yine insana düşüyor.
•  
• Geleneksel bilgi teknolojilerinde koruma varlıkla başlar. Veriler, ağ cihazları, sistem cihazları, uygulamalar, uç noktalar, insanlar, dokümanlar, süreçler vb. her şey bir varlık olarak görülebilir. Bu varlıklara ilişkin tehditlere göre riskleri minimize etmek için teknolojik, süreçsel ve insana dair önleyici ve tespit edici önlemler alınır. Oysa ki AI ile birlikte güvenlik artık “varlık koruması” ile birlikte “davranış koruması” nı da içerecek şekilde evriliyor. Esasen AI modelinin çalıştığı ortamların güvenliği için gizlilik, bütünlük, erişilebilirlik üçlüsü hala gerekli; ancak AI’ın kendi doğasından ortaya çıkan otonomi, öngörülemeyen davranışlar (emergent davranışlar), bilgi eksikliği kaynaklı belirsizlikler (epistemik belirsizlikler), amaç optimizasyonları gibi durumlar nedeniyle gizlilik, bütünlük, erişilebilirlik kavramları AI güvenliği noktasında acaba çaresiz mi kalıyor? Çünkü korunması gereken şey sadece veri değil; niyet, anlam, gerçeklik ve kontrol.
•  
• Doğruluk, Hizalanma, İzlenebilirlik ve Dayanıklılık Problemlerine Yönelik Çözümler Yeterli Gelir mi?
• AI modellerinin kendi doğasından kaynaklı riskleri azaltmak için öncelikle gizlilik, bütünlük ve erişilebilirliğin AI sistemlerine uyarlanışını inceleyip ardından da doğruluk, hizalanma, izlenebilirlik ve dayanıklılık ile bilgi güvenliği resminin nasıl tamamlandığına bakalım.
•  
• Gizlilik (Confidentiality): AI modelinin eğitim verisini sızdırmaması, prompt’lardan hassas bilgi üretmemesi, model extraction saldırılarına dayanıklı olması gerekir. Gizlilik önlemleri sayesinde prompt injection ile gizli sistem prompt’unun açığa çıkması, modelin eğitim datasındaki hassas veriyi geri üretmesi gibi bazı saldırılar engellenebilir. Dolayısıyla AI sistemlerinde gizlilik; yalnızca veri erişim kontrolü değil, modelin bilgiyi yeniden üretim kapasitesinin de sınırlandırılmasıdır.
•  
• Bütünlük (Integrity): Sadece verinin değil, model ağırlıklarının, inference pipeline’ının, retrieval kaynaklarının, fine-tuning süreçlerinin değiştirilmemesi veya yetkili kullanıcılar tarafından kontrollü şekilde değiştirilmesi gerekir. Bütünlük önlemleriyle data poisoning, model poisoning, adversarial manipulation, RAG kaynak manipülasyonu gibi bazı saldırılar engellenebilir. Dolayısıyla AI modellerinde bütünlük, veri bütünlüğünden çok, karar fonksiyonunun stabilitesidir yani korunması gereken şey yalnızca veri değil; yüksek boyutlu karar geometrisidir.
•  
• Erişilebilirlik (Availability): AI modelleri bellek/bant genişliği, GPU erişimi, token işleme kapasitesine bağımlıdır. Bu nedenle, AI modelinin hizmet verebilir durumda olması, GPU/compute exhaustion saldırılarına dayanıklı olması, inference latency altında çökmeden çalışması gerekir. Erişilebilirlik önlemleriyle token flooding, recursive agent loops, context exhaustion, prompt amplification gibi bazı saldırılar engellenebilir. Dolayısıyla AI modellerinde erişilebilirlik sadece sistemin ayakta olması değil, aynı zamanda işlem kapasitesinin korunması anlamına da gelmektedir.
• Gizlilik, bütünlük, erişilebilirlik önlemleriyle bazı saldırılar yukarıda da bahsedildiği üzere engellenebilir. Ancak hala açıkta kalan noktalar bulunmakta, bunlar da doğruluk, hizalanma, izlenebilirlik ve dayanıklılık problemlerine ilişkin önlemler ile gidermeye çalışılabilir. Ancak bunun için öncelikle bu kavramların ne olduğuna biraz bakmakta fayda var.
•  
• Doğruluk (Reliability), AI sisteminin gerçeklikle ilişki problemini ifade eder. AI sistemleri olasılıksal sistemler olduğundan doğruluk garantileri sınırlıdır ve halüsinasyona açıktırlar. Doğruluğa ilişkin alınabilecek önlemler ile AI modelinin yanlış karar vermesinin önüne geçilebilir.
•  
• Hizalanma (Alignment), AI sisteminin niyet problemini ifade eder. Hizalanma AI güvenliğinin temelinde yer alan kuramsal, felsefi ve etik problemlerden biri olup aynı zamanda kontrol teorisi, oyun teorisi ve karar teorisinin kesişimindeki bir problemdir. AI sisteminin organizasyon hedefleriyle, etik kurallarla ve insan niyetleri ile uyumlu olması gerekirken; amaç optimizasyonu, reward hacking veya güvenlik politikalarını bypass etmesi ile bu durum ortadan kalkabilir. Hizalanmaya ilişkin alınabilecek önlemler ile AI modelinin kötü niyetli davranmasının önüne geçilebilir.
•  
• İzlenebilirlik (Traceability), AI sisteminin hesap verebilirlik problemini ifade eder. AI sisteminin kararlarını neden verdiği, hangi veriyle ürettiği, hangi tool’un çağrıldığı, hangi prompt zincirinden geçtiği izlenebilmelidir. Özellikle Agentic AI sistemleri çok katmanlı karar zincirleri üretirler bu sebeple de klasik loglama mekanizmaları yetersiz kalmaktadır. Dolayısıyla AI sisteminin davranışının nedensellikle ilişkili olarak yeniden oluşturulabilecek şekilde loglanması gerekmektedir. Ki bu durum adli bilişim, denetimler, regülasyonel uyumluluk ve testler açısından çok önemlidir. Burada temel amaç AI modelinin karar sürecinin şeffaf olmasını sağlamaktır.
•  
• Dayanıklılık (Robustness), AI sisteminin tutarlı çalışmaya devam edebilme problemini ifade eder. AI sistemleri bağımsız ve özdeş dağılımlı stabilite varsayımıyla optimize edilir ancak gerçek dünyada veri dağılımları fazlasıyla dinamiktir bu yüzden de veri dağılım değişimine rağmen davranış kararlılığının olması gerekir. Diğer bir deyişle, AI sisteminin eğitim sırasında görmediği veya beklenmeyen koşullarla karşılaştığında doğru, tutarlı ve güvenilir şekilde çalışmaya devam edebilmesi gerekir. Burada temel amaç AI modelinin manipüle edilmesinin önüne geçmektir.
•  
• 
• Doğruluk, Hizalanma, İzlenebilirlik, Dayanıklılık İçin Ne Tür Önlemler Alınabilir?
• Alınacak önlemler tıpkı gizlilik, bütünlük ve erişilebilirlikte olduğu gibi teknolojik, süreçsel ve insana yönelik olmalıdır. Bu kapsamda kullanıma sunulacak yeni nesil ürünler, çeşitli standartlar ve regülasyonlar, eğitimler, güvenlik testleri alınacak önlemleri kuşkusuz uygulanabilir ve kullanılabilir hale getirip operasyon-güvenlik dengesini zamanla sağlayacaktır. Bu açıdan:
•  
• Doğruluk problemi için;
• Veri kalitesini artırma
• Model doğrulama ve test
• Denetim
• Belirsizlik tahmini
• Sürekli izleme
• Açıklanabilir yapay zekâ
• Güvenlik testleri
• Rag ve bilgi doğrulama
• Ensemble ve yedek sistemler
•  
• Hizalanma problemi için;
• Hedeflerin dikkatli tanımlanması
• Geri bildirimlere yönelik eğitim güncellemeleri
• Güvenlik testleri
• Interpretability araştırmaları
• Sürekli izleme ve değerlendirme
• Denetim
• Yetki ve erişim sınırlandırmaları
• Sağlam değerlendirme ölçütleri
• Belirsizliğin ifade edilebilmesi
•  
• İzlenebilirlik problemi için;
• Veri soy ağacı kayıtları
• Versiyonlama
• Karar kayıtları
• Açıklanabilir yapay zekâ
• Denetim kayıtları
• Dokümantasyon
• Güvenlik testleri
• Tekil kimlikler
• Sürekli izleme ve raporlama
• Standartlara ve regülasyonlara uyum denetimi
•  
• Dayanıklılık problemi için;
• Çeşitli ve Kaliteli Eğitim Verisi
• Data Augmentation
• Adversarial Eğitimi
• Kapsamlı Test ve Stres Testleri
• Girdi Doğrulama
• Belirsizlik Tahmini
• Ensemble Modelleri
• Sürekli İzleme ve Yeniden Eğitim
• Güvenli Hata Yönetimi
• Güvenlik Testleri
• Denetim
•  
• Önlemleri hayati derecede önemli olacaktır.
•  
• Son Söz
• Sonuç olarak, klasik bilgi güvenliğinin 3 temel öğesi olan gizlilik, bütünlük, erişilebilirlik her ne kadar AI modellerinin çalıştığı ortamların ve kısmen yapay zeka güvenliğini sağlasa da AI modellerinin kendi doğasından kaynaklı risklerin önüne geçmede yetersiz kalabilmektedir. Bu noktada, AI tarafındaki en ciddi 4 problem olan doğruluğa, hizalanmaya, izlenebilirliğe, dayanıklılığa ilişkin üretilen ve üretilecek önlemler bütünü aslında güvenliğin AI ortamında artık 7 temel öğe ile konumlanmasını sağlayabilecektir. Ancak unutmamak gerekir ki, AI her geçen gün daha da fazla gelişmekte bu yüzden geliştikçe daha fazla problem ve daha fazla önlem gerekecektir.

Yazar: Cyberwise Denetim ve Uyumluluk Grup Müdürü Caner Aşçıoğlu