Bazen büyük tehlikeleri anlayabilmek için çok uzaklara bakmaya gerek yok.
Ankara'yı düşünelim.
Bir sabah elektrik dağıtım sisteminin önemli bir bölümünün çalışmadığını düşünün. Ardından haberleşmede aksamalar başlıyor. İnternet yavaşlıyor. Bankaların ödeme sistemlerinde sorunlar çıkıyor. Hastanelerin dijital altyapısı etkileniyor.
Bir de şehrin trafik yönetim sistemine yapılan başarılı bir siber saldırının kavşakları birbirine kattığını düşünün.
Bunların hiçbiri için bilimkurgu filmlerindeki gibi insanlığa savaş açmış, bilinç kazanmış bir robot ordusuna ihtiyacımız yok.
İşte yapay zekâ tartışmasının belki de gözden kaçırdığımız tarafı burada başlıyor.
Yapay zekânın bize düşman olması gerekmiyor. Ona yanlış anahtarları teslim etmemiz yeterli.
Bugün dünyanın önündeki yakın tehlike, yapay zekânın bir sabah uyanıp insanlığı ortadan kaldırmaya karar vermesi değil.
Daha gerçekçi tehlike, insanların bu sistemlere giderek daha fazla yetki vermesi.
Bankalar…
Enerji şebekeleri…
Hastaneler…
Telekomünikasyon…
Ulaşım…
Savunma sistemleri…
Kamu yönetimi…
Bunların her biri giderek daha fazla birbirine bağlı dijital sistemlerle çalışıyor.
Ve yapay zekâ bu sistemlerin içine girdikçe insanlık çok önemli bir soruyla karşılaşacak:
Makineye ne kadar karar yetkisi vereceğiz?
Bugün yapay zekâ siber saldırganların elinde de yeni bir araç haline geliyor. Daha inandırıcı dolandırıcılık mesajları hazırlanabiliyor, sesler ve görüntüler taklit edilebiliyor, yazılım açıkları daha hızlı araştırılabiliyor.
Ama önümüzdeki aşama bundan daha önemli.
Yapay zekâ yalnızca bize tavsiye veren bir sistem olmaktan çıkıp kendi başına işlem yapan bir “ajan” haline geliyor.
Yani yalnızca “şunu yapmalısınız” demiyor.
Gidip yapabiliyor.
İşte kritik eşik burada.
Çünkü insanın yaptığı hata ile makinenin yaptığı hata arasında çok önemli bir fark var.
İnsan hatası çoğu zaman sınırlıdır. Algoritmik hata ise milyonlarca kez tekrarlanabilir.
Türkiye açısından mesele daha da önemli.
Yaklaşık 86 milyon insanın yaşadığı, bankacılıktan kamu hizmetlerine kadar son derece geniş bir dijital altyapıya sahip bir ülkeden söz ediyoruz.
Elektrik yalnızca elektrik değildir artık.
Elektrik kesildiğinde haberleşme etkilenir.
Haberleşme aksadığında bankacılık etkilenir.
Bankacılık aksadığında ticaret etkilenir.
Lojistik bozulduğunda gıda dağıtımı etkilenir.
Hastanelerin sistemleri aksadığında mesele artık teknolojik olmaktan çıkar.
İnsan hayatına dönüşür.
Dolayısıyla geleceğin en büyük güvenlik sorunlarından biri tek bir sistemin çökmesi değil, sistemlerin birbirine bağlı olması nedeniyle ortaya çıkabilecek zincirleme çöküş olabilir.
Türkiye bunun farkında. 2025'te çıkarılan Siber Güvenlik Kanunu ve oluşturulan Siber Güvenlik Başkanlığı'nın görevleri arasında kritik altyapıların siber dayanıklılığının artırılması özellikle bulunuyor.
Fakat yapay zekânın gelişme hızı düşünüldüğünde yalnızca siber güvenlik artık yeterli olmayabilir.
Yeni bir kavrama ihtiyacımız var:
Yapay zekâ dayanıklılığı.
Bir sistem yanlış karar verirse ne olacak?
İnsan müdahale edebilecek mi?
Sistem kapatılabilecek mi?
Elektrik, su, ulaşım ve sağlık gibi hayati altyapıların yapay zekâ olmadan çalışabilecek yedek mekanizmaları bulunacak mı?
Bana göre önümüzdeki yılların en önemli soruları bunlar olacak.
Çünkü daha uzak gelecekte başka bir tartışma bizi bekliyor.
Bilim insanlarının bir bölümü çok gelişmiş yapay zekâ sistemlerinin bir gün insan denetiminden çıkabileceğini düşünüyor. Bir başka grup ise bunun bugünkü teknolojiden hareketle fazlasıyla spekülatif olduğunu söylüyor.
Bugün bildiğimiz önemli gerçek şu:
Mevcut yapay zekâ sistemleri insanlığın kontrolünü ele geçirebilecek kapasitede değil.
Ama sistemler giderek daha fazla kendi başlarına plan yapabiliyor, yazılım kullanabiliyor ve dış dünyadaki araçlarla etkileşime girebiliyor.
Bu yüzden tartışmayı küçümsemek de abartmak kadar yanlış.
Asıl mesele belki de başka yerde.
Geleceğin en büyük tehlikesi yapay zekânın insanlardan nefret etmesi olmayabilir.
İnsanlığın yapay zekâya vazgeçemeyeceği kadar bağımlı hale gelmesi olabilir.
Bir gün Ankara'da elektrik sistemini yöneten algoritmanın ne yaptığını kimse tam olarak bilmiyorsa…
Bir bankanın milyonlarca işlemine müdahale eden sistemin kararlarını insanlar artık açıklayamıyorsa…
Bir hastanede hangi hastanın öncelikli olduğuna makine karar veriyor ve doktor yalnızca ekrana bakıyorsa…
O gün yapay zekânın dünyayı ele geçirmesine gerek kalmayacaktır.
Çünkü biz zaten dünyanın anahtarlarını ona teslim etmiş oluruz.
Bu nedenle mesele yapay zekâyı durdurmak değil.
Onu kullanırken insanın son karar makamı olarak kalmasını sağlamak.
Belki geleceğin en önemli güvenlik ilkesi son derece basit bir cümle olacak:
Elektriği yapay zekâ yönetebilir.
Trafiği yapay zekâ yönetebilir.
Bankaları, hastaneleri, hatta şehirleri yönetmemize yardımcı olabilir.
Ama bir yerde mutlaka insanın uzanıp sistemi kapatabileceği bir düğme bulunmalı.
Ve o düğmenin nerede olduğunu bilen bir insan da kalmalı.
