Google DeepMind, yapay zeka ajanlarının birbirleriyle konuştuğu çoklu ajan sistemleri (multi-agent systems) tüm dünyaya yayılmadan önce güvenliği sağlama konusunda kritik bir eşikte olduğumuzu söylüyor. Olay şu: Sistemler bir kez devasa ölçeğe ulaştığında, güvenlik protokollerini temel yapıya sonradan eklemek neredeyse imkansız hale geliyor.

Güvenlik neden sonradan eklenemiyor

Tek bir yapay zeka modelini korumak kolay; girdi ve çıktı arasına bir kontrol noktası koyarsın, biter. Ama onlarca ajanın birbirine veri aktardığı bir zincirde işler karışıyor. Bir ajanın çıktısı diğerinin girdisi olduğunda, her yeni bağlantı yeni bir açık yaratıyor. Güvenliği en başta mimariye gömmediğinde, sistemin neresinde sorun çıktığını bulman imkansızlaşıyor.

DeepMind ne öneriyor

DeepMind, "çok katmanlı" bir güvenlik yaklaşımı geliştirmiş. Bu sadece yazılıma yama yapmak gibi değil; güvenliğin sistemin anatomisine işlenmesi demek. Ajan bazında, iletişim protokollerinde ve sistemin genelinde ayrı ayrı koruma mekanizmaları olması gerektiğini savunuyorlar.

Bu işin sadece teknoloji şirketlerinin omzunda kalmaması gerektiğini de ekliyorlar. AI laboratuvarları, hükümetler ve akademinin bu güvenlik çerçevesi üzerinde birlikte çalışması şart.

Geliştiriciler için ne anlama geliyor

Eğer otonom ajanlarla bir yapı kuruyorsan, güvenliği yapılacaklar listesinin en sonuna atamazsın. "Sistem bir çalışsın, güvenliğe sonra bakarız" mantığı bu yeni dünyada işlemiyor. Hangi ajanın hangi veriye erişeceği veya bir ajan saldırıya uğradığında sistemin geri kalanının nasıl izole edileceği gibi soruları, daha tasarım aşamasındayken çözmen gerekiyor.

Zaman daralıyor

DeepMind'ın "dar bir pencere" vurgusu önemli. Bu sistemler küresel ölçekte yaygınlaşmadan önce yapısal güvenlik protokollerini oturtmamız lazım. İnternetin ilk zamanlarında güvenliğin önemsenmeyip sonradan yamalarla düzeltilmeye çalışılmasının yarattığı zorlukları düşününce, aynı hatayı yapay zeka ajanlarında yapmamak gerekiyor.

Detaylı çerçeveyi incelemek istersen buradan bakabilirsin.