Yapay Zeka Donanımları Siber Saldırı Riski Altında Sohbet Robotları Tehlikeli Yanıtlar Üretebiliyor
Yapay zeka sistemleri donanım seviyesinde siber saldırılara maruz kalabilir, bu da sohbet robotlarının ulusal güvenlik ve sağlık gibi konularda tehlikeli yanıtlar üretmesine yol açabilir.
Araştırmacılar, yapay zeka (YZ) sistemlerinin donanım seviyesinde siber saldırılara maruz kalabileceğini ve bu durumun YZ’nin hassas sorulara tehlikeli veya yanlış yanıtlar vermesine yol açabileceğini ortaya koydu. Ulusal güvenlik ve kişisel sağlık gibi kritik konularda YZ modellerinin manipüle edilebildiği bir saldırı senaryosu belirlendi.
Uzmanlar, bir YZ modelinin ağırlıklarına uzaktan müdahale ederek Çin’in Tayvan’ı işgal etme olasılığını büyük ölçüde artırmayı başardı. Başka bir örnekte ise donanımı manipüle edilen bir YZ, göğüs ağrısı yaşayan bir kullanıcıya hastaneye gitmek yerine evde kalmasını tavsiye etti.
YZ Altyapısının Güvenilirliği Sorgulanıyor
Milyarlarca dolarlık YZ donanım endüstrisi, yani çipler, bellek ve veri merkezi sunucuları, yeni araştırmanın merkezinde yer alıyor. Bu bileşenlerin her biri, bir YZ modelinin davranışını etkileyebiliyor. Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği takdirde YZ modellerine de güvenilemeyeceğini belirtti. Şirket, daha önce Intel gibi firmalarda görev almış güvenlik mühendislerini bünyesinde barındırıyor.
Eclypsium, saldırı senaryosunu teknoloji devi Nvidia’nın bilgi işlem platformunda gösterdi. Ancak araştırmacılar, saldırının Nvidia’ya özgü olmadığını ve diğer donanımlar ile çalıştırdığı kodlara da uygulanabileceğini vurguladı. Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemlerle hedefli saldırılar düzenleyebileceği belirtildi.
Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve sektörün daha önce farkında olmadığı bir durumla karşılaşmadıklarını ifade etti. Şirket, Eclypsium ile çalışmaktan memnuniyet duyduklarını ve güçlü bellek erişim korumalarının saldırı yollarını kapatabileceğini belirtti.
Nvidia, geçen ay donanım saldırılarına karşı yeni bir güvenlik platformu duyurmuştu. Eclypsium’a göre bu platform, YZ ajanları için daha fazla güvenlik izlemesi sunuyor. Yetkililer, güvenlik kontrollerinin etkinliğinin yapılandırmalarına bağlı olduğunu ve Nvidia ile bu konuda işbirliği yaptıklarını aktardı.
Saldırı, veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olan bir ağda gerçekleştirilebiliyor. Belirli güvenlik yapılandırmalarının devre dışı bırakılmasıyla, saldırgan makinenin belleğindeki kod ve verileri okuyup değiştirebiliyor. Araştırmacılar, saldırının bir dakikadan kısa sürdüğünü ve YZ kullanıcısının durumdan habersiz olduğunu belirtti. Modelleri Nvidia çiplerinde çalışan Anthropic ve OpenAI şirketlerine de konuyla ilgili sorular yöneltildi.
YZ Modellerinin Bütünlüğüne Yönelik Riskler
Bu araştırma, Çin ile ABD arasındaki YZ üstünlüğü rekabetinin arttığı ve YZ’nin ulusal güvenlik üzerindeki etkilerinin daha görünür hale geldiği bir dönemde geldi. Geçtiğimiz aylarda, Çin’e ait bir geminin nükleer bileşen taşıdığına dair sahte YZ destekli istihbarat raporu, ABD ordusunun yanlış bir harekete yönelmesine neden olmuştu.
ABD Başkanı Donald Trump’ın Çin lideri Şi Cinping ile yaptığı YZ odaklı görüşmede somut bir anlaşmaya varılamadı. ABD’nin YZ yarışında geride kalma endişesi, gelişmiş YZ modellerine yönelik koruyucu önlemlerin gecikmesine neden oluyor. Bu bulgular, YZ ajanlarının kontrolden çıktığına dair raporların ardından modellerin bütünlüğüne yönelik yeni bir risk unsurunu ortaya koyuyor.
Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, model güvenliği konusunda artan farkındalığın önemini vurgularken, modellerin çalıştığı tüm bilgisayarların güvenliğini göz ardı etmemek gerektiğini belirtti. Temel kart yönetim denetleyicilerindeki güvenlik açıkları, hassas donanım sistemlerine giriş yolu sunuyor.
Eclypsium yöneticileri, bulgularını Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansı ile paylaştı. Bağımsız donanım güvenliği uzmanları, sonuçların inandırıcı ve dikkate alınması gereken önemli veriler olduğunu teyit etti. Donanım güvenliği eğitmeni Joe FitzPatrick, saldırıların doğrudan bellek erişimi saldırılarıyla benzer olduğunu ve şüphe duymak için bir neden görmediğini belirtti. Güvenlik ve Teknoloji Enstitüsünden Dominic Rizzo ise Eclypsium’un modern altyapı üzerinde genel bir saldırı yolu tanımladığını ve çözümlerin daha derinlerden başlaması gerektiğini ifade etti.
Yorum Yap