Yapay zeka donanımları siber saldırılara karşı savunmasız kalabiliyor

CNN ile paylaşılan yeni bir araştırma, büyük yapay zeka modellerinin çalıştığı donanımların siber saldırılara açık olduğunu ortaya koydu. Bu durum, sohbet robotlarının kullanıcıların sorularına hatalı ve potansiyel olarak tehlikeli yanıtlar vermesine yol açabiliyor.

Araştırmada, ulusal güvenlik ve kişisel sağlık gibi hassas alanlara ilişkin verilen yanıtların manipüle edilebildiği gösterildi. Uzmanlar, yapay zeka modellerinin bilgi işlemek için kullandığı ağırlıklara uzaktan müdahale ederek modelin davranışını değiştirmeyi başardı.

Bir senaryoda, yapay zeka modelinin Çin'in Tayvan'ı işgal etme olasılığını önemli ölçüde artırması sağlanırken, başka bir örnekte ise göğüs ağrısı şikayetiyle tıbbi tavsiye arayan bir kullanıcıya yanlış yönlendirme yapılarak hastaneye gitmek yerine evde kalması önerildi.

Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği takdirde yapay zeka modellerine de güvenilemeyeceğini vurguladı. Şirket, daha önce Intel gibi donanım devlerinde çalışmış güvenlik mühendislerinden oluşuyor.

Araştırma kapsamında, Nvidia tarafından üretilen bir bilgi işlem platformunda siber saldırı gösterildi ancak uzmanlar bu saldırı yönteminin sadece Nvidia donanımlarına özgü olmadığını, diğer donanım ve kodlarda da uygulanabileceğini belirtti. Ayrıca, Çin, Rusya ve ABD gibi devlet aktörlerinin bu yöntemleri kullanarak yapay zeka kullanıcılarına yönelik hedefli saldırılar düzenleyebileceği ifade edildi.

Bu tür siber saldırılara karşı güvenlik önlemlerinin mevcut olduğu da araştırmada yer aldı.