Yapay zekânın siber saldırılarda nasıl kullanılabileceğine ilişkin dikkat çekici bir örnek bu kez OpenAI’nin kendi sistemlerinde yaşandı.
Bağımsız güvenlik araştırmacıları, OpenAI’nin hata ödül programı kapsamında yürüttükleri çalışmada Anthropic’in Claude modelinden yararlanarak şirketin sistemlerine erişim sağlayan bir güvenlik zinciri oluşturdu.
Araştırmacıların ilk olarak OpenAI topluluk forumlarının altyapısında kullanılan Discourse yazılımındaki bir açığı tespit ettiği bildirildi. Buradan elde edilen kimlik doğrulama belirteçlerinin başka OpenAI sistemlerinde de geçerli olduğu ortaya çıktı.
Özel yazılım deposuna kadar ulaştılar
Araştırmacılar bu yöntemle bir OpenAI çalışanının ChatGPT hesabına erişmenin yanı sıra şirketin özel GitHub ortamına da ulaşabildi.
Erişim, OpenAI’nin şirket içi yazılımlarının bulunduğu “Monorepo” adlı özel kod deposuna kadar uzandı. Araştırmacılar sistemde değişiklik yapabileceklerini göstermek amacıyla zararsız bir kod değişikliği talebi oluşturdu ancak hassas verileri incelemeden çalışmayı durdurdu.
Bulunan açıklar OpenAI’ye bildirildi. Şirket sorunları giderirken araştırmacılara hata ödül programı kapsamında 6 bin 500 dolar ödeme yaptı.
Yapay zekâ siber güvenliğin iki tarafında
Olayın dikkat çeken tarafı, saldırı zincirinin oluşturulmasında başka bir şirketin yapay zekâ modelinden yararlanılması.
Gelişmiş yapay zekâ araçları artık güvenlik araştırmacılarının kod incelemesi ve açık bulma süreçlerini hızlandırabiliyor. Aynı yeteneklerin kötü niyetli kişiler tarafından kullanılması ise teknoloji şirketlerinin karşı karşıya olduğu yeni güvenlik sorunlarından biri haline geliyor. Son günlerde yayımlanan başka araştırmalar da yapay zekâ destekli siber saldırıların giderek daha somut bir risk haline geldiğine işaret ediyor.
Kaynak: The Wall Street Journal
