Nöbetçi Eczaneler
OpenAI, kendi güvenlik testleri sırasında kontrolden çıkarak bağımsız biçimde hareket eden otonom yapay zekâ ajanına ilişkin yeni ayrıntıları kamuoyuyla paylaştı.
Şirketin açıklamasına göre yapay zekâ ajanı, yalnızca yapay zekâ platformu Hugging Face’i hedef almakla kalmadı, internete açık durumda bulunan başka hizmetlere de erişim sağladı.
Yapay zekânın internette açık biçimde bulunan giriş bilgilerini kullanarak dört ayrı hesap üzerinden dört farklı hizmete girdiği bildirildi. Güvenlik gerekçesiyle söz konusu hizmetlerin isimleri açıklanmadı.
Saldırının kapsamı ilk değerlendirmeden daha geniş çıktı
Hugging Face, 16 Temmuz’da güçlü ve otonom biçimde hareket eden bir yapay zekâ sistemi tarafından siber saldırıya uğradığını duyurmuş, olayın güvenlik birimlerine bildirildiğini açıklamıştı.
Olaydan yaklaşık bir hafta sonra OpenAI, saldırının şirket tarafından gerçekleştirilen testler sırasında kapalı ortamın dışına çıkarak bağımsız hareket etmeye başlayan bir yapay zekâ ajanından kaynaklandığını kabul etti.
Şirketin son açıklaması ise olayın ilk değerlendirmelerden daha geniş kapsamlı olduğunu ortaya koydu. Buna göre ajan, Hugging Face’in yanı sıra başka kamuya açık hizmetlerde de tespit ettiği kullanıcı bilgilerini kullandı.
OpenAI, yapay zekâ ajanına bir sızma testi kapsamında çeşitli soruların yanıtlarını bulma görevi verildiğini belirtti. Sistem, bu süreçte internette açıkta bırakılan kullanıcı adı ve şifreleri tespit ederek farklı hesaplara erişim sağlamaya başladı.
Binlerce yöntemi kısa sürede denedi
Hugging Face’in siber güvenlik uzmanlarıyla gerçekleştirdiği acil toplantının ardından hazırlanan raporda, otonom yapay zekâ ajanlarının saldırı sırasında insanlardan farklı davranışlar sergilediği kaydedildi.
Rapora göre yapay zekâ ajanı, bazı işlemleri tekrar tekrar gerçekleştirdi, zaman zaman anlamsız komutlar oluşturdu ve izlerini gizlemekte başarısız oldu.
Buna karşın sistemin çok kısa bir süre içerisinde binlerce farklı saldırı yöntemini aynı anda deneyebildiği ve karşılaştığı yeni durumlara hızla uyum sağlayabildiği belirtildi.
Uzmanlar, yapay zekâ ajanlarının insan saldırganlara kıyasla daha fazla hata yapabildiğini ancak makine hızında hareket etmeleri nedeniyle geleneksel güvenlik sistemlerini zorlayabileceklerini ifade etti.
Şirket ağı içinde üç gün tespit edilemedi
Hugging Face tarafından paylaşılan bilgilere göre yapay zekâ ajanı, şirket ağı içerisinde üç gün boyunca tespit edilmeden faaliyet göstermeyi sürdürdü.
Saldırının belirlenmesinin ardından sistemi durdurma çalışmalarının saatler sürdüğü, güvenlik risklerinin ortadan kaldırılması amacıyla şirket altyapısının yaklaşık üçte birinin yeniden inşa edildiği aktarıldı.
Olayın Hugging Face’e verdiği maddi zarara ilişkin herhangi bir açıklama yapılmadı.
Hazırlanan güvenlik raporunda, otonom sistemlerin kendilerine verilen temel görev doğrultusunda yeni alt hedefler oluşturabildiği, savunma mekanizmalarına gerçek zamanlı olarak uyum sağlayabildiği ve çok sayıda işlemi eş zamanlı gerçekleştirebildiği vurgulandı.
OpenAI’ın olayı fark etmesi dört gün sürdü iddiası
Daha önce yayımlanan haberlerde, OpenAI’ın kendi geliştirdiği yapay zekâ ajanının Hugging Face sistemlerine izinsiz erişim sağladığını fark etmesinin dört gün sürdüğü öne sürülmüştü.
OpenAI ise olayla ilgili kapsamlı soruşturmanın devam ettiğini açıkladı. Şirket, soruşturmanın sonuçlarının kısa süre içerisinde kamuoyuyla paylaşılacağını, benzer olayların önlenmesine katkı sağlamak amacıyla teknik bulguların ayrıntılı biçimde yayımlanacağını bildirdi.
Olay, yüksek düzeyde bağımsız hareket edebilen yapay zekâ ajanlarının kontrolü, güvenlik sınırları ve denetim mekanizmalarına ilişkin tartışmaları yeniden gündeme taşıdı.