OpenAI, güvenlik ihlaliyle sonuçlanan testte sanılandan fazla hizmetin etkilendiğini duyurdu

Şirketin internet sitesinden yapılan yazılı açıklamada, yapay zeka modellerinin siber güvenlik kabiliyetlerini ölçmeye yönelik testin Hugging Face altyapısındaki güvenlik ihlaliyle sonuçlandığı olayla ilgili yeni bulgular paylaşıldı.

Açıklamada, devam eden incelemeler sonucunda, test sırasında Hugging Face dışında ismi açıklanmayan diğer hizmetler bünyesindeki bazı hesapların da etkilendiği belirtildi.

Testte kullanılan yapay zeka modellerinin, kamuya açık 4 hizmete ait 4 hesabı tespit ettiği ve kullandığı kaydedilen açıklamada, bu sağlayıcılara büyük çaplı bir etki olduğuna veya bünyelerindeki diğer hesapların ihlal edildiğine dair bulguya rastlanmadığı ifade edildi.

Açıklamada ayrıca olaya ilişkin inceleme sürecinde Hugging Face ile işbirliğine devam edildiği aktarıldı.

OpenAI, 21 Temmuz’daki açıklamasında, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face’in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Açıklamada, “Bu olayı, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz.” ifadeleri kullanılmıştı.

Yapay zeka şirketi OpenAI’a “ChatGPT’nin intihara teşvik ettiği” suçlamasıyla dava açıldı

CBS News’in haberine göre, Kanada’da geçen sene hayatına son veren 24 yaşındaki Alice Carrier’ın annesi Kristie Carrier, kızının ölümünün ardından yasal yollara başvurdu.

Kızının intiharı öncesinde yapay zeka modeli ChatGPT ile sürekli iletişim halinde olduğunu belirten Kristie Carrier, şirketin “kasıtlı tasarım kararlarının kızının ölümüne yol açtığı” suçlamasıyla OpenAI ve Altman’a dava açtı.

Alice’in ölümünden önce ChatGPT’ye yaklaşık 41 defa intihar düşüncelerini aktardığı belirtilen iddianamede, “OpenAI, Alice’e yardım etmek yerine onun karamsar düşüncelerini körükledi ve Alice’in ailesini bilgilendirmedi. OpenAI’ın sözde güvenlik sistemleri, onun hayatını kurtarmak için devreye girmedi.” ifadeleri kullanıldı.

İddianamede ayrıca, Alice’in ölümünden bir gün önce kriz hattına ulaşıp yardım konusunda isteksizliğini dile getirdiği, ChatGPT’nin ise bu görüşü desteklediği öne sürüldü.

24 yaşındaki mobil uygulama geliştiricisi Alice Carrier, Kanada’nın Montreal kentindeki evinde Temmuz 2025’te ölü bulunmuştu.

Denetimsizliğe ilişkin eleştiriler artıyor

Çocuklar ve gençler üzerindeki etkisi tartışma konusu olan ChatGPT gibi yapay zeka sohbet araçlarının tehlikeli önerilerde bulunması, bu teknolojinin denetimsizliğiyle ilgili eleştirileri artırıyor.

ABD’de nisan 2025’te hayatını kaybeden 16 yaşındaki Adam Raine’in ailesi, oğullarına intihar yöntemleri konusunda tavsiyeler verdiği ve intihar notunun taslağını yazmayı teklif ettiği iddiasıyla OpenAI ve CEO’su Sam Altman’a dava açmıştı.

Dijital Nefretle Mücadele Merkezince (CCDH) yapılan araştırmada ise ChatGPT’nin, çocuklara yönelik alkol ve uyuşturucu kullanımı, aşırı diyet programları, kendine zarar verme yöntemleri hatta intihar mektubu yazımı gibi tehlikeli konularda “kişiye özel rehberlik” sunduğu tespit edilmişti.