Nöbetçi Eczaneler
ABD’de yapay zekanın hukuk alanında kullanımına ilişkin dikkat çekici bir karar verildi. New Mexico Eyalet Yüksek Mahkemesi, ChatGPT kullanılarak hazırlanan bir temyiz dilekçesinde uydurma tanık ifadeleri ve hatalı hukuki bilgilerin yer almasının ardından avukat Stephen Aarons hakkında yaptırım uyguladı.
Bir cinayet davasının temyiz sürecini yürüten Aarons’ın, dilekçeyi hazırlarken ChatGPT’den yararlandığı belirlendi. Mahkeme incelemesinde, resmi başvuruda gerçekte bulunmayan tanık ifadelerinin yanı sıra bazı gerçek tanıklıkların ve yargı kararlarının da yanlış ya da çarpıtılmış şekilde aktarıldığı tespit edildi.
Mahkeme: Bilgiler doğrulanmadan sunuldu
Mahkeme kararında, avukatın yapay zeka yardımıyla hazırlanan dilekçedeki olgusal iddiaları ve hukuki dayanakları, belgeyi imzalayıp mahkemeye sunmadan önce kontrol etmediğini kabul ettiği belirtildi.
Aarons, mahkemeye saygısızlık kapsamında sorumlu bulunarak New Mexico Barosu Müşteri Koruma Fonu’na 5 bin dolar ödeme cezasına çarptırıldı.
Davanın sanığı için yeni bir avukat görevlendirilirken, Aarons’ın devam eden inceleme sonuçlanıncaya kadar eyalet yüksek mahkemesinde savunma yapmasının da yasaklandığı bildirildi.
“Yapay zekanın tamamen uydurabileceğini bilmiyordum”
Aarons, yaptığı açıklamada yapay zekayı duruşma ve dava sürecini özetlemek amacıyla kullandığını, sistemin bazı bilgileri tamamen uydurabileceğini öngöremediğini savundu.
Yaşananlardan dolayı pişman olduğunu belirten avukat, olayın yapay zeka araçlarına güvenen profesyoneller açısından önemli bir ders olduğunu ifade etti.
Yapay zekada “halüsinasyon” riski
Yapay zeka sistemlerinde gerçekte bulunmayan bilgilerin doğruymuş gibi üretilmesi, teknik literatürde “halüsinasyon” olarak adlandırılıyor.
Olay, özellikle hukuk gibi hata payının son derece düşük olması gereken alanlarda yapay zeka tarafından oluşturulan içeriklerin insan denetiminden geçirilmesinin önemini bir kez daha gündeme getirdi. Uzmanlık gerektiren resmi belgelerde yapay zeka çıktılarının doğrudan kullanılmasının ciddi hukuki sonuçlara yol açabileceği değerlendiriliyor.