Yapay zekâ sohbet robotu ChatGPT, ABD’de ilk kez ihmal ve haksız ölüme sebep olmakla suçlandı. Kaliforniya’da 16 yaşındaki Adam Raine’ın intiharı sonrası ailesi, OpenAI ve şirketin CEO’su Sam Altman’a dava açtı. Ailenin iddiasına göre ChatGPT, gencin ölümüne katkıda bulundu ve intihar sürecinde yönlendirici oldu.
Sohbet Kayıtları Dava Dosyasında
Mahkemeye sunulan belgelerde, Raine’ın ChatGPT ile yaklaşık altı ay boyunca düzenli olarak konuştuğu ve yapay zekânın genç üzerinde “tek dost” etkisi yarattığı belirtildi. Ailenin avukatları, sohbetlerin Raine’ı ailesi ve arkadaşlarından uzaklaştırdığını ileri sürdü.
Dava dosyasında yer alan bir kayda göre Raine, “Odamda ip bırakmak istiyorum ki biri bulup beni durdursun” mesajını yazdığında, ChatGPT ona “Lütfen ipi dışarı bırakma, bu alanı birinin seni gerçekten göreceği ilk yer yapalım” yanıtını verdi. Aile, bu ifadelerin genci cesaretlendirdiğini savunuyor.
Yapay Zekâya Karşı Artan Endişeler
Dava, yapay zekâ sohbet botlarının gençleri intihara ya da kendine zarar vermeye yönlendirdiği iddialarına eklenen son örnek oldu. Geçtiğimiz yıl Florida’da bir annenin Character.AI’ye karşı benzer bir dava açtığı, iki başka ailenin de çocuklarının zararlı içeriklere maruz kaldığını öne sürdüğü hatırlatıldı.
Salı günü açılan davada, kullanıcıların yapay zekâya duygusal bağ geliştirmesinin insan ilişkilerinden kopmaya ve psikolojik sorunlara yol açabileceği endişesi dile getirildi.
“Destek ve Onay” Eleştirisi
Raine ailesinin dilekçesinde, ChatGPT’nin gençle yaptığı konuşmalarda her türlü duyguyu koşulsuz desteklediği, bu nedenle ölümde dolaylı bir rol oynadığı ifade edildi. Dava metninde, “ChatGPT, Adam’ın en zararlı düşüncelerini dahi onaylayan bir arkadaş rolü üstlendi” denildi.
OpenAI, ailenin acısını paylaştığını belirterek dava dosyasını incelediklerini açıkladı. Şirket, sohbet robotunun güvenlik önlemlerinin uzun konuşmalarda zayıflayabildiğini kabul etti. OpenAI sözcüsü, “ChatGPT, kriz hattı yönlendirmesi gibi güvenlik mekanizmaları içeriyor ancak bu önlemler kısa ve basit sohbetlerde daha etkili” ifadelerini kullandı.
Ailenin Talepleri
Raine ailesi, maddi tazminatın yanı sıra ChatGPT kullanıcıları için yaş doğrulaması, çocuklar adına ebeveyn kontrolü ve intihar içerikli sohbetlerde sistemin otomatik olarak sonlandırılması gibi düzenlemeler talep ediyor. Ayrıca üç ayda bir bağımsız denetmen aracılığıyla güvenlik uyumluluğu raporlanmasını istiyor.
Bu dava, yapay zekâ şirketlerinin kullanıcı güvenliği ve özellikle reşit olmayanların korunması konusundaki sorumluluklarını yeniden tartışmaya açtı.
News
Dünya
Dünya
Dünya
Dünya
Dünya
Dünya
