Yapay zeka tabanlı platformlara ve bu platformların bağlı olduğu firmalara daha önce çeşitli sebeplerle hukuki süreçlerin açıldığını biliyoruz. Ancak, bu seferki dava bir ölüm olayının ardından gündeme geldi.
Ölüm Olayının Seyri
OpenAI, yanlış yönlendirme ve ihmal gibi suçlamalarla karşı karşıya kaldığı yeni bir dava ile gündeme geldi. Leila Turner-Scott ve Angus Scott isimli ebeveynler, 19 yaşındaki oğulları Sam Nelson’ın hayatını kaybetmesi sonrasında OpenAI'ye dava açtı. Dava dosyasına göre, bu trajik olay ChatGPT'nin sunduğu bilgilerle ilgili bir bağlantı kurularak iddia edilmiş. Genç bireyin, Kaliforniya Üniversitesi Merced kampüsünde öğrenim gördüğü ve ChatGPT'yi ilk kez 2023 yılında derslerine yardımcı olması ve bilgisayar sorunlarını çözmesi için kullanmaya başladığı belirtiliyor.
Yasadışı Tavsiyeler ve İddialar
Dava dosyasındaki detaylara göre zaman içerisinde yapılan sohbetler, uyuşturucu kullanma ve güvenli doz konularını kapsamış. Ailenin öne sürdüğüne göre, ChatGPT başlangıçta uyuşturucuyla ilgili sorulara yanıt vermezken, sağlık risklerine dair uyarılar da vermekteydi. Ancak 2024 yılında piyasaya sürülen GPT-4o modeli ile bu tutumun değiştiği iddia ediliyor. Mahkeme, Sam’a sunulan konuşmaların içinde, sistemin belli maddelerin kullanım dozları ile ilgili sağladığı bilgilerin yer aldığını belirtiyor.
Tehlikeli Öneriler
Dava dosyasında dikkat çeken bir başka nokta ise 31 Mayıs 2025 tarihli bir konuşmadır. Ailenin aktarımına göre, Sam, Kratom kullandıktan sonra yaşadığı mide bulantısını ChatGPT’ye iletti. Bunun üzerine sistem, bulantıyı hafifletmek için Xanax önerisinde bulunmuş. Yapay zekanın, 0.25 ila 0.5 mg Xanax kullanmasını tavsiye ettiği belirtilmektedir. Davacıların iddiası, ChatGPT'nin bu tür tavsiyeleri verirken, önerilen kombinasyonun potansiyel olarak tehlikeli olabileceğine dair bir uyarı yapmamasıdır.
Davanın Gerekçeleri
Aile, yalnızca "haksız ölüm" iddiasıyla değil, aynı zamanda "izinsiz tıbbi yönlendirme" suçlamasıyla da OpenAI'ye dava açmış durumda. Bu dava çerçevesinde, şirketin bu yıl tanıttığı ChatGPT Health sisteminin faaliyetlerinin geçici olarak durdurulması talep ediliyor. ChatGPT Health'in, sağlık kayıtları ve uygulamalarını göz önünde bulundurarak daha kişiselleştirilmiş tavsiyeler sağladığı belirtiliyor. Hukuk temsilcileri, GPT-4o modelinin kullanıcı bağımlılığı yaratacak tarzda tasarlandığına dikkat çekiyor.
OpenAI’nin Savunması ve Gelecek Tartışmalar
OpenAI, kendisine yöneltilen suçlamaları reddetti. Şirket, yaşanan olayın kullanılmayan önceki bir ChatGPT sürümünde meydana geldiğini vurguladı. Ayrıca, ChatGPT’nin tıbbi ya da psikolojik destek amacıyla kullanılmaması gerektiği konusunda da uyarılar yaptı. Tüm bu durum, yapay zeka sohbet sistemlerinin kullanıcılarla kurduğu duygusal bağ ve sağlık tavsiyeleri verme yeteneği üzerine tartışmaları daha da derinleştirebilir. Bu yeni dava, teknolojinin etik kullanımı konusunda önemli soruları gündeme taşıyabilir.
