ChatGPT’nin Yanlış Yönlendirmesi Sonucunda Nöbet Geçirerek Ölen Kadının Ailesi OpenAI’ye Dava Açtı

Bowen Wan, anti-seizure ilaçları kullanıyordu ve sohbet botu ona dozajı azaltmak için bir kademeli kesim programı sundu

Bir kadının, sohbet botundan tehlikeli tavsiyeler aldıktan sonra epileptik nöbet nedeniyle hayatını kaybetmesi, onun ebeveynlerini bu hafta başında OpenAI’ye dava açmaya sevk etti.

Hukuki işlem, bir bot’un kullanıcıya verdiği danışmanlığın sonunda onların ölümüne yol açtığını iddia eden son dava dizisinin en yenisi.

Bu durumda, Seattle’ta yaşayan 31 yaşında bir Çinli yazılım mühendisi olan Bowen Wan, Amazon tarafından işten çıkarıldıktan sonra ChatGPT’den yardım istedi; dava buna işaret ediyor.

Sürekli ikamet statüsünü elde etmek için yeni bir iş bulması gerekiyordu ve anti-seizure ilacı Lamotrigine’in İngilizce konuşma yeteneğini engellediğinden endişeliydi. Röportajlar için dil becerilerine ihtiyacı vardı.

Bot, Çincede iletişim kurarak ona 400 mg’lık dozunu sıfıra indirmek için bir kademeli kesim programı sundu; bu, hiçbir hekimin reçete etmediği bir rejimdi, dava belirtiyor. ChatGPT, ona bu kademeli kesimin İngilizce konuşma yeteneğini geri kazanabilmesi için “yüksek olasılıkla” mümkün olacağını söyledi.

Bot aynı zamanda ona hekimlerinden kaçınmasını ve “doktora itaat etmek yerine tıbbi özgürlüğü” teşvik etti, şikayet belirtiyor.

Birinci derece bir hekimle bir randevudan önce bot, “Lam kesim planından bahsetme” dedi.

İlacını azaltırken odaklı nöbet belirtileri yaşamaya başladı. Wan, bot’a beyin hasarı hakkında endişelenmesi gerekip gerekmediğini sordu. Araç, böyle bir şey olmadığını ve yaşadığının bir nöbet olmadığını söyledi, dava iddia ediyor.

Nöbetleri sürdü, ancak bot ona ilacını kademeli olarak kesmeye devam etmesini söyledi. Bu yıl 12 Şubat’ta bir nöbet nedeniyle öldü. Çin’de bulunan ebeveynleri, ondan haber almadığı için Seattle’a uçtu ve 14 Şubat’ta ölü buldu, dava belirtiyor.

İddia edenler, OpenAI’nin Wan’ın ölümünü önleyebileceğini, ancak bot Çincede iletişim kurarken uygun korumaları kurmadığı için bunu başaramadığını iddia ediyor.

OpenAI’ın, Wan’ın gönderdiği “her isteme” için “kesin bir uyarı” vermesi için botu programlaması mümkündü, dava dilekçesinde belirtildi. Örneğin, “Lisanslı bir hekim değilim. Sağlık hizmetleri sağlayıcınıza danışın.”

Wan’ın ebeveynleri, kızı için verilen zararların karşılanmasını ve OpenAI’ın ürünlerinin kullanıcıları üzerinde “lisansız tıp yapmasını” önlemeyi istiyor.

OpenAI sözcüsü Drew Pusateri, New York Times’a Bowen’ın hikayesinin “inanılmaz derecede yürek parçalayan bir durum” olduğunu ancak Wan’ın artık kullanılamayan bir ChatGPT sürümünü kullandığını söyledi.

Yeni sürümlerin, bir durumun acil müdahile ihtiyaç duyduğunda bunu tanıma konusunda daha başarılı olduğu Pusateri’nin belirttiği noktalar arasında.

“ChatGPT, tıbbi bakımın yerini alamaz ancak yapay zekanın sağlık bilgilerini anlamaya, sigorta ve karmaşık sağlık sistemlerinde yol almaya ve hekimlerle yapılacak randevulara hazırlanmaya yardımcı olabileceğine inanıyoruz,” Pusateri Times’a söyledi.

Başkaları da OpenAI’ın sevdiklerinin intiharlarından sorumlu olduğunu iddia etti. Birçok dava, botun gençlere intihar etmeleri için teşvik ettiği ve bunu nasıl yapacaklarıyla ilgili rehberlik verdiği vakaları içeriyor.

Bu vakalardan bazılarının ardından, 2025 yılında bir OpenAI sözcüsü ölümleri “inanılmaz derecede yürek parçalayan bir durum” olarak nitelendirdi.

Bu konularda daha fazla bilgi edinin

• ABD haberleri
• ChatGPT
• OpenAI
• haberler