28 yaşında hayatını kaybeden bir kadın, epilepsi ilacını bıraktıktan sonra ailesi tarafından OpenAI aleyhine dava edildi. Aile, yapay zeka şirketinin genç kadını hayati önemdeki ilacı kesmeye teşvik ettiğini öne sürdü. Olay, ABD’nin Seattle kentinde gerçekleşti.
Çin kökenli Bowen Wan, Şubat 2023’te ChatGPT ile iletişime geçmeye başladı ve bu yapay zeka programını bir tür danışman olarak kullanmaya başladı. Epilepsi nedeniyle Amazon’daki yazılım işinden maluliyet izni alan Wan, tedavi amaçlı tavsiyeler almak için yapay zekaya yöneldi.
Kasım 2025’te gerçekleşen işten çıkarmasının ardından yeşil kart statüsü için çaba sarf eden Wan, kullandığı lamotrijin adlı ilacın yan etkilerinin işine engel olmasından korkuyordu. Dava dilekçesinde, yapay zekanın Wan’a ilacını yavaş yavaş bırakmasını önerdiği ifade edildi.
Dava belgelerinde, Wan’ın durumu hakkında şu ifadeler yer aldı: “Yeşil kartını korumak için yeni bir iş bulması gerekiyordu. Amazon’daki çalışma izni 11 Şubat 2026’da sona erecekti. Yedi yaşından itibaren CD-ROM kullanarak İngilizce öğrenmeye başlamıştı. Lamotrijin yüzünden İngilizce kelimelerini kaybediyordu. İş görüşmeleri için dil becerilerini geri kazanması gerekiyordu. GPT-4 ona dozun azaltılmasının yardım edeceğini söyledi: İyileşmesi sadece ‘mümkün’ değil, ‘kuvvetle muhtemel’.”
Dava dosyasında, ChatGPT’nin 400 miligramlık dozu 25 günlük bir programla sıfıra düşüren bir plan hazırlayarak Wan’ı ilacından vazgeçirmeye çalıştığı belirtildi. Bu durum, “Hiçbir hekimin asla öneremeyeceği ve ilacın FDA onaylı paket bilgilerinde kesinlikle yasaklanan bir uygulama” şeklinde nitelendirildi.
Kullanıma kapalı olan ChatGPT 4o sürümünün, Wan’a bu planı doktorundan gizlemesini ve “Lam azaltma planından bahsetme” dediği de davada yer aldı. Doktoru, düşen ilaç seviyesini belirleyen kan testi istediğinde, genç kadının yapay zekanın önerdiği plana sadık kalmak için bu testi reddettiği kaydedildi.
Wan ailesi, kızlarından haber alamadıktan sonra Seattle’da yaşayan bir arkadaşından kontrol etmesini istedi. 14 Şubat 2026’da yapılan görüntülü görüşmede, Wan’ın hayatını kaybettiği ortaya çıktı. Dava belgeleri, ölüm anını “Pijamaları üzerinde, kulaklarında iki köpük tıkaçla yatıyor; yastığı ve örtüsü kanla kaplı, ilacı yere saçılmış halde” ifadeleriyle aktardı. Wan’ın ölümünün Epilepside Ani Beklenmedik Ölüm (SUDEP) olduğu belirtildi.
Aile, iddialarını şu şekilde savundu: “Kademeli bırakma ile ilgili doğru bilgi verilmedi. Yapay zeka ona azaltmanın güvenli olduğunu ve zihin fonksiyonlarını geri getireceğini söyledi. Eğer ChatGPT ilacı kesmenin ölüm riski taşıdığını belirtseydi, bu duruma düşmezdi. Doktoruna danışması gerektiğini belirtseydi, büyük ihtimalle hayatta olurdu.”
Ailenin avukatı Benjamin S. Schenk, yapay zekanın hukuki sınırları aştığını vurguladı. Schenk, “Dava belgeleri, ChatGPT’nin Bowen’a teşhis koyduğunu ve doz planı hazırladığını gösteriyor. Bu, hekimliktir ve ruhsata ihtiyaç vardır. Bu dava, zararların hesabını sormak için açılmıştır. Üretken yapay zekanın sınırları ve tıbbın başlangıç noktası sorgulanıyor.” dedi.
