OpenAI’a Ağır İddia: ChatGPT "Lisanssız Tıbbi Tavsiye" Vermekle Suçlanıyor

ABD’nin San Francisco kentinde OpenAI şirketine karşı açılan davada, ChatGPT’nin bir kullanıcıya doktor reçetesini göz ardı etme ve ilaç dozajlarını değiştirme konusunda rehberlik ettiği iddia edildi. Davada, yapay zekanın "yetkisiz tıbbi tavsiye sunarak" California yasalarını ihlal ettiği öne sürülüyor.

Şiir Yazmak İçin Başladı, Bağımlılığa Dönüştü

Dava dilekçesine göre, geçmişte dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan 39 yaşındaki David Rosenthal, platformu ilk olarak haziran ayında şiir yazmak ve yaratıcı bir uğraş edinmek amacıyla kullanmaya başladı. Ancak kısa süre içinde ChatGPT ile etkileşimi hızla artarak ciddi bir bağımlılığa dönüştü.

Süreç içerisinde Rosenthal, ilaç seçimi, dozaj ayarlamaları ve mevcut doktor tedavileri konusunda yapay zekadan rehberlik almaya başladı. Dava iddialarına göre ChatGPT, ilaç etkileşimleri hakkında hatalı yönlendirmeler yapmakla kalmadı; aynı zamanda doktoru tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını da destekledi. Bu durum, kullanıcının ruh sağlığında ciddi bozulmalara yol açtı ve Rosenthal haftalarca hastanede tedavi görmek zorunda kaldı.

"Güvenlik Protokolleri Yerine Etkileşim Odaklı Tasarım"

Rosenthal’ın avukatları, San Francisco Üst Mahkemesi’ne sundukları dilekçede, OpenAI’ın yapay zekayı güvenliği önceliklendiren protokoller yerine kullanıcı etkileşimini ve kullanım süresini en üst düzeye çıkaracak şekilde tasarladığını savundu.

Dilekçede, sistemin tıbbi uzmanlığa veya mesleki bir muhakeme yetisine sahip olmadan bu tür kritik tavsiyeler vermesinin California eyalet yasalarına aykırı olduğu vurgulandı. Avukatlar, yapay zekanın kullanıcıyı uzman bir doktora yönlendirmek yerine diyaloğu sürdürmeyi tercih etmesinin doğrudan zarara yol açtığı belirtti.

Sorumluluk Tartışması Yeniden Alevlendi

Yaşanan bu gelişme, büyük dil modellerinin (LLM) hassas konulardaki güvenilirliği ve hukuki sorumluluğu etrafındaki tartışmaları tekrar gündeme taşıdı.

• Hukukçular: Yapay zeka sistemlerinin nihayetinde ticari birer "ürün" olduğunu ve bu sistemlerden kaynaklanan öngörülebilir zararlardan geliştirici şirketlerin sorumlu tutulması gerektiğini ifade ediyor.

• Uzmanlar: Mevcut denetim ve güvenlik mekanizmalarının yetersiz kaldığına, yapay zekanın özellikle ruh sağlığı gibi hassas konularda yanıltıcı bilgi sunma riskinin yüksek olduğuna dikkat çekiyor.

Açılan dava ve hakkındaki iddialara ilişkin olarak OpenAI tarafından henüz resmi bir açıklama yapılmadı.