ABD'nin Florida eyaletinde yaşayan rahip Scott Winters, OpenAI ve şirketin Üst Yöneticisi Sam Altman'a karşı California eyalet mahkemesinde dava açtı. The New York Times'ın haberine göre, Winters, ChatGPT'nin kendisine verdiği tıbbi tavsiyeler nedeniyle yapay zekâ şirketini "yetkisiz hekimlik" ve ihmalkarlıkla suçluyor.

ChatGPT, tıbbi uyarıları bırakıp doğrudan tavsiye vermeye başladı

Mahkemeye sunulan dilekçede çarpıcı iddialar yer aldı. Buna göre Winters, 2024 yılında sağlık sorunlarıyla ilgili soruları ChatGPT'ye yönelttiğinde ilk etapta yapay zekâ tarafından profesyonel tıbbi destek almaya yönlendirildi. Ancak sohbet ilerledikçe ChatGPT'nin bu uyarıları kaldırarak doğrudan tıbbi tavsiyeler vermeye başladığı ileri sürüldü.

Yoğun bakıma kaldırıldı

Dava dilekçesinde, Winters'ın giderek kötüleşen sağlık şikayetleri konusunda ChatGPT tarafından sürekli olarak "tehlikeli bir durum olmadığı" yönünde temin edildiği ve gerçek bir doktora başvurmasının engellendiği belirtildi. Yapay zekânın "hafife aldığı" ağrıların ardından rahip, akciğer embolisi teşhisiyle yoğun bakıma alındı.

Güvenlik önlemleri eleştirildi

Winters'ın avukatları, hayati tehlike arz eden bu süreçte hastanın tedavisini geciktiren ChatGPT'nin güvenlik mekanizmalarının yetersiz kaldığını savundu. Dilekçede, yapay zekâ uygulamasının kullanıcıları olası acil sağlık durumlarına karşı koruyacak filtrelerin düzgün çalışmadığı vurgulandı.

OpenAI'dan yanıt

OpenAI sözcüsü konuya ilişkin yaptığı açıklamada, ChatGPT'nin kullanım sözleşmesinde hastalık tanısı ve tedavisi amacıyla kullanılamayacağının açıkça ifade edildiğini hatırlattı. Şirket yetkilisi, buna rağmen sağlıkla ilgili sorgulara verilen yanıtları mümkün olan en güvenli hale getirmek için sürekli çalıştıklarını belirtti.

Bu dava, yapay zekâ destekli sohbet botlarının sağlık alanında kullanımına ilişkin sorumluluk ve güvenlik tartışmalarını bir kez daha gündeme taşıdı. Uzmanlar, kullanıcıların sağlık konularında kesinlikle yapay zekâya değil, profesyonel hekimlere başvurması gerektiğini vurguluyor.