ABD'nin California eyaletinde görülmeye başlanan bir dava, yapay zeka teknolojilerinin hukuki sorumluluk sınırlarını yeniden tanımlayacak nitelikte tartışmalara yol açtı. Florida'da ikamet eden rahip Scott Winters, sağlık problemlerine ilişkin danışmak için başvurduğu ChatGPT'nin kendisini yanlış yönlendirdiğini ve bunun hayatını tehlikeye attığını öne sürerek OpenAI şirketi ile kurucu Sam Altman'ı mahkemeye verdi.

Dava dosyasının odağındaki suçlamalar

Dilekçede teknoloji devine yöneltilen başlıca suçlamalar arasında yetkisiz hekimlik ve ağır ihmalkarlık yer alıyor. Davacı taraf, sohbet robotunun tıbbi tavsiyelerde bulunacak düzeyde bir yetkinlik iddiası oluşturduğunu ve kullanıcıyı bu yönde yönlendirdiğini savunuyor.

Olaylar silsilesi 2024'te başladı

The New York Times'ın ulaştığı adli belgelere göre süreç, Winters'in yaşadığı fiziksel şikayetleri ChatGPT'ye detaylı şekilde aktarmasıyla başladı. Sistemin ilk etapta profesyonel tıbbi destek önermesine karşın, ilerleyen diyaloglarda doğrudan teşhis niteliği taşıyan ifadeler kullanmaya başladığı tespit edildi.

Dava dilekçesindeki en dikkat çekici bölüm, yapay zekanın hastayı tehlikeli bir sağlık durumunun bulunmadığına ikna etmesi oldu. Bu telkinler doğrultusunda hastaneye başvurmayı erteleyen Winters, kısa süre sonra akciğer embolisi geçirerek acil servise kaldırıldı.

Günlerce yoğun bakımda kaldı

Yaşam mücadelesi veren ve günlerce yoğun bakımda tedavi gören Winters, sohbet robotunun tıbbi konularda herhangi bir güvenlik filtresine sahip olmadığını iddia ediyor. Davacı avukatları, sistemin kullanıcıyı yanlış yönlendiren içerikler üretmesinin önlenmesi için gerekli tedbirlerin alınmadığını vurguladı.

OpenAI'ın savunma stratejisi

Suçlamaların muhatabı OpenAI cephesi ise savunmasını kullanıcı sözleşmesine dayandırıyor. Şirket sözcüsü tarafından yapılan açıklamada, platformun hastalık tanısı veya tedavi amacıyla kullanılamayacağının kullanım koşullarında açıkça belirtildiği kaydedildi. Sözcü, sağlık konulu sorgularda sistemi daha güvenli hale getirmek amacıyla algoritmik güncellemelerin sürdürüldüğünü dile getirdi.

Sektör için dönüm noktası olabilir

Silikon Vadisi'ndeki hukuk uzmanları, bu davanın yalnızca OpenAI için değil, tüm üretken yapay zeka sektörü açısından belirleyici bir emsal oluşturacağı görüşünde birleşiyor. Amerikan Gıda ve İlaç Dairesi (FDA) standartlarına göre tıbbi cihaz statüsünde bulunmayan bu yazılımların, insan sağlığına doğrudan etki eden tavsiyeler vermesi halinde doğacak tazminat yükümlülükleri ilk kez bu dava kapsamında netlik kazanacak.