Florida'da papaz Scott Winters, yapay zekâ destekli sohbet robotu ChatGPT'nin verdiği sağlık tavsiyelerinin hayati tehlike oluşturan akciğer embolisi tedavisini geciktirdiğini öne sürerek OpenAI aleyhine dava açtı.
ChatGPT'nin Sağlık Tavsiyeleri ve İddialar
The New York Times'ta yer alan habere göre, Winters'ın açtığı davada, ChatGPT'nin papazın erken sağlık belirtilerini 'tehlikeli bir durum değil' şeklinde yorumladığı ve bu nedenle tıbbi yardım almasını engellediği iddia edildi. Sohbet robotunun, Winters'a 'Tanrı bedenini durmaksızın başarısız olacak şekilde yaratmadı' gibi ifadelerle güvence verdiği belirtildi.
Dava Kapsamında İhmal ve Yetkisiz Tıp Uygulaması Suçlamaları
Dava dosyasında, OpenAI ve şirketin CEO'su Sam Altman'ın ihmal ve 'yetkisiz tıp uygulaması' ile suçlandığı ifade edildi. ChatGPT'nin Winters'a teşhis ve tedavi önerileri sunduğu, ayrıca papazın yakınlarının sağlık hizmeti alması yönündeki çağrılarını dikkate almaması için teşvik ettiği iddialar arasında yer aldı.
Güvenlik Özelliklerinin Yetersizliği
Davada, yapay zekânın sağlık sorunlarıyla ilgili soruları bir uzmana yönlendirmek ve acil durumlarda sohbeti sonlandırmak üzere tasarlanmış güvenlik mekanizmalarının etkili biçimde çalışmadığı savunuldu. Bu durumun Winters'ın zarar görmesine yol açtığı öne sürüldü.
Yapay Zekâ ve Sağlık Hizmetlerinde Yeni Dönem
Winters'ın açtığı dava, bir sohbet robotundan alınan sağlık tavsiyeleri nedeniyle zarar gören ilk kişi olarak dikkat çekiyor. Dava, OpenAI, Microsoft ve diğer büyük yapay zekâ şirketlerinin kullanıcıların tıbbi verilerini paylaşmaya ve sağlık sorularını yapay zekâya yöneltmeye teşvik eden ChatGPT Health gibi hizmetleri yaygınlaştırdığı bir dönemde gündeme geldi.
Olay, yapay zekâ tabanlı sağlık hizmetlerinin etik ve yasal boyutlarının tartışılmasına zemin hazırlarken, benzer durumların önüne geçilmesi için güvenlik önlemlerinin güçlendirilmesi gerektiğini ortaya koyuyor. Gelişmeler takip ediliyor.