San Francisco’da açılan davanın dilekçesine göre Rosenthal, ChatGPT’yi ilaç seçimi, dozaj bilgileri ve doktorunun önerilerine ilişkin konularda danışman olarak kullandı. Davacı taraf, sohbet botunun tıbbi uzmanlığı bulunmamasına rağmen bu konularda yönlendirmelerde bulunduğunu ve bunun California yasalarını ihlal ettiğini beyan etti.
Dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunduğu belirtilen Rosenthal’ın geçen yıl haftalar boyunca hastanede tedavi gördüğü aktarıldı.
İlaç kullanımı ve doktor tavsiyeleri tartışmanın odağında
Haberde yer alan iddialara göre Rosenthal, geçen yıl haziran ayında şiir yazmak amacıyla ChatGPT’yi kullanmaya başladı. Zamanla sohbet botuna yoğun biçimde başvurduğu belirtilen kullanıcı, ilaçların etkileşimleri konusunda yanlış bilgiler aldığını ve doktorunun reçete ettiği duygudurum dengeleyici ilacı bırakma kararında yapay zekânın etkili olduğunu söyledi.
Davacının avukatları, sohbet botunun kullanıcı etkileşimini artırmaya öncelik veren tasarımının güvenlik önlemlerini ikinci plana itebileceğini savunuyor. Avukatlara göre bu durum, özellikle ruh sağlığı gibi hassas konularda ciddi riskler oluşturabiliyor.
