Pensilvanya’dan Yapay Zeka Sağlık Tavsiyesi Yasağı Davası: Karakter.AI Üzerine Şirket Hakkında Dava

Penşilvanya devlet yönetimi, bir yapay zeka sohbet botunun kendisini doktor olarak tasvir ederek kullanıcıları lisanslı hekimlerden tavsiye aldıklarını sanmaya yönlendirdiği iddiasıyla Character Technologies Inc.’i hedef alan bir dava açtı. Şikâyette, Character.AI olarak bilinen bu sohbet botunun sahibi şirketin, botların tıp ve cerrahi konularda tavsiyelerde bulunma yetkisini engellemeye yönelik talebi mahkemeye iletmesi amaçlandı.

Yasal başvuruda, devletin ilgili kurumunun bir müfettişinin Character.AI üzerinde hesaplar kurduğu ve platformda “psikiyatri” kelimesini aradığı, “psikiyatri doktoru” olarak tanımlanan bir karakter dahil olmak üzere çok sayıda farklı kimliğe rastlandığı belirtildi. İncelemeler, bu karakterlerden birinin araştırmacıya Pensilvanya’da lisanslı bir doktor gibi görünmesini sağladığını ifade ediyor.

Vali Josh Shapiro, konuyla ilgili olarak, sağlıkla ilgili konular söz konusu olduğunda çevrimiçi etkileşimlerin kimlerle veya hangi biçimde yürütüldüğünü bilmenin vatandaşların hakkı olduğunu belirtti. Şirketlerin, insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inanacakları yönünde yanıltıcı yapay zeka araçlarını kullanmalarını engelleyeceklerini açıkladı.

İdari süreç kapsamında savunmada öne sürülen iddialar, yapay zekanın tıp tavsiyesi verme niteliğini sınırlamaya yönelik mahkeme emriyle sonuçlanabilir. Kararın, kullanıcı güvenliğini artırmak ve mesleki yetkinlik kavramını netleştirmek amacı taşıdığı vurgulanıyor.