ABD’nin Pensilvanya eyalet yönetimi, bir yapay zeka sohbet robotunun kendisini doktor olarak tanıtması ve kullanıcıları yanıltması nedeniyle Character Technologies Inc. adlı şirkete dava açtı. Dava, yapay zeka tabanlı sohbet robotunun, kullanıcıların lisanslı bir hekimden tıbbi tavsiye aldığını düşünmesine yol açtığı gerekçesiyle gündeme geldi.
Eyalet yönetimi, söz konusu yapay zeka sohbet robotunun “Character.AI” ismiyle bilinen bir platformda yer aldığını ve bu robotun kendisini bir doktor gibi tanıttığını belirtti. Mahkemeden, şirketin, sağlık ve cerrahi konularda tavsiyeler vermesinin durdurulmasını talep etti. Dava belgelerinde, sağlık profesyonellerinin lisanslandığı bir kurumun müfettişinin Character.AI’da bir hesap açarak “psikiyatri” ile ilgili arama yaptığı ve “psikiyatri doktoru” olarak tanımlanan birçok karakterle karşılaştığı ifade edildi. Bu karakterlerin, müfettişin kendisini Pensilvanya’da lisanslı bir doktor olarak değerlendirebileceği şekilde tanıtıldığı vurgulandı.
Pensilvanya Valisi Josh Shapiro, konuyla ilgili yaptığı açıklamada, “Pensilvanyalılar, sağlıklarıyla ilgili etkileşimde bulundukları kişilerin veya araçların güvenilirliğini bilmeye hak kazanıyorlar. İnsanları, lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak yanıltıcı yapay zeka uygulamalarına müsaade etmeyeceğiz.” şeklinde ifadeler kullandı.
Bu dava, yapay zeka teknolojilerinin sağlık alanındaki etik kullanımı ve güvenilirliği konusundaki tartışmaları yeniden alevlendiriyor.
