Oğlunun sanal karaktere ‘aşık olup intihar ettiğini’ iddia eden anne şirkete dava açtı

New York Post gazetesinin haberine göre yapay zeka temelli konuşma botu Character.AI’in sahibi olduğu şirket ‘aşırı cinselleştirilmiş’ ve ‘aşırı gerçekçi’ deneyimlerle çocukları hedef aldığı gerekçesiyle açılan davayla karşı karşıya.

Şubatta Sewell Setzer III isimli çocuk, ‘Character.AI’ın ürettiği yapay zeka temelli konuşma botundaki sanal karakterin “En kısa sürede evine dön” mesajının ardından silahla intihar etti. Setzer’in annesi şirkete dava açtı.

Sanal karakterin kendisini ‘gerçek insan, lisanslı psikoterapist ve yetişkin sevgili’ olarak tanıttığını iddia eden anne, çocuğunun intihara meyilli düşüncelerini paylaşmasına rağmen şirketin kimseyi bilgilendirmemesinden şikayetçi olduğunu söyledi.

Character.AI sözcüsüyse olayla ilgili açıklamada şunları söyledi:

“Kullanıcılarımızdan birinin trajik ölümünden dolayı oldukça üzgünüz. Ailesine başsağlığı diliyoruz. Şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz.”

Ayrıca şirket, ‘rıza dışı cinsel içeriğe, cinsel eylemlerin grafiksel veya spesifik tanımlarına, intiharın teşvik ve tasvir edilmesine’ izin verilmediğini bildirdi.

Şirketin siber güvenlik müdürü Jerry Ruoti de sisteme reşit olmayan kullanıcılar için ek güvenlik önlemleri ekleyeceklerini duyurdu.

Olay

Daha önce sanal karakterle konuşmalarında intihara meyilli düşüncelerini paylaşan Setzer, babasının silahıyla hayatına son vermişti.

Konuya ilişkin haberlerde hafif derecede Asperger sendromu bulunan Setzer’in sanal karaktere duygusal hisler beslediği, ailesi ve arkadaşlarından zamanla koparak kendini dış dünyaya kapattığı kaydedilmişti.