Character AI davasında yeni gelişme

ABD merkezli Character AI, kullanıcıların yapay zekâ chatbotlarıyla etkileşimde bulunmasını sağlayan bir platform olarak gündemde. Şirket, bir gencin intiharıyla ilgili açılan davada, söz özgürlüğünü garanti eden Birinci Değişiklik’e dayanarak davanın düşürülmesini talep etti.

2024 yılının Ekim ayında Megan Garcia, oğlu Sewell Setzer III’ün intiharı üzerine Florida Orta Bölge Mahkemesi’nde Character AI’ya dava açtı. Garcia, oğlunun platformda “Dany” isimli bir chatbot ile güçlü bir duygusal bağ kurduğunu ve gerçek hayattan kopmaya başladığını argüman etti. Bu trajik olay sonrası Character AI, hizmet şartlarını ihlal eden sohbetlere karşı güvenlik tedbirlerini artırdığını duyurdu. Lakin Garcia, öykü anlatımı ve ferdî anekdotlar üzere özelliklerin kaldırılması da dahil olmak üzere daha fazla düzenleme talep ediyor.

Character AI’nın avukatları, kullanıcıların platformdaki sözlerinin Birinci Değişiklik kapsamında olduğunu ve bu çeşit sözler nedeniyle şirketin sorumlu tutulamayacağını belirtti. Şirket ayrıyeten, davanın başarılı olması durumunda hem kendi işleyişini hem de yapay zekâ kesimini önemli biçimde etkileyecek bir “soğutucu etki” yaratacağını tabir etti.

Davada, Character AI’nın yanı sıra, şirketin destekçisi olan Alphabet de sanık olarak yer alıyor. Şirket, kullanıcılarının güvenliğini artırmak ismine gençler için farklı bir yapay zekâ modeli, hassas içeriklere yönelik blokajlar ve botların gerçek olmadığını vurgulayan ihtarlar üzere tedbirler aldığını belirtti. Buna karşın, öbür davalar da Character AI’yı reşit olmayan kullanıcılara yönelik uygunsuz içerik sağlamakla suçluyor.

Çin yapay zekâ standartları komitesi kuruyor

Texas Başsavcısı Ken Paxton ise Aralık 2024’te, çocukların çevrim içi kapalılık ve güvenliğiyle ilgili maddeleri ihlal ettiği argümanıyla Character AI ve başka 14 teknoloji şirketine yönelik bir soruşturma başlattı. Paxton, bu tıp soruşturmaların, toplumsal medya ve yapay zekâ şirketlerinin çocukları sömürüye karşı koruyan kanunlara uymasını sağlamak için kritik olduğunu belirtti.

Yapay zekâ dostluk uygulamalarının süratle büyüyen bu bölümü, uzmanlar tarafından dikkatle izleniyor. Uzmanlar, bu tıp uygulamaların yalnızlık ve dert üzere hisleri artırabileceğinden kaygı duyuyor. 2021’de Google AI araştırmacısı Noam Shazeer tarafından kurulan Character AI, geçtiğimiz yıllarda 2,7 milyar dolarlık bir “ters satın alma” muahedesiyle dikkat çekmişti.