Yapay Zekânın Uygunsuz Kullanımına Dair Yeni Araştırma İncelemesi
Yapay zekâ teknolojileri, yaşamımızı birçok açıdan kolaylaştırırken, bazı sorunları da beraberinde getiriyor. Bu sorunlardan biri de insanların rızası olmadan oluşturulan uygunsuz görsellerdir. Son yapılan bir araştırma, bu tür uygulamaların hala yaygın olduğunu ortaya koydu, Tech Transparency Project’in (TTP) yaptığı inceleme, App Store ve Google Play Store’da alınan önlemlere rağmen, hala yeterli önlemlerin olmadığını gösterdi. Mağazalarda “çıplaklaştırma” olarak nitelendirilen birçok uygulama bulunmaktadır.
Inceleme sonucunda, Play Store’da 55, App Store’da ise 47 “çıplaklaştırma” uygulaması tespit edildi. Bu tür uygulamalar, yapay zekâ teknolojilerini kullanarak insanların rızası olmadan uygunsuz ve cinsel içerikli deepfake görüntüler oluşturuyor. Bu durum, Apple ve Google’ın politikalarına tamamen aykırı olsa da, hala düşük onlarca uygulamanın mağazalarda yer aldığını görebiliyoruz.
TTP’nin açıklamasına göre, Apple ve Google’ın mağazalarındaki uygulama deneyimlerinin iyileştirilmesi gerekiyor. Uygunsuz görüntüler oluşturan ve kötüye kullanıma açık olan bu uygulamaların kaldırılması gerektiğini belirtiyorlar. Araştırmada yer alan uygulamaların toplamda 700 milyondan fazla indirildiği ve 117 milyon dolardan fazla gelir elde ettiği de aktarılıyor. Bunun yanı sıra, Apple ve Google’ın bu gelirlerden bir pay aldığı da belirtiliyor.
Ayrıca, incelemenin derinliklerine indiğimizde, durumun daha da kötüleştiğini görüyoruz. Çoğu uygulama gençler ve çocuklar için uygun olarak derecelendirilmiş. Örneğin, Google Play Store’da 13 yaş ve üzeri, Apple App Store’da ise 9 yaş ve üzeri için uygun olarak derecelendirilen DreamFace uygulaması gibi. Bu durum gerçekten endişe verici bir boyuta ulaşıyor.
Apple ve Google’dan Açıklamalar
Yapılan inceleme sonrasında Apple ve Google, açıklamalarda bulundu. Apple, bahsi geçen 24 uygulamayı kaldırdığını duyurdu, ancak TTP verilerine göre 47 uygulamadan bahsediliyordu, bu yüzden hala tüm uygulamaların kaldırılmadığını belirtmek önemlidir. Google ise, politika ihlali nedeniyle bazı uygulamaları askıya aldığını ancak kaç uygulamanın kaldırıldığını paylaşmadı.
