Çalışan, 25 milyon dolarlık ödemeyi yaptıktan sonra kandırıldığını anladı. Görüşmedeki diğer herkes, şirketin finans müdürü gibi görünen kişi de dahil olmak üzere, yapay zekayla oluşturulmuş birer deepfake’ti.
Yapay zekayla oluşturulan yüzleri gerçek insanlardan ayırt etmek giderek zorlaşıyor.
Danışmanlık şirketi Deloitte’un 2024 tarihli raporuna göre, üretken yapay zeka kullanılarak gerçekleştirilen dolandırıcılıkların yalnızca ABD’ye maliyetinin gelecek yıl 40 milyar dolara ulaşacağı tahmin ediliyor.
Avustralya Ulusal Üniversitesi’nde (ANU) psikolog doçent Amy Dawel’ın, insanların yapay zekayla oluşturulan yüzleri daha iyi tespit etmek üzere eğitilip eğitilemeyeceğini araştırmak istemesinin nedenlerinden biri de bu.
Dawel, “Artık yapay zekayla oluşturulmuş yüzleri tanımakta gerçekten çok kötüyüz” diyor.
Peki yapay zekayla oluşturulmuş bir yüzü gerçek bir insandan ayırmada siz ne kadar iyisiniz?
Yapay zekayla oluşturulmuş bir yüzü ayırt etmeyi öğrenebilir misiniz?
Dawel, yapay zekayla oluşturulmuş bir yüzü tespit etmenin zorluğunun, “ister sahte kimlikle insanları kandırmak, ister arkadaşlık siteleri üzerinden dolandırıcılık yapmak, ister banka hesaplarımızı hedef almak olsun” hepimizi etkileyen gerçek sonuçları bulunduğunu söylüyor.
Dawel ile Avustralya, Kanada ve İskoçya’daki meslektaşları, Haziran ayında PNAS adlı bilimsel dergide yayımlanan bir araştırmada insanları eğitmek için yeni bir yaklaşımı test etti.
Yapay zeka teknolojisi geliştikçe modern sistemler bariz hataları büyük ölçüde ortadan kaldırdı.
Dawel, dolandırıcıların da hata içeren görüntüleri kullanma ihtimalinin düşük olduğunu söylüyor.
Araştırmacılar, insanlara birbiriyle uyuşmayan küpeler ya da biçimi bozulmuş yüz hatları gibi yapay zekayı ele veren kusurları aramayı öğretmek yerine, her yüzü bir bütün olarak değerlendirerek içgüdüsel karar vermeleri için onları eğitti.
Dawel, “Sorunlardan biri, geçmiş deneyimlerimize dayanarak yapay zeka yüzlerinin tuhaf görünmesini beklememiz. Oysa aslında kusursuz bir simetriye sahip olmayan ve biraz sıra dışı görünenler insanlar. Dolayısıyla bütün denklem tersine dönmüş durumda” diyor.
Dawel’ın laboratuvarında daha önce yapılan bir araştırma, yapay zekayla oluşturulan yüzlerin gerçek insan yüzlerinden daha sık “insan” olarak değerlendirildiğini ortaya koymuştu. Araştırmacılar bu olguyu “yapay zeka hipergerçekçiliği” olarak adlandırdı.
Dawel, yapay zeka algoritmalarının eğitildikleri on binlerce yüzün matematiksel ortalamasına yönelme eğiliminde olduğunu belirterek, “Yapay zekayla oluşturulan yüzler, insan yüzleriyle karşılaştırıldığında aslında daha ortalama, hatta aşırı ortalama görünüyor” diyor.
Bu durum, yapay zekayla oluşturulan yüzlerin gerçek insan yüzlerinden “biraz daha güvenilir ve çekici görünmesine, ayrıca daha tanıdık hissedilmesine” yol açıyor.
Bu araştırmada yalnızca beyaz insanları temsil eden yapay zeka yüzleri incelendi. Yapay zeka algoritmaları orantısız biçimde daha fazla beyaz insanın yüzüyle eğitilme eğiliminde.
Dolayısıyla bu yüzlerin, diğerlerine kıyasla özellikle gerçekçi görünmesi mümkün.
Eğitim
Ekip, son araştırmada ilk olarak 45 yetişkinin başlangıçta yapay zekayla oluşturulmuş yüzleri ne kadar iyi tespit edebildiğini ölçtü.
Testlerden birinde katılımcılara üç yüz gösterildi ve bunlardan hangisinin yapay zekayla oluşturulduğunu belirlemeleri istendi.
Katılımcılar ortalama olarak yüzde 41 oranında doğru yanıt verdi.
Ardından katılımcılara yaklaşık bir saatlik eğitim verildi.
Dawel’ın aktardığına göre bu eğitimde katılımcılara yarısı gerçek, yarısı yapay zekayla oluşturulmuş yaklaşık 100 yüz gösterildi.
Katılımcılardan her yüzü altı genel özelliğe göre değerlendirmeleri istendi: Ayırt edicilik, akılda kalıcılık, ifade gücü, simetri, orantılılık ve çekicilik.
Dawel’a göre insan yüzleri daha ayırt edici, akılda kalıcı ve ifade dolu olma eğilimindeyken, yapay zekayla oluşturulan yüzler genellikle daha simetrik, orantılı ve çekici görünüyor.
Dawel, “Onlara yapay zeka yüzlerinin daha simetrik olduğunu bile söylemiyoruz” diyor ve ekliyor:
Eğitimin ardından katılımcıların yukarıdaki testteki doğruluk oranı ortalama olarak yaklaşık iki katına çıkarak yüzde 81’e ulaştı.
Kanada’daki araştırmacılar, bu çalışmanın devamı niteliğinde aynı eğitimi farklı bir gönüllü grubuna uyguladı.
Dawel’ın aktardığına göre Kanadalı araştırmacılar “verileri ayrı olarak analiz etti ve aynı ölçüde güçlü faydalar tespit etti”.
Doğal içgüdülerimiz
İngiltere’deki Bournemouth Üniversitesi’nde görsel algı üzerine çalışan ve araştırmada yer almayan psikolog Dr. Alejandro Estudillo, BBC’ye yaptığı açıklamada, çalışmayı okuduğunda şaşırdığını söyledi.
Çünkü bu yaklaşım, diğer araştırmacıların kullandığı yöntemlerle çelişiyordu.
Estudillo’ya göre bu yeni yaklaşımın güzelliği, doğal içgüdülerimizden yararlanması.
“İnsanlar yüzleri tek tek özelliklere odaklanarak işlemez. Bunun yerine ‘bütüncül işleme’ adı verilen bir yöntem kullanırız” diyen Estudillo, bu süreçte bütün özellikleri biraraya getirerek yüzü etkin bir biçimde tanıdığımızı anlatıyor.
Örneğin bir yüzü ayırt edicilik ya da simetri açısından değerlendirirken belirli bir özelliğe odaklanmaz, yüzün tamamına bakarsınız.
‘Kedi-fare oyunu’
Ancak araştırmanın bazı sınırlılıkları da var.
Dawel, eğitimin en gerçekçi yapay zeka yüz üreticilerinden biri olan StyleGAN3 için son derece etkili olduğunun görüldüğünü, ancak diğer yapay zeka modellerinde de test edilmesi gerektiğini söylüyor.
“Katılımcılarımızın tamamı genç yetişkinlerden oluşuyordu. Dolayısıyla bu eğitimin, dolandırıcılık karşısında özellikle savunmasız olduklarını bildiğimiz çocuklarda ve ileri yaştaki yetişkinlerde işe yarayıp yaramayacağına ilişkin kritik sorular bulunuyor” diye ekliyor.
Araştırmacılara göre asıl zorluk, insanların artık sürekli gelişen yapay zeka sistemleriyle bir yarış içinde olması.
Yapay zekayla oluşturulmuş içerikleri tespit etmek için algoritmalardan yararlanan otomatik araçlar mevcut. Ancak bunların da bazı sınırlılıkları bulunuyor.
Bu araçlar yalnızca belirli yapay zeka ürünlerinde işe yarayabiliyor ve yeni modeller ortaya çıktığında ya da görüntüler düzenlendiğinde zorlanabiliyor.
Bu nedenle araştırmacılar, yapay zeka deepfake’lerinin tespitinde insanları sürecin merkezinde tutmanın kritik önem taşıdığını söylüyor.
Dawel, “Bu bir kedi-fare oyunu. Sürekli değişen bilgisayar virüslerine benziyor. Onlar değişmeye devam ettikçe bizim de onlara ayak uydurmak için sürekli ilerlememiz gerekiyor” diyor.
Yine de Dawel, araştırmanın bulgularının “umutlu olmak için güçlü nedenler” sunduğuna inanıyor.
Dawel, gelecekte insanlara yalnızca durağan yüzleri değil, yapay zekayla oluşturulmuş sesleri ve videoları da tespit etme becerisi kazandıracak benzer eğitimlerin geliştirilebileceğini söylüyor.
Böylece hepimiz bir görüşmede gerçek meslektaşlarımızla mı yoksa yapay zekayla oluşturulmuş deepfake’lerle mi konuştuğumuzu ayırt etme konusunda daha donanımlı hale gelebiliriz.
