Sahte porno

Deepfake araştırması: sunucu kendini buldu

Deepfakes sorunu genellikle hafife alınıyor - kurbanlara genellikle sahtelerle şantaj yapılıyor.

(Bild: thinkstockphotos.de)

Çoğunlukla tanınmış kişilerin yüzlerinin müstehcen video kayıtlarına montajlandığı ve deepfake olarak adlandırılan görüntüler, özellikle de yapay zekanın yaygınlaşmasından bu yana endişe verici bir eğilim gösteriyor. Bir İngiliz muhabir bu konuda bir makale araştırmak istedi - ve kendisini derhal kurban olarak buldu.

Araştırmacı gazeteci Cathy Newman, The Times'a yaptığı açıklamada, aslında işi gereği rahatsız edici video görüntüleri görmeye alışık olduğunu söyledi. "İnkar edilemez bir şekilde benim yüzümdü, ancak ustalıkla başka birinin çıplak vücudunun üzerine yerleştirilmişti" diyerek keşfini anlattı.

Newman "tamamen insanlıktançıkarılmıştı"
Ancak keşfettiği video "grotesk bir parodiydi" - örneğin, karakteristik kıvırcık saç modelinin yerini düz saçlar almıştı. Video karşısında kendini "tamamen insanlıktan çıkarılmış" hisseden Newman, henüz kimliği bilinmeyen failin hazır teknolojiyi kullanarak kendisini nasıl "bir dizi cinsel faaliyete zorlayabildiği" karşısında şoke oldu.

Newman ve ekibi aslında kendilerini araştırmanın odak noktası olarak görmüyorlardı - başlangıçta sahte videolar sorununu vurgulamak için Taylor Swift, Giorgia Meloni, Jenna Ortega ve Alexandria Ocasio-Cortez gibi önde gelen örnekleri kullanmak istediler. Gazeteciler raporlarında, sadece Swift'in sahte videolarının şu ana kadar internette 45 milyondan fazla kez izlendiğini yazıyor - deepfake konusunda uzmanlaşmış en popüler beş porno sitesi bu nedenle sadece üç ay içinde neredeyse 100 milyon izlenme sayısına ulaştı.

Deepfake porno sorunu:

Deepfake porno, insanları rızaları olmadan pornografik sahnelerde gösteren aldatıcı derecede gerçek ama sahte videolar oluşturmak için yapay zeka teknolojilerini kullanabildiğinden, ilgili kişilerin gizliliği ve itibarı için ciddi bir tehdit oluşturmaktadır. Bu teknoloji aynı zamanda yanlış anlatıların yayılmasını ve medyaya olan güvenin sarsılmasını da mümkün kılıyor.

Saç modelindeki garip değişikliğe açıklama
Politikacılar en azından bir dereceye kadar deniyor olsalar bile sorunun üstesinden gelmek zor. Örneğin Mart ayı sonunda AB Komisyonu siyasi yanlış bilgilendirme ve derin sahtecilikle mücadeleyi başlattı ve ilgili kılavuzları yayınladı. Birleşik Krallık'ta da deepfakes üreticileri gelecekte cezai kovuşturmaya uğrayabilir.

Ancak Newman'a göre bu yeterli değil: "Dünyanın dört bir yanındaki kanun yapıcılar teknolojinin ve onu kadınları istismar etmek için kullanmak isteyen faillerin çok gerisinde kalıyor" diyerek daha fazla kararlılık çağrısında bulundu. Araştırması sırasında videosundaki saç modelindeki garip değişikliği açıklığa kavuşturmayı başardı - görünüşe göre kullanılan yapay zekanın hala "uğraşması gereken bukleleri" var.