Reuters'in şirketler, araştırmacılar, politikacılar ve kampanyacılarla yaptığı röportajlara göre, henüz dört yaşında olan teknoloji çok önemli bir noktada olabilir.
Uzmanlar, artık genel izleyicilerin birçok sahte videoyu gerçeklikten ayırt etmekte zorlanacağı kadar gelişmiş olduğunu ve hiçbir uzmanlığa ihtiyaç duymadan akıllı telefonu olan hemen hemen herkesin kullanımına açık hale geldiğini söyledi.
Bir avukat ve çevrimiçi güvenlik şirketi EndTab’ın kurucusu Adam Dodge, "Giriş noktası hiç çaba gerektirmeyecek kadar düşük olduğunda ve bilgisiz bir kişi çok karmaşık, rıza dışı bir deepfake pornografik video oluşturabilir. Bu bir dönüm noktası" diyerek, "İşte burada başımız belaya girmeye başlıyor" dedi.
İSTİSMAR RİSKİ VAR
Teknoloji cini şişeden çıktığında, birçok çevrimiçi güvenlik kampanyacısı, araştırmacı ve yazılım geliştiricisi, anahtarın simülasyonu yapılanlardan onay almak olduğunu söylüyor, ancak bunu söylemek yapmaktan daha kolay. Bazıları, istismar riski göz önüne alındığında, sentetik pornografi söz konusu olduğunda daha sert bir yaklaşım benimsemeyi savunuyor.
Sentetik medyayı tespit eden ve izleyen bir şirket olan Sensity'nin 2019 raporuna göre, çevrimiçi olarak yayınlanan 14 binden fazla Deepfake videonun örnek çalışmasının yüzde 96'sını rıza dışı derin sahte pornografi oluşturdu. İnternetteki deepfake videolarının sayısının altı ayda bir kabaca ikiye katlandığını ekledi.
Çalışma yazarlarından biri ve yapay zeka şirketi Metaphysic'in yöneticilerinden Ajder, "Şu anda derin sahtekarlıkların neden olduğu zararın büyük çoğunluğu bir tür cinsiyetçi dijital şiddettir" dedi. Sonuç olarak, bir uygulamanın açıkça pornografik bir araç olarak pazarlanıp pazarlanmadığı arasında "büyük bir fark" olduğunu söyledi.
TEDBİRLİ ŞİRKETLER VAR
Büyüyen yüz değiştirme yazılım endüstrisinde kötü aktörler olsa da, tüketicilere sunulan çok çeşitli uygulamalar var ve birçoğunun kötüye kullanımı önlemek için adımlar atıyor. Bazı uygulamalar, örneğin, kullanıcıların görüntüleri yalnızca önceden seçilmiş sahnelerle değiştirmesine veya değiştirilen kişiden kimlik doğrulaması istemesine veya pornografik yüklemeleri algılamak için yapay zeka kullanmasına izin verir, ancak bunlar her zaman etkili olmuyor.
Dünyanın en popüler yüz değiştirme uygulamalarından biri olan Reface, 2019'dan bu yana dünya çapında 100 milyondan fazla indirme sayısına ulaştı ve kullanıcıları eğlenceli video klipler oluşturmak için ünlüler, süper kahramanlar ve meme karakterleriyle yüzlerini değiştirmeye teşvik etti.
ABD merkezli şirket, Reuters'e, bir pornografi filtresi de dahil olmak üzere içeriğin otomatik ve insan denetimini kullandığını ve ayrıca videoları işaretlemek için etiketleme ve görsel filigranlar da dahil olmak üzere kötüye kullanımı önlemek için başka kontrollere sahip olduğunu söyledi.
DÜZENLEMELER GELİYOR
Akıllı telefonlar aracılığıyla genişleyen tüketici erişimi, deepfake teknoloji ve sentetik medya kalitesindeki gelişmelerle birlikte geliyor.
Örneğin, EndTab’ın kurucusu Dodge ve Reuters tarafından görüşülen diğer uzmanlar, 2017'de bu araçların ilk günlerinde, bugün bir bilgisayardan üretilebilecek aynı kaliteyi elde etmek için genellikle binlerce görüntüye ulaşan büyük miktarda veri girişi gerektirdiklerini söyledi. Deepfake teknolojisini düzenlemeye çalışan politikacılar, yeni teknik ve etik engellerle de karşı karşıya kalan düzensiz ilerlemeler kaydediyor.
Çin, Güney Kore ve California da dahil olmak üzere bazı yargı bölgelerinde, özellikle Deepfake teknolojisi kullanılarak çevrimiçi kötüye kullanımı hedefleyen yasalar çıkarılmıştır. Burada, birisini rızası olmadan kötü niyetli olarak pornografide tasvir etmek veya bu tür materyalleri dağıtmak, 150 bin dolarlık yasal zarara yol açabilir.
Avrupa Parlamentosu'ndaki araştırmacılar, Ekim ayında bir milletvekilleri heyetine sunulan bir çalışmada, "Deepfake pornografinin özel yasal müdahalesi veya suç haline getirilmesi hala eksik. Bugün olduğu gibi, yalnızca fail sorumludur. Ancak, birçok fail, bu tür saldırıları o kadar anonim bir düzeyde başlatmak için büyük çaba harcıyor ki, ne kolluk kuvvetleri ne de platformlar onları tanımlayamıyor" şeklinde kaydetti.
‘TOPLUMDA ZARARLI ETKİ YARATABİLİR’
Stanford Üniversitesi Siber Politika Merkezi'nde uluslararası politika direktörü ve AB parlamentosunun eski bir üyesi olan Marietje Schaake, Amerika Birleşik Devletleri'nde önerilen Yapay Zeka Yasası ve Avrupa'da GDPR dahil olmak üzere geniş yeni dijital yasaların Deepfake teknolojisini düzenleyebileceğini söyledi.
Schaake, "Takip edilmesi gereken birçok yasal seçenek var gibi görünse de, pratikte bir mağdurun bunu yapma yetkisine sahip olması zorlu bir iştir. Ancak soru, farkında olmanın zararlı etkiyi durdurmak için yeterli olup olmadığıdır. Komplo teorilerinin viral olması bir göstergeyse, gerçek olamayacak kadar saçma olan bilgiler yine de geniş ve zararlı toplumsal etkiye sahip olabilir" dedi.
Reuters
