Dünyanın en büyük siber tehditlerinden biri! Herkes kurbanı olabilir

Teknolojinin gelişmesiyle siber tehditler de artmaya başladı. Bu tehditlerden biri ise DeepFake adındaki manipülasyon içeren görüntü ve sesin kullanıldığı videolar. Bu videoları yapmak için ise yapay zekâ kullanılarak kişinin yüz görüntüsü dijital olarak kopyalanıp birebir canlandırılabiliyor hatta ses bile ekleniyor. Aktör-aktris ve ünlülerin internet ortamında çokça görüntüsü olduğu için DeepFake'leri yapılabildiği düşünülse de artık herhangi bir insan için de DeepFake yapılabilir hale geldi. Amatörlerin bir-iki günde ürettiği görüntüler daha çabuk fark edilebiliyor ama profesyonel olanların haftalarca çalışarak hazırladığı bu videolara dikkatlice bakmadıkça gerçek kişiden ayırt edilemiyor. Bir-iki sene içinde ise herkesin DeepFake'i yapabileceği uygulamaların çıkabileceği ve bunun da büyük bir tehlikeye neden olacağı ön görülüyor; ülkeler, kuruluşlar ve bireyler ise bu yeni teknolojiye henüz hazır değil. Geçtiğimiz günlerde de Federal Bureau of Investigation (FBI), DeepFake teknolojisi kullanarak iş başvurusu yapan kişilerin şirketlerdeki kritik pozisyonlara yerleşen siber saldırganlar olduğunu açıkladı. Biz de Türkiye'de DeepFake uzmanlarına ulaştık, DeepFake'in nasıl ortaya çıktığını, ne tür tehditlere yol açabileceğini ve daha birçok detayı SABAH okuyucuları için sorduk. Zemana Bilişim Teknoloji Müdürü Yağızhan Atmaca ve ekibi de DeepFake'e dair soruları yanıtladı. İşte gelecekte dünyanın en büyük siber tehdidi olacak olan DeepFake hakkında her şey... DeepFake teknolojisi adını 2000'li yılların en gözde dijital platformlarından reddit.com'daki 'Deepfakes' lakaplı bir kullanıcıdan alıyor. Bu kullanıcı, yapay zekâ teknolojisinin makine öğrenmesini içeren, genel kullanıma açılmış bir faceswap (yüz değiştirme) uygulamasını geliştirmeye odaklanınca, bu yepyeni teknolojinin de fitilini ateşlemiş oldu. Her ne kadar bu hesap daha sonra kapatılmış olsa da kıvılcım bir yangına dönüşmüş durumda. Bireysel zekâyı 'çarpan etkisi' ile yapabilirliğin doruklarına ulaştıran yapay zekâ teknolojisi, belki henüz insanı birebir kopyalamıyor. Ama yapay zekâ artık insan yüzünü 'inanılmaz yüksek bir inandırıcılıkta' dijital olarak kopyalayıp, canlandırabiliyor. DeepFake, yapay zekânın 'derin öğrenme' ve 'gerçek dışı gerçeklik üretebilme' yeteneğinin bir ürünü. Bilinenin aksine, DeepFake videolarda kullanılan teknoloji GAN adı verilen bir algoritma değil, temelinde bir veri sıkıştırma algoritması olan 'autoencoder' adı verilen yapay sinir ağlarıdır. Her ne kadar bir-iki günde amatör DeepFake üretilebilse de insan gözünün ayıramayacağı kalitede bir DeepFake yapmak haftalar sürebiliyor. 'Bu sahte videonun yapılabilmesi için sosyal medyadan elde edilen birkaç fotoğraf karesi yeterli mi? Herkesin DeepFake videosu yapılabilir mi?' gibi sorular gündemi oldukça meşgul ediyor. Basit bir yolla anlatacak olursak, DeepFake video oluşturmak isteyen bir kişi, yüzünü başka bir hedef videoya yapıştırmak istediği kişiye ait birden fazla görüntüye sahip olması gerekiyor. Kaynak görüntüdeki yüz, derin öğrenme teknolojisiyle eğitilerek hedef videodaki kişinin yüzüne yapıştırılıyor. Bu sayede, hedef videoda konuşan kişinin söylediği şeyleri, kaynak videodaki kişi söylüyormuş algısı oluşturuluyor. Bu nedenle ne kadar çok kaynak görüntü varsa o kadar iyi sonuç alınıyor. İlk DeepFake videolarında Hollywood yıldızlarının yüzlerinin kullanılması da internette bu ünlülerin pek çok fotoğraf ve videolarına kolayca ulaşabiliyor olmasından kaynaklanıyor. Her gün paylaştığımız fotoğraflarımız, bizi de gelecekte DeepFake kurbanı olmaya bir adım daha yaklaştırıyor. Konuyla ilgili merak edilen sorulara Atmaca ve ekibi şu ifadelere yerdi: Ya sesin eklenmesi. Bu en zoru mu? En uğraştırıcı bölümü ses mi yoksa? 'Görsel Deepfake'lere göre ses çok daha yıkıcı bir tehlike olmasına rağmen şu an için ses klonlamak teknik olarak çok daha zor ancak yakın gelecekte bunu kolaylaştıracak teknolojilerin geliştirilebileceğini öngörüyoruz.' Yapay zekâ ile manipüle edilen bu sahte görüntüleri herkes yapabilir mi? 'Henüz insan gözünün ayıramayacağı kalitede bir DeepFake'i herkes yapamıyor ancak teknoloji her geçen gün ilerliyor ve 1-2 sene içinde herkesin kullanabileceği basitlikte uygulamaların çıkacağını tahmin ediyoruz.' DeepFake ile birey olmadığı bir yerde var gibi gösterilebilir mi? Ayrıca kişileri kandırmak maksadıyla üretilen videolar nerelerde kullanılabilir? 'Bir haber düşünün. Göz önünde olan bir politikacı, bir suça bulaşmış görünüyor. Ama siz, haber görüntüsünün gerçek mi sahte mi olduğu konusunda emin olamıyorsunuz. Korkunç, öyle değil mi? Peki kendi yüzünüzü uygunsuz bir filimde görseniz tepkiniz ne olurdu? Bu tarz içerikler pek çok kez üretildi ve üretilmeye devam ediliyor. DeepFake videolar henüz yeni olsa da her geçen gün daha da gerçekçi bir hale gelmeye devam ediyor. Daha korkutucu olan tarafı ise çok yakında bu tarz videoların herkes tarafından kolayca üretilebilecek olması. Durum böyle olunca Instagram hesabında kendi halinde fotoğraflarını paylaşan sıradan bir vatandaştan, ülkeyi yöneten bir politikacıya kadar herkes tehdit altında.' Hazırlanmış videolar dışında internetten görüntülü görüşme esnasında ya da telefonda canlı canlı da yüz ve ses değişebiliyor mu? Bunun sakıncaları neler? 'Görüntülü görüşme esnasında da yüz değişebiliyor ve bu tehlikeden en çok etkilenmesini beklediğimiz sektör finans sektörü çünkü finans sektörünün beklediği müşteri ediniminde yüz yüze olma şartını ortadan kaldıran digital onboarding yani uzaktan müşteri edinimi imkânını sağlayan düzenleme 1 Mayıs 2021'de devreye alındı. Canlı ses değiştirmek çok zor bir konu ancak saldırganların ses değiştirmesine gerek yok çünkü kimlik kartlarımızdaki çiplerde, biyometrik fotoğrafımız olduğu gibi biyometrik sesimiz yok. Bu yüzden bankaların, arayan kişinin sesini karşılaştırma imkânı zaten bulunmuyor.' DeepFake'i nasıl bir tehlike olarak tanımlarsınız ve hangi yeni tehlikeleri içeriyor? Bu en güçlü siber tehdit mi? 'Her gördüğünüze ve duyduğunuza inanmayın.' çaresizliğini, kısa sürede zihnimize kazımaya başlayan DeepFake teknolojisinin, dünyayı kaosa sürükleyebilecek ayak sesleri, hayli güçlü biçimde duyulmaya başladı. Gerçeğinden ayırt edilemez videolar, herkes tarafından kolayca üretilebildiği noktaya geldiğinde tüm iletişim ve haber kaynaklarımızın, küçük bir kıvılcımla küle dönüşecek bir samanlıktan farkı kalmayacak.' Teknolojiden az anlayan bireyler DeepFake teknolojisiyle üretilen sahte videolarla karşılaştığında sahte kişi ile gerçek kişiyi nasıl ayırt edebilir? 'Amatör DeepFake'lerde garibimize gidecek çokça anormallik olduğundan sahte olduğunu kolayca anlayabiliriz ancak kaliteli yapılmış DeepFake'leri gözle anlamamız maalesef mümkün değil.' DeepFake suçları çoğalacak mı? 'Gerçekçi DeepFake üretmek hâlihazırda zor bir konu olduğundan dolayı siber güvenlikteki diğer klasik tehditlere oranla şu ana kadar çok az bir zarar verdi ancak gerçekçi DeepFake üretmek kolaylaştığında, siber güvenlik tarihinin hiç görmediği boyutlarda zararlar vereceğini bekliyoruz çünkü insanoğlu gördüğüne ve duyduğuna tam doğruluk payıyla inanıyor.' Peki DeepFake sahtekârlığından nasıl korunabiliriz? Nelere dikkat edilmesi gerekiyor? Bireylerin yapabileceği çok şey yok maalesef, bu tür içeriklere karşı telefon operatörlerinin, finans kuruluşlarının ve sosyal medya platformlarının önlem almaları gerekiyor. Bizlerin, sadece, Post Truth (Gerçeklik Ötesi) denilen bu çağın artık geldiğinin bilinci ile hareket etmemiz gerekiyor ve bunun için de siz medya kuruluşlarının toplumu daha erken aşamada iken bolca bilgilendirmeniz gerekiyor. Örneğin geçtiğimiz günlerde FBI, DeepFake teknolojisi kullanarak iş başvurusu yapan kişilerin şirketlerdeki kritik pozisyonlara yerleşen siber saldırganlar olduğunu açıkladı. Bu kişiler uzaktan çalışıyormuş... Neler dersiniz? 'FBI bu yönde saldırıların arttığını rapor etti ve büyük şirketlerin insan kaynakları departmanları bu konuda çok dikkatli olmazlarsa ilerleyen günlerde ciddi sızıntılar çıkabilir. Zemana'da son 3 yıldan beri DeepFake'lerin tespiti üzerine çalışıyoruz ve ciddi yol kat ettik, herkesin ücretsiz kullanabileceği online platformumuz deepware.ai üzerinde şüphelendikleri videoları taratıp, sahte olup olmadığını öğrenebilirler. Online platformumuz tamamen otomatik ve yüzde 70 doğruluk payı ile çalışıyor ancak uzmanlarımızın mercek altına alıp derinlemesine incelediği videolarda yüzde 99 doğruluk payı ile sonuç verebiliyoruz.' DeepFake teknolojisi daha da değişecek mi, gelecekte bu teknoloji kullanılarak yapılan sahte videoları ayırt etmek daha da mı zorlaşacak? 'Film sektörüne yönelik kurduğumuz pagi.ai şirketimizde yüksek çözünürlükte DeepFake videolar üretiyoruz ve ürettiğimiz DeepFake'ler an itibariyle kalite açısından dünyadaki en yüksek kaliteli DeepFake videolar. Eğer DeepFake üretme yarışını bu şekilde önde sürdürebilirsek, siber güvenlikte alışık olduğumuz kedi fare oyununu bir adım önde götürebileceğiz.' Dünya bu yeni teknolojiye ne kadar hazır? Hazır değilse neden ve bu teknoloji dünyaya neler yapabilir? 'Buna hazır değiliz çünkü insanoğlunun daha öncelerden alışmış olduğu; gördüğüne ve duyduğuna yüzde yüz inanmaması gereken, Post Truth (Gerçeklik Ötesi) denilen bir çağa giriyoruz. 30 yıl önce Photoshop ilk çıktığında, insanların, montajlanmış sahte resimlere alışması 5 yıl sürmüş olduğu düşünüldüğünde, ses ile birlikte bunun çok ötesinde bir konuya alışmamız çok daha uzun sürecektir ve tespit yöntemleri yerini daha güvenilir olan 'authentication' dediğimiz dijital doğrulama sistemlerine bırakacaktır.' DeepFake'ler, aynı zamanda gerçek video veya seslerin sahte olduğunu iddia etmeyi kolaylaştırmayacak mı? 'Evet, Witness gibi insan hakları kuruluşları bu konuda çok kaygılılar ancak Zemana gibi bu konuda uzmanlaşmış şirketler, en azından topluma mal olabilecek önemli videolar üzerinde derin inceleme yaparak bu içeriklerin sahte olup olmadığını çok yüksek bir doğruluk payı ile tespit edebilirler.' İleride DeepFake tabanlı göreceğimiz başlıca tehlikelerin bunlar olacağı düşünülüyor: Seçim Manipülasyonu DeepFake videolar politikacıların söylemediği şeyleri söylemiş gibi gösterebildiği için seçimlerde kitleleri manipüle etmeye çok müsait siyasi bir saldırı aracıdır. Amerika Birleşik Devletleri'nde pek çok eyalet bu tarz içerikleri paylaşıp yayanları sorumlu tutabilecek yasaları aktif hale getirmeye başladı. Eğer gerekli önlemler alınmaz ise bir sonraki Türkiye genel seçimlerinde DeepFake tehlikesinin etkisine birebir şahit olacağız. Adalet Sistemi Herkesin ihtiyaç duyduğu adalet sistemi de DeepFake tehdidi altında büyük zararlar görebilir. Sahte kanıtlar mahkemelerde kullanılarak, dava süreçleri manipüle edilebilir ve bu şekilde insanlar, işlemedikleri suçlarla suçlanabilir. Bu nedenle masum insanlar, haksız biçimde hapse girebilir. Öte yandan, benzer şekilde, gerçek suçlular da sahte kanıtlara dayanarak serbest bırakılabilirler ve cezadan kurtulabilirler. DeepFake'in yarattığı bu ürkütücü olasılıklar adalete duyulan güvene karşı da büyük bir tehdit oluşturuyor diyebiliriz.DeepFake, serbest piyasanın manipüle edilmesine yönelik saldırıların artmasında da önemli bir potansiyele sahip. Hileli Rekabet Bir firma, diğer bir firmayı itibarsızlaştırmak veya istikrarını bozmak için onun hakkında yanlış bir algı yayıyor olabilir. Kötü niyetli aktörler, şirketinizin tüketici sahtekârlığı, rüşvet, cinsel taciz veya aklınıza gelebilecek herhangi bir suça karıştığı hakkında sahte haberler üretip yayabilirler. Herkesin ihtiyaç duyduğu adalet sistemi de DeepFake tehdidi altında büyük zararlar görebilir. Sahte kanıtlar mahkemelerde kullanılarak, dava süreçleri manipüle edilebilir ve kişiler bu şekilde işlemedikleri suçlarla suçlanabilir. Bu nedenle masum insanlar, haksız biçimde hapse girebilir. Siber Zorbalık DeepFake; siber zorbalık, hakaret ve şantaj için kullanılabilir. 2017 yılında, aktrislerin ve ünlülerin yüzleriyle DeepFake 'ünlü pornografisi' büyük bir trend haline geldi. Bu videolar, Reddit ve çeşitli pornografi sitelerinde paylaşıldı. Ancak bu, ünlülerle sınırlı kalmak zorunda değil; herhangi bir insan için de yapılabilir. Bir kişi, sizin pornografik bir görüntünüzü veya videonuzu, arkadaşlarınızla ve ailenizle paylaştıysa, bundan sonra sahte olup olmadığının bir önemi kalır mı? Kimliğinize çoktan büyük bir hasar verilmiştir. Öte yandan, benzer şekilde, gerçek suçlular da sahte kanıtlara dayanarak serbest bırakılabilirler ve cezadan kurtulabilirler. DeepFake'in yarattığı bu ürkütücü olasılıklar adalete duyulan güvene karşı da büyük bir tehdit oluşturuyor diyebiliriz.