Yapay zekanın kurgu videolarında manipülasyon tehlikesi! "Ayırt etmesi zor bir teknoloji var" | Video

17.02.2024 | 12:31

Bir süredir hayatımızda olan yapay zeka teknolojisi ile üretilmiş görseller yerini kurgu videolara bırakıyor. Metni videoya dönüştüren yapay zeka teknolojisi ile ilgili uzmanlar dikkat çeken uyarılarda bulundu. Kurgu videolarla ilgili manipülasyon tehlikesine dikkat çeken Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı Prof. Dr. Ali Murat Kırık, "Artık karşımızda çok daha ayırt etmesi zor bir teknoloji var" dedi.

VİDEO DEVAM EDİYOR

Son yılların en çok ses getiren, Microsoft'un da yatırımcısı olduğu yapay zekâ şirketi Open AI, yazılı metni videoya dönüştüren teknolojisi Sora'yı tanıttı. Kullanıcıların istediği sahneyi yazıp yüksek kaliteli videolar üretebilmesine olanak sağlayan teknoloji tanıtılmasının hemen ardından sosyal medyada gündem olurken, kullanıcılar tarafından "Youtuber'ları işinden edecek" yorumları yapıldı. Şimdilik sadece 1 dakikaya kadar videolar üretebilen Sora tarafından kurgulanan içerikler o kadar gerçekçi ki, videonun yapay zekâ tarafından üretildiğinin anlaşılması oldukça zor.

ERİŞİM HENÜZ SINIRLI

Hürriyet'in haberine göre; Bu durum, özellikle yanıltıcı videolar üreterek kitleleri yönlendirmeye yol açabilmesi açısından endişe barındırıyor. Şu anda Sora'ya, doğuracağı riskler ve kritik alanları değerlendirmek amacıyla yalnızca OpenAI'ın 'red team' ekibi erişebiliyor. Şirket aynı zamanda bir dizi görsel sanatçıya, tasarımcıya ve film yapımcısına erişim izni verileceğini de belirtiyor. OpenAI, Sora'yı şirketin tüm ürünlerinde kullanılabilir hale getirmeden önce birkaç önemli güvenlik önlemi alacaklarını; yanlış bilgilendirme, nefret içerikleri ve önyargılara karşı Sora'yı eğiteceklerini söylüyor. Ayrıca, bir videonun Sora tarafından oluşturulduğunu söyleyebilen araçlar da geliştirilecek.

'MANİPÜLASYONA YOL AÇABİLİR'

Konuyla ilgili uyarılarda bulunan Marmara Üniversitesi İletişim Fakültesi Görsel İletişim Tasarımı Anabilim Dalı Başkanı Prof. Dr. Ali Murat Kırık "Şimdiye kadar sahte sesleri, görselleri veya videoları birkaç kaynaktan teyit ederek anlayabiliyorduk. Ancak artık karşımızda çok daha ayırt etmesi zor bir teknoloji var. Bu noktada sosyal medya şirketlerinin yapay zekâ şirketleri tarafından üretilen içerikleri mutlaka belirtmesi gerekiyor. Aksi halde seçimler, afetler veya toplumsal olaylarda ürkütücü manipülasyonlarla karşılaşabiliriz. Türkiye'nin de 7253 sayılı Sosyal Medya Düzenlemesi'nde yapay zekâ için çalışmalar yapması ya da bu alanda özel bir yasa hazırlaması lazım diye düşünüyorum" dedi.

TOKYO'DA KIRMIZI ELBİSELİ KADIN

Yapay zekâ Sora'nın "Tokyo'da neon ışıklı tabelaların olduğu bir caddede yürüyen deri ceketli, uzun kırmızı elbiseli, siyah botlu şık bir kadın" metni girildiğinde ürettiği videodan bir kare.