Son yıllarda hızla gelişen yapay zeka teknolojisi, hayatımızın birçok alanında etkili olmaya başlamıştır. Ancak bu gelişmeler beraberinde endişeleri de getirmektedir. Bu endişelerden biri de deepfake olarak adlandırılan yapay zeka ile manipüle edilen sahte ses ve görüntülerin kullanımıyla ortaya çıkan dezenformasyon riskidir.
Deepfake, derin öğrenme algoritmaları kullanılarak oluşturulan gerçeğe oldukça yakın sahte içeriklerdir. Bu içerikler, sosyal medya platformlarında insanları manipüle etmek için yoğun bir şekilde kullanılmaktadır. Siyasetçilerden bilim insanlarına kadar birçok ünlü ismin deepfake videoları, sosyal medyada paylaşılarak dezenformasyonun artmasına sebep olmaktadır. Bu videoların paylaşılmasının amacı, etkileşim almak veya siyasi bir manipülasyon yapmaktır.
Son dönemde deepfake videoların sıkça dolandırıcılık faaliyetlerinde kullanıldığı da görülmektedir. Kanada’daki Waterloo Üniversitesi’nin araştırmasına göre, kullanıcıların yüzde 61’i yapay zeka tarafından oluşturulan görsellerin gerçek olup olmadığını ayırt edebilmektedir. Ancak bu oran, beklenenden daha düşük bir seviyededir. Araştırmaya göre, kullanıcıların yaklaşık yüzde 39’u yapay zekayla oluşturulan içerikleri gerçek sanabilmektedir.
Uzmanlar, sahte videoları ayırt etme konusunda genel olarak beklentinin altında bir performans sergilendiğine dikkat çekmektedir. Bu durum, deepfake teknolojisinin insanların gerçeklik algısını etkileyebileceği ve dezenformasyon riskini artırabileceği endişelerine yol açmaktadır. Özellikle sosyal medya platformlarında yayılan sahte bilgilerin ve manipülatif içeriklerin, toplumların karar verme süreçlerini etkileyebileceği önemli bir sorundur.
Bu nedenle, deepfake teknolojisinin kontrollü bir şekilde kullanılması ve yayılmasının engellenmesi gerekmektedir. Bilgi ve iletişim teknolojilerindeki gelişmelerle birlikte, sahte haberlerin ve manipülatif içeriklerin tespit edilmesi ve önlenmesi için yeni yöntemler geliştirilmelidir. Ayrıca, yapay zeka teknolojisinin etik kullanımı konusunda toplumun bilinçlendirilmesi ve eğitilmesi de büyük önem taşımaktadır. Bu sayede, yapay zeka ile oluşturulan sahte içeriklerin gerçeklik algısını bozma potansiyeli en aza indirgenerek, toplumların bilgiye daha güvenilir bir şekilde erişebilmesi sağlanabilir.
