"Gerçeklerin Yansıdığı Haberlerin Adresi: Gazetehaberi.net"

GAZETEHABERİ.NET

  1. Anasayfa
  2. »
  3. TEKNOLOJİ
  4. »
  5. Intel ile DeepFake Tespit Teknolojisi FakeCatcher Üzerine Konuştuk

Intel ile DeepFake Tespit Teknolojisi FakeCatcher Üzerine Konuştuk

gazetehaberi gazetehaberi -
9 0

DeepFake, yapay zeka ve makine tahsili teknolojilerinin gelişmesiyle neredeyse tespit edilemez noktaya geldi. Bu sebeple şirketler de bu görüntü ve görsellerin uydurma olup olmadığını anlamak için kimi tahliller geliştirmeye çalışıyor.

Bu tahlillerden biri de Intel Labs’de Kıdemli İşçi Araştırma Bilimcisi Unsur Demir’in geliştirdiği FakeCatcher. Yeni DeepFake tespit aracıyla ilgili merak edilenleri, geliştiricisi Prensip Demir’e sorduk.


Intel Labs Kıdemli İşçi Araştırma Bilimcisi Unsur Demir

Soru: Sizce DeepFake görüntüler toplum için bir tehdit teşkil ediyor mu?

Son birkaç yıldır internette çoğalan DeepFake görüntüler, yanlış bilgi ve baş karışıklığı tohumları ekiyor. DeepFake teknolojisi, gerçekmiş üzere görünen, ağır manipülasyona uğramış görüntüler yaratmak için berbat bir biçimde kullanılabiliyor.

Bu görüntüler gerçek insanların yüz ve ses özelliklerini taklit ederek izleyicileri yanlış bilgilendiriyor ve kandırıyor. DeepFake görüntülerin ziyan verici olduğu çeşitli durumlar var. Yasadışı faaliyetler, kimlik hırsızlığı, sahtecilik ve propaganda bunlardan kimileri.

Soru: FakeCatcher hakkında bilgi verebilir misiniz?

FakeCatcher, gerçek görüntülerdeki özgünlük ipuçları olarak kalp atışlarını kullanan bir DeepFake tespit algoritmasıdır.

Dünyanın birinci gerçek vakitli DeepFake detektörü olan Intel’in DeepFake tespit platformu, sonuçları birkaç saat ya da dakika içinde değil, milisaniyeler içinde getirmek için Intel donanım ve yazılımlarından yararlanıyor.

Soru: FakeCatcher’ı öteki tespit algoritmalarından farklı kılan nedir? FakeCatcher nasıl çalışıyor? 

Diğer derin öğrenme tabanlı dedektörler, ham bilgilere bakarak görüntünün özgün olmadığına ait işaretleri bulmaya ve görüntünün sıkıntılı yanlarını belirlemeye çalışıyor. FakeCatcher ise gerçek görüntülerde, muhakkak bilinmeyen kan akışı üzere bizi insan yapan şeyleri kıymetlendirerek gerçek ipuçları arıyor.

Kalbimiz kan pompaladığında, damarlarımızın rengi değişir. Bu kan akışı sinyalleri yüzün her yerinden toplanıyor ve algoritmalar, bu sinyalleri uzamsal-zamansal haritalara dönüştürüyor. Bu halde, derin öğrenmeyi kullanarak bir görüntünün gerçek mi yoksa düzmece mi olduğunu anında tespit edebiliyoruz.

Soru: Intel’in FakeCatcher teknolojisi piyasaya sürüldüğünden bu yana sıkça kullanıldı mı?

Ne vakit yanlış bilgi yayan yeni bir viral görüntü ortaya çıksa, FakeCatcher’ın bu görüntü üzerindeki performansını değerlendirmeye çalışıyoruz. Görüntülerin ya da sorguların tam sayısını saklamıyoruz ama piyasaya sürüldüğünden bu yana 20’den fazla etkileşimde herkese açık ve özel olarak gösterildi.

Soru: Intel’in FakeCatcher teknolojisini eşsiz kılan nedir?

Intel’in gerçek vakitli platformu, sonuçları birkaç saat ya da dakika yerine milisaniyeler içinde (64 karelik birinci segmentten sonra saniyede 30 kare) getiriyor. Böylelikle büyük görüntü evraklarını bir DeepFake tespit sitesine yükleme ve sonuçları bekleme muhtaçlığını ortadan kalkmış oluyor.

Bu yazılım, bir görüntünün piksellerindeki aşikâr bilinmeyen “kan akışı” üzere insan gözünün göremediği şeyleri tahlil ederek, geçersiz görüntüleri %96 üzere çarpıcı bir doğruluk oranıyla tespit edebiliyor. Karmaşık sinirsel mimarilere sahip dünyanın önde gelen yedi DeepFake detektörüyle karşılaştırıldığında, FakeCatcher en uygun performansa sahip bir sonraki uygulama algoritmasına kıyasla %8’den daha uygun bir performans gösteriyor.

Soru: Intel’in FakeCatcher teknolojisini kullanmak rastgele bir potansiyel riski teşkil ediyor mu?

Her teknolojide olduğu üzere, her vakit bir nebze potansiyel risk var. PPG sinyallerinin değerli ölçüde bozulduğu çok düşük çözünürlüklü gerçek görüntüler kelam konusu olduğunda, FakeCatcher bunların geçersiz olduğunu belirleme yanılgısına düşebilir. Ağır halde sıkıştırılmış ya da düşük çözünürlüklü görüntüler da içeriği bozar ve hem insanların hem de deepfake tespit algoritmalarının, görüntünün geçersiz olduğunu ilan edebilmesi için gerekli bilgileri elde etmeyi zorlaştırır. Ancak bu üzere görüntüler için ulaşılan yanlış tespitler, gerçekten geçersiz bir görüntünün gerçek olduğunun ilan edilmesi kadar ziyanlı değildir.

Soru: FakeCatcher ırk, cinsiyet ve diğer ögelere dayalı yanlılığı azaltabilir mi?

Fotopletismografi sinyalleri, uzun müddettir tıp alanında uzaktan hasta izleme için kullanılıyor. PPG’nin farklı varyasyonları vardır. Örneğin GPPG sinyalleri aydınlatma ve hareket değişikliklerine karşı daha âlâ sonuçlar verirken, chromPPG sinyallerinin cilt rengi değişikliklerine karşı daha yeterli performans gösterdiğini görüyoruz. Bu nedenle, biz daha hakikat sonuçlara ulaşmak ve ırk üzere cilt rengi farklılıklarının tesirini başarılı bir biçimde hafifletmek için bu farklı PPG sinyallerini birleştiriyoruz.

Ayrıca teknolojimizin farklı cinsiyetler ve ırklar ortasındaki PPG sinyallerinin gücünü değerlendirdiği FakeCelebAV isimli istikrarlı etiketli bir data setimiz de var. Bu data setiyle deepfake kaynak tespit sorununun üstesinden gelmeyi amaçlıyoruz. Cinsiyetler ya da deri renkleri ortasındaki tespit doğrulukları ortasındaki farkın değerli olmadığını tespit ettik. Asyalı yüzlerdeki tespitlerin Kafkasyalı yüzlerdekinden daha yüksek doğruluğa sahip olduğunu görmek olağandışı değil ve bunun karşıtı de geçerli.

Sahtelik tespitinin bir adım ötesi olduğunu söyleyebileceğimiz daha sıkıntı bir sorun olan kaynak tespitiyle ilgili deneylerimizi FakeAVCeleb bilgi seti üzerinde gerçekleştirdik. Bu data setinin dörtte biri kapsam dışı deepfake’leri içeriyor, bu nedenle doğruluklar sadece kategoriler ortasında karşılaştırma yapmak için belgelendi. Deneylerimiz sonucunda, farklı cinsiyetler ve ırklar ortasında aşağıdaki özgünlük tespiti doğrulukları belirlendi:

  • %82,64 – Genel
  • %89,47 – Afrikalı Amerikan
  • %85 – Kafkasyalı
  • %77,11 – Asyalı
  • %81,63 – Erkek
  • %83,67 – Kadın

İlgili Yazılar

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir