Endişe verici araştırma: Deepfake konuşmaların çoğu tespit edilemedi

0

BEĞENDİM

ABONE OL

News

0

İngiltere’deki University College London’dan araştırmacılar, her dilde 50 sahte konuşma örneği oluşturmak için biri İngilizce ve diğeri Mandarin dilinde olmak üzere halka açık iki veri kümesi üzerinde eğitilmiş algoritma kullandılar.

Yapay zekanın bir türü olan Deepfake, gerçek bir kişinin sesine veya görünüşünün benzerliğine erişmek için oluşturulan sentetik bir medyadır.

Gerçek örneği sahte konuşmadan tespit edip edemediklerini görmek için 529 katılımcıya ses örnekleri dinletildi. Katılımcılar, sahte konuşmayı örneklerin yalnızca %73’ünde tespit edebildiler. Bu sayı, katılımcılar sahte konuşmanın özelliklerini tanımak için eğitim aldıktan sonra biraz arttı.

Çalışma, insanın İngilizce dışındaki bir dilde yapay olarak oluşturulmuş konuşmayı algılama yeteneğini değerlendiren ilk çalışma olarak nitelendiriliyor. Uzmanlar, insanların, eğitilmelerine rağmen bir sesin, sahte olduğunu tutarlı bir şekilde tespit edemediği konusundaki endişelerini dile getirdi.

UYGULAMALAR DA ANLAYAMIYOR

Çalışmanın ilk yazarı Kimberly Mai, “Çalışmamızda, insanları yapay zekayla sahtekarlıkları tespit etmeleri için eğitmenin, bu konuda daha iyi olmalarına yardımcı olmak için mutlaka güvenilir bir yol olmadığını gösterdik. Ne yazık ki, deneylerimiz şu anda otomatik dedektörlerin de güvenilir olmadığını gösteriyor.”

“Eğitim aşamasında benzer örnekler görmüşlerse, örneğin konuşmacı aynıysa veya klipler benzer bir ses ortamında kaydedilmişse, deepfake’leri tespit etmede gerçekten çok iyiler. Ancak farklı bir konuşmacı olması gibi ses koşullarında değişiklikler olduğunda güvenilir değiller.” dedi.

Deepfake ile oluşturulmuş videoda, sentetik olarak oluşturulup oluşturulmadığını belirlemek için sesten daha fazla ipucuna bakılıyor.

Bu yıl Microsoft’un başkanı Brad Smith, yapay zeka konusundaki en büyük endişesinin deepfake olduğunu söyledi.

Yapay zekayla yapılan sahtekarlıkların gelişimi devam ederken bilinen yaygın tespit sistemleri ise geride kalıyor.