Deepfake (saxta foto, video və audio məlumatlar) nədir?

Deepfake – neyron şəbəkələrindən istifadə edərək yaradılan foto, audio və video materialların saxtalaşdırılmış versiyalarla dəyişdirilməsidir.

“Dior” modelinin cənab Binin simasına sahib olduğunu görəndə və ya Arnold Şvartsneggerin “Üzüklərin hökmdarı” filmindəki bütün rolları oynadığını izləyəndə bunun “deepfake” olduğunu bilin. “Deepfake” sözü özündə “maşın öyrənilməsi” (machine learning) və “replika” (fake) anlayışlarını birləşdirir. Kompüter alqoritmləri fotoşəkilləri “canlandırmağı”, insan səsini sintez etməyi və videoda üzləri əvəz etməyi öyrənib.

Məsələn, 2021-ci ilin fevral ayında “TikTok”da Tom Kruzun “deepfake”ini yayımlayan “deeptomcruise” hesabı görünüb. Video-roliklərin təqlidçisi Mayls Fişer olub.

Nüanslar

“Deepfake” yaratmaq üçün generativ neyroşəbəkələrdən (GAN) istifadə olunur. Bu aloqritmlər maşın öyrənilməsinə əsaslanır və əldə olan məlumatlardan yeni kontent yaradır. Məsələn, şəbəkələr Ancelina Colinin min dənə şəklini təhlil edir və ona məxsus mimikalı “deepfake” yaradır.

Bu halda bir alqoritm video yaradır, digəri isə onun saxta olub-olmadığını müəyyənləşdirir. Əgər ikinci alqoritm materialın saxta olduğunu müəyyən etdisə, birinci alqoritm işinə yenidən başlayır. Bu proses orijinalla heç bir fərqi olmayan versiya yaradılana kimi təkrar-təkrar davam edir.

Tarix

“Deepfake” texnologiyası manipulyasiya məqsədilə istifadə edildiyinə görə tez-tez tənqid edilir. Məsələn, 2019-cu ildə ABŞ-da Nensi Pelosinin (Nümayəndələr Palatasının spikeri) sərxoş halda olduğu videosu yayılıb. Bunun üçün siyasətçinin çıxış etdiyi videonun sürəti azaldılıb, sonra isə səsi daha təbii etmək üçün neyroşəbəkələrdən istifadə olunub.

2020-ci ilin əvvəlində “Facebook” istifadəçiləri aldatmaq üçün hazırlanmış “deepfake”lərə qarşı mübarizəyə başladığını açıqlayıb.