Deepfake napadi postaju sve sofisticiraniji, ali i učestaliji te nanose veliku štetu kako privatnim korisnicima, tako i cijelim industrijama. U 2024. godini deepfake napadi događali su se svakih pet minuta, a kako prenosi Entrust Cybersecurity Institut u svom Izvješću o prijevarama s identitetima za 2025. krivotvorenje digitalnih dokumenata poraslo je za čak 244 % godišnje. Do prije četiri godine fizičko krivotvorenje dokumenata bilo je još uvijek najčešća metoda prevaranata.

Manipulirane slike, video i audio zapisi postaju sve uvjerljiviji i teži za otkrivanje, stoga su nužne protumjere za obranu. Kao predvodnik inovacija usmjerenih na korisnika, globalni tehnološki brend HONOR poduzeo je proaktivne korake za zaštitu korisnika od sve češćih prijetnji deepfake tehnologije. Predstavljena na IFA-i 2024., HONOR AI Deepfake Detection prva je tehnologija na tržištu koja analizira suptilne nekonzistentnosti koje su često nevidljive ljudskom oku, uključujući sintetičke nesavršenosti na razini piksela, umjetno spajanje rubova, nedosljednosti između kadrova te nesimetričnost frizure i crta lica u odnosu na uši. Ako se detektira manipulirani sadržaj, korisnik će odmah primiti upozorenje kako bi bio zaštićen od potencijalnih rizika povezanih s deepfake sadržajem. Prva AI funkcija za otkrivanje deepfake sadržaja koju je razvio HONOR, bit će dostupna globalno od travnja ove godine.

„Primjena AI detekcije deepfake sadržaja na mobilnim uređajima moćno je oružje u borbi protiv deepfake tehnologije. Ova funkcija može prepoznati nepravilnosti u deepfake sadržaju koje ljudsko oko možda ne bi primijetilo, poput kontakta očima, osvjetljenja, jasnoće slike i reprodukcije videa. Time se korisnici odvraćaju od nastavka interakcije s potencijalno opasnim sadržajem koji bi mogao ugroziti njihovu sigurnost. To omogućuje ljudima, malim i srednjim poduzećima (SME-ovima) i industrijama da uživaju u pogodnostima digitalne komunikacije bez brige o curenju privatnih podataka i rizicima prijevara", komentirao je Marco Kamiya, predstavnik organizacije UN-a za industrijski razvoj. 

Nužnost takvih inovativnih tehnologija pokazuje i Deloitte izvješće za 2024. o povezanosti potrošača u kojem je 59 % ispitanika reklo da ima teškoće u razlikovanju sadržaja koji su generirali ljudi od onog generiranog umjetnom inteligencijom, dok se 84 % ispitanika upoznatih s generativnom umjetnom inteligencijom složilo da sadržaj razvijen uz pomoć generativne AI uvijek treba biti jasno označen.

Lideri u industriji dijele ovo mišljenje, a organizacije poput Content Provenance and Authenticity (C2PA) rade na razvoju tehničkih standarda za certificiranje izvora i povijesti digitalnog sadržaja, uključujući materijale stvorene umjetnom inteligencijom.

Brojke pokazuju da će globalno tržište za otkrivanje deepfake sadržaja rasti za 42 % godišnje, povećavajući se s 5,5 milijardi USD u 2023. na 15,7 milijardi USD u 2026.