„Deepfake predstavlja ekstremnu ugrozu demokratskog društva",  kaže Franziska Benning iz berlinske humanitarne organizacije HateAid.

Širom svijeta se raspravlja o novim zakonima koji bi parirali zloćudnim pojavama koje nastaju na osnovu tehnologije kao što je Deepfake. U Njemačkoj je u lipnju objavljen nacrt takvog zakona koji je razradio dom njemačkih saveznih pokrajina Bundesrat. Nacrt predviđa oštrije kazne kao i uvođenje novog krivičnog djela , „povrede osobnog prava digitalnom imitacijom".

Do sada je zloupotreba tehnologije Deepfake u Njemačkoj bila obuhvaćena zakonima koji su pisani prije nastanka te tehnologije. Oni se odnose na povredu osobnih ili autorskih prava. Georg Eisenreich, ministar unutarnjih poslova Bavarske iz redova Kršćansko-socijalne unije (CSU) kaže da bi unošenje novog kaznenog djela u kazneni zakonik donijelo više jasnoće.

Nova zakonska regulativa i umjetna inteligencija

Aktivisti koji se bore za zaštitu ljudskih prava kažu da bi većina prekršaja koji se odnose na Deepfake mogla biti sankcionirana na temelju postojećih zakona. Upozoravaju na to da bi poseban zakon mogao kriminalizirati i legitimne upotrebe tehnologije.

„Deepfake nam stvarno predstavlja problem. Ali iz toga se ne smije zaključivati da se kazne do te mjere pooštre, da pod njih potpadne i ponašanje koje nije za kaznu", kaže advokat Benjamin Lück, koji radi za berlinsko Društvo za slobodarska prava. "Inače postoji opasnost da društveno prihvatljivo ponašanje ili upotreba sa satiričnom ili umjetničkom svrhom postanu ilegalni".

Ovo pokazuje da je tehnologija, koja briše razliku između stvarnosti i fikcije veliki izazov. Politika mora zaštiti građane od zloupotrebe, a da pri tome ne ograniči prava i slobode ili slobodno izražavanje mišljenja.

 Različite forme zloupotrebe

Sredinom prošlog desetljeća znanstvenici su uz pomoć umjetne inteligencije „Deep Learning" počeli proizvoditi lažne sadržaje realističnog izgleda. Odmah potom na Internetu su se pojavili pornografski sadržaji u kojima su lica poznatih „nalijepljena" na gola tijela. Od tada je tehnologija brzo napredovala. Danas svako može uz pomoć generativnih programa umjetne inteligencije da bez posebnih tehničkih vještina proizvodi uvjerljive falsifikate. To je dovelo do raznih oblika zloupotrebe. Deepfake pomaže kriminalcima da se, recimo, predstave kao šefovi u poduzećima i onda od suradnika zatraže da prebace novac na određeni račun ili odaju povjerljive informacije. U Internetu se Deepfake koristi i za širenje dezinformacija ili za utjecaj na javno mnijenje.

Zaštita od seksualnog nasilja zasnovanog na slikama

Najčešća zloupotreba se odnosi na pornografske slike koje lažno prikazuju ljude koji su navodno goli ili u seksualnom odnosu. Benning kaže da su u većini slučajeva žrtve žene. Ona kaže da su ranije žrtve bile uglavnom poznate, a sada je među njima sve više običnih ljudi. I po današnjim zakonima je tako nešto kažnjivo, ali Benning kaže da kažnjivost ovisi od pojedinačnog slučaja i procjene suca.

Novi nacrt zakona želi ukinuti tu sivu zonu. U procesu usvajanja zakona svakako će doći do promjena, ali ovaj nacrt će imati utjecaj i na još jedan zakon na kojem radi Ministarstvo pravde. Riječ je o zakonu za suzbijanje digitalnog nasilja. On će prema smjernicama Europske unije morati stupiti na snagu do ljeta 2027.

HateAid pozdravlja definiranje novog kaznenog djela koje se vrši uz pomoć Deepfake-tehnologije. Benning međutim kaže da je potrebno otići i korak dalje, te učiniti kažnjivom proizvođenje pornografskih slika na temelju ove tehnologije, čak i kada se one ne podijele s drugima. „To bi za mnoge bio korak naprijed", rekla je ona.

Opasnost pretjeranog kriminaliziranja

Borci za ljudska prava se pribojavaju, da opravdano suzbijanje zloupotrebe može dovesti do pretjeranog kriminaliziranja Deepfake-tehnologije. Advokat Lück kaže: „Ne bi trebalo svaki Deepfake učiniti kažnjivim. Ako političarima stavite u usta bezazlene riječi, potpuno je jasno da se radi o šali, problematično je da se tu vitla teškim mačem i da se kaže da je to kazneno relevantno".

Ali ovim zakonskim promjenama neće biti obuhvaćena još jedna velika opasnost u čijoj osnovi je Deepfake. Na osnovu te tehnologije mogu se širiti neistine o političarima i događajima. Da se stvara nemir i unosi razdor u društvo. „Nikakva zabrana neće spriječiti državno orkestrirane dezinformacijske kampanje", kaže Lück. On dodaje da je mnogo važnije da se u svim oblastima društva podigne svijest o tome da ono što se vidi i čuje online ne mora pod svaku cijenu biti istinito. U takvom medijskom obrazovanju bi prema njemu Deepfake u satiri i umjetnosti igrao veliku ulogu. Kriminalizacija cjelokupne tehnologije, mogla bi, kaže on, biti kontraproduktivna i spriječiti senzibilizaciju za rizike. "U paušalnoj zabrani se krije opasnost da na kraju budemo gluplji od ostatka društva".