Prilikom surfanja i skrolanja korisnici u Europskoj uniji sada bi mogli češće nailaziti na UI-vodene žigove. Naime, za neke ponuđače umjetne inteligencije od danas (2. kolovoz) vrijede stroža pravila, primjerice u pogledu označavanja generiranih slika, videozapisa ili tekstova, kako proizlazi iz priopćenja Europske komisije. Osim toga, korisnici moraju biti obaviješteni da komuniciraju s umjetnom inteligencijom, odnosno primjerice da pišu s chatbotom, a ne s čovjekom.

Što točno vrijedi za ponuđače umjetne inteligencije i koje kazne prijete u slučaju kršenja? Najvažnija pitanja i odgovori:

Kako EU zamišlja vodene žigove kod deepfakeova?

Nadležna tijela u Bruxellesu objavila su prije nekoliko tjedana praktični vodič o tome kako bi oznake, ovisno o mediju, mogle izgledati u skladu s propisima. Ta se pravila posebno odnose na deepfakeove, odnosno sadržaje koji zavaravajuće djeluju stvarno, a dijelom se koriste u manipulativne svrhe. U deepfake videozapisima oznake bi se, prema tome, trebale pojaviti odmah na početku, ondje ostati ili se barem u redovitim razmacima ponovno prikazivati.

Preporučuju se i interaktivni elementi, primjerice kod manipuliranih slika. Ovdje bi se, uz trajnu oznaku, mogao pojaviti i upozoravajući natpis kada korisnik primjerice pređe mišem preko lica koje je izmijenila umjetna inteligencija.

Što vrijedi za podcastove i tekstove?

Kod audiodatoteka, primjerice UI-generiranih podcastova, na samom bi početku trebala biti izgovorena odgovarajuća napomena. Za tekstove prijedlozi predviđaju UI-oznake, primjerice iznad teksta ili blizu naslova. Načelno bi se prilikom izrade UI-sadržaja u datoteci trebali ostaviti i strojno čitljivi digitalni otisci, kako bi ih drugi sustavi mogli pouzdano prepoznati kao umjetno generirane.

Za koga vrijede strože obveze?

Nova pravila stupaju na snagu ove nedjelje za sve ponuđače umjetne inteligencije koji sada svoje modele tek stavljaju na tržište. Za ponuđače popularnih i već postojećih modela poput ChatGPT-a, Geminija ili Claudea pravila bi trebala vrijediti najkasnije od prosinca 2026. Obveze ne vrijede za privatne osobe, osim ako umjetnu inteligenciju koriste u poslovne svrhe.

Koja nova UI-pravila još postoje?

Osim toga, europski Ured za umjetnu inteligenciju u Bruxellesu sada provjerava jesu li veliki modeli dovoljno nadzirani i ne izvode li samostalno kibernetičke napade. Za to moraju poduzeti odgovarajuće sigurnosne mjere i eventualne incidente odmah prijaviti EU-u.

To nije teoretski scenarij, kako pokazuju dva istaknuta slučaja iz nedavne prošlosti: i razvijatelj ChatGPT-a OpenAI i razvijatelj Claudea Anthropic morali su priznati da je njihov softver u testnim pokretanjima neplanirano napao druge tvrtke.

Koliko su visoke kazne za kršenja?

Kod kršenja Zakona o umjetnoj inteligenciji može uslijediti osjetna kazna. Do 35 milijuna eura ili sedam posto svjetskog godišnjeg prometa koncerna moguće je, primjerice, kod zabranjenih UI-praksi, ovisno o tome koji je iznos viši.

Kod zanemarivanja obveza transparentnosti ili nedostatnih sigurnosnih mjera, s druge strane, moguće je do 15 milijuna eura ili 3 posto svjetskog godišnjeg prometa - opet ovisno o tome koji je iznos viši.