Nye regler gælder fra august: AI-indhold skal mærkes

Kunstig intelligens kan i dag skabe billeder, videoer, lyd og tekst, som kan være næsten umulige at skelne fra virkeligheden. Men i EU frygter man, at det kan gå ud over den generelle tillid til informationer i samfundet. Derfor indfører EU med AI Act nye krav om gennemsigtighed. Målet er enkelt: Vi skal kunne se, når indhold er skabt eller væsentligt ændret ved hjælp af AI.

Reglerne handler ikke om at forbyde ellert begrænse brugen af kunstig intelligens. De handler om at sikre, at modtagere af indhold har mulighed for at vide, hvad der er ægte, og hvad der er skabt eller manipuleret digitalt.

AI-genererede billeder, video og lyd skal mærkes

Et af de centrale krav i AI Act handler om såkaldte deepfakes.

Mange forbinder ordet deepfake med falske videoer eller billeder, der bruges til at vildlede eller skade andre.. Men i EU's definition er begrebet langt bredereog dækker AI-genereret indhold, som er lavet, så det ligner personer, steder eller genstande, der ikke findes i virkeligheden.

Deepfake defineres som et billede, en lydoptagelse eller en video, der er genereret eller manipuleret ved hjælp af AI, og som kan fremstå som autentisk eller sandfærdigt, selv om det ikke afspejler virkeligheden. Begrebet omfatter ikke kun mennesker, men også genstande, steder, organisationer og begivenheder.

Eksempler på AI-genereret materiale, som skal mærkes:

• AI-genererede modeller

• AI-genererede produktbilleder

• AI-genererede lokationer

• AI-genererede videoer af begivenheder, der ikke har fundet sted

• AI-genereret lyd, f.eks. en tale, som ikke har fundet sted

Når denne type indhold offentliggøres, skal det tydeligt fremgå, at det er AI-genereret eller AI-manipuleret.

EU's AI Act indeholder dog få undtagelsernemlig hvis det er åbenlyst, at indholdet strider mod naturlove, f.eks en elefant, som kører en bil. Den type indhold skal ikke mærkes, da det er åbenlyst for modtageren, at indholdet er skabt med AI.