AI-kriminalitet

AI-kriminalitet er ikke en juridisk defineret forbrydelseskategori i international ret, men en kriminologisk arbejdsbetegnelse for lovovertrædelser, hvor kunstig intelligens indgår som væsentligt element. Begrebet dækker et spektrum af handlinger, fra traditionelle forbrydelser begået med AI-assistance til helt nye kriminalitetsformer, der kun er mulige gennem maskinlæringsteknologi.

UNICRI, FN's institut for kriminalitetsforskning, har udviklet en typologi, der inddeler AI-kriminalitet i fire kategorier: Kriminalitet mod maskinen (angreb på AI-systemer selv), kriminalitet ved brug af maskinen (AI som redskab til svindel, hacking eller manipulation), kriminalitet i maskinen (misbrug af data og algoritmer internt i systemet) og kriminalitet udført af maskinen (autonome systemers lovovertrædelser). Denne opdeling afspejler den kompleksitet, at AI både kan være offer, gerningsmetode og potentiel gerningsmand.

I praksis omfatter AI-kriminalitet fænomener som deepfake-svindel, hvor kunstigt genererede billeder eller videoer bruges til bedrageri eller afpresning, automatiseret phishing med personaliserede angreb baseret på maskinlæring, manipulation af ansigtsgenkendelses- og beslutningssystemer, samt misbrug af AI til produktion af ulovligt materiale. Også lovlig AI-teknologi kan misbruges kriminelt, eksempelvis når chatbots omgås deres sikkerhedsforanstaltninger til at assistere i kriminel aktivitet.

De fleste retssystemer behandler AI-kriminalitet under eksisterende lovgivning om computerkriminalitet, bedrageri og databeskyttelse. I USA reguleres det primært af 18 U.S. Code § 1030 om computersvindel og misbrug, selvom denne lov blev vedtaget før moderne AI-teknologi. EU's AI-forordning fra 2024 skaber rammer for regulering af højrisiko-AI-systemer, men definerer ikke selvstændige strafbare handlinger.

Den juridiske udfordring ved AI-kriminalitet ligger især i ansvarsfastlæggelse og bevisførelse. Når en AI-model bruges til at generere falske dokumenter eller træffe diskriminerende beslutninger, kan det være vanskeligt at afgøre, om ansvaret ligger hos udvikleren, operatøren, brugeren eller kombinationer heraf. Mange retssystemer mangler stadig præcise definitioner af, hvornår AI-assistance krydser grænsen fra lovligt værktøj til medvirken til kriminalitet.