voice cloning

AI-stemmer bruges til at autorisere svindeltransaktioner

International AI Safety Report dokumenterer konkrete tilfælde, hvor AI-genererede stemmekloner er brugt til at autorisere finansielle transaktioner uden ofrets samtykke. Systemerne kan ikke skelne den falske stemme fra den ægte.

AI-stemmekloning: Moders skrækoplevelse med virtuel kidnapping

I marts 2023 modtog den amerikanske mor Jennifer DeStefano et opkald fra en ukendt nummer, hvor en stemme påstod at være hendes 15-årige datter Briana, der var blevet kidnappet. Svindleren havde brugt kunstig stemmekloning til at gøre opkaldet troværdigt.