Tekniken bakom AI-genererade ansikten, klonade röster och manipulerade videor har på några år gått från forskningsdemo till gratisverktyg. Det mesta som skapas är harmlöst eller uppenbart – men samma verktyg används för bedrägerier, förtal och desinformation. Att kunna syna materialet blir en vardagsfärdighet, ungefär som att känna igen ett bluffmejl.
Visuella tecken – det som fortfarande går att se
- Händer och fingrar: fel antal, konstiga vinklar, fingrar som flyter ihop
- Detaljer som inte hänger ihop: örhängen som skiljer sig åt, glasögonbågar som byter form, tänder utan tydliga mellanrum
- Text i bilden: skyltar, loggor och tryck blir ofta förvrängda tecken
- Ljus och skuggor som inte stämmer överens mellan ansikte och omgivning
- I video: onaturliga blinkningar, läppar som inte riktigt följer ljudet, flimmer i hårfäste och kanter när huvudet vrids
- Bakgrunder som flyter, upprepar sig eller böjer raka linjer
Men var beredd på att listan åldras. Varje ny modellgeneration tar bort fel som tidigare avslöjade fejkar, och en skicklig skapare rättar resten för hand. Visuella tecken kan fälla en fejk – frånvaron av dem friar ingenting.
Sammanhanget avslöjar mer än pixlarna
De hållbara kontrollfrågorna är källkritiska, inte tekniska. Var publicerades materialet först? Sprids det av etablerade medier eller bara av anonyma konton? En äkta sensationell video av en offentlig person kommer att rapporteras brett inom timmar – om den bara cirkulerar i delningskedjor är det en stark varningssignal. Gör en omvänd bildsökning för att hitta ursprunget, och använd metoderna i vår checklista för källkritik.
Röstkloning – bedrägeriets nya röst
Några sekunders inspelat tal räcker i dag för att klona en röst. Det används i bedrägerier där "barnbarnet" eller "chefen" ringer och behöver pengar akut – rösten stämmer, situationen är stressad och kraven brådskande. Skyddet är att verifiera via en annan kanal: lägg på och ring själv upp personens vanliga nummer. Vissa familjer använder ett kodord för just akuta situationer. Brådska plus betalning ska alltid utlösa kontroll, precis som vid nätfiske.
Är det olagligt att göra deepfakes?
Tekniken i sig är inte förbjuden, och den används legitimt i film, satir och tillgänglighetstjänster. Men användningen kan vara brottslig: bedrägerier, förtal, olaga integritetsintrång och sexuellt anspelande material av verkliga personer utan samtycke kan prövas enligt flera straffbestämmelser. Inom EU pågår dessutom reglering som ställer krav på att AI-genererat innehåll ska märkas. Den som utsätts bör dokumentera materialet, begära borttagning hos plattformen och polisanmäla.
Vad gör plattformarna?
De stora plattformarna arbetar med märkning av AI-genererat innehåll, dels genom egna detekteringssystem, dels genom krav på att uppladdare själva deklarerar AI-material. Tekniska standarder för att bädda in ursprungsinformation i bild- och videofiler är på väg att få bredare spridning. Inget av detta är heltäckande – märkning kan tas bort och detektering kan luras – men det höjer ribban. Som användare är märkningen ett stöd, inte en garanti: omärkt material kan vara fejkat, och märkt material kan vara harmlöst.
Verktyg som lovar att "detektera AI"
Det finns tjänster som analyserar bilder och påstår sig avgöra om de är AI-genererade. Träffsäkerheten varierar kraftigt, och både falska positiva och falska negativa är vanliga – behandla verktygen som en indikation, aldrig som bevis. Kombinationen av sammanhangskontroll, ursprungssökning och sunt tvivel slår varje enskilt detekteringsverktyg.
Grundinställningen är densamma som för all information: ju mer uppseendeväckande materialet är, desto mer bekräftelse kräver det – och ju mer det eldar på det du redan tycker, desto viktigare att kontrollera innan du delar.
