Hur generativ AI trappar upp nätfisket

Generativ AI har i tysthet tagit bort nätfiskets två största flaskhalsar: att skriva övertygande text och att göra det i skala. Det som förr krävde en språkligt skicklig människa och timmar av research produceras nu på sekunder, på vilket språk som helst, skräddarsytt för ett bestämt mål.

Vad som faktiskt ändrades

I åratal var de klassiska ”tecknen” på ett nätfiskemejl språkliga: klumpig grammatik, konstiga formuleringar, generiska hälsningar. Stora språkmodeller suddar ut alla tre. En angripare genererar nu ett felfritt meddelande på dussintals språk, speglar ett företags ton och anpassar registret för en ekonomichef jämfört med en helpdesk-tekniker.

Den viktiga förändringen är kostnaden per övertygande meddelande. När det knappt kostar något att skapa ett skräddarsytt bete går angripare från hagelskott till riktade angrepp med hög volym och hög kvalitet.

Konkreta arbetsflöden hos angriparen

• Spaning i skala. LLM:er sammanfattar ett måls LinkedIn-historik, senaste pressmeddelanden och GitHub-aktivitet till en förevändning på ett stycke.
• Personalisering av riktat nätfiske. Med namn, roll och arbetsgivare skriver en modell ett meddelande som hänvisar till ett trovärdigt internt projekt eller en nyligen genomförd omorganisation.
• Business Email Compromise (BEC). Modeller återskapar en chefs skrivstil från en handfull offentliga exempel och producerar betalningsbegäranden som läses som äkta.
• Flerspråkiga kampanjer. En enda mall lokaliseras till 20 språk med korrekt idiom, vilket omintetgör ”engelskan var dålig” som signal.
• Konversationsuppföljning. Angripare kopplar en LLM bakom en brevlåda så att svar hanteras automatiskt och en trovärdig tråd hålls levande i dagar.

Bortom e-post: röst och video

Hotet är inte längre bara text.

• Röstkloning behöver bara sekunder av referensljud (från ett webbinarium, ett resultatsamtal eller ett röstmeddelande) för att syntetisera ett övertygande vishingsamtal.
• Deepfake-video har redan använts i live-möten — i Arup-fallet 2024 förde en anställd över omkring 25 miljoner dollar efter ett videosamtal helt befolkat av syntetiska ”kollegor”.

Varför traditionell detektion kämpar

Äldre filter lutar sig mot signaturer, kända skadliga URL:er och upprepade innehållsfingeravtryck. AI-genererade kampanjer underminerar allt detta:

• Varje meddelande är unikt, så innehållshash och mallmatchning misslyckas.
• Texten är grammatiskt perfekt, så den heuristiska poängen för ”spamspråk” faller.
• Infrastrukturen är färsk och roterad, så domän- och IP-rykte släpar efter.

Detektion måste allt mer luta sig mot beteende- och strukturella signaler i stället för innehåll.

Signaler som fortfarande fungerar:
- Autentisering: SPF-, DKIM-, DMARC-justering (p=reject)
- Visningsnamn kontra kuvert/From-avvikelse
- Nyregistrerade eller snarlika avsändardomäner
- Avvikande reply-to- / return-path-routning
- Förstakontakt + brådska + betalnings-/uppgiftsbegäran

Vad försvarare bör göra nu

Härda autentiseringen. Tvinga DMARC till p=reject på era egna domäner och föredra nätfiskeresistent MFA (FIDO2/WebAuthn-passkeys), så att inte ens en perfekt klonad inloggningssida kan spela upp uppgifter igen.

Flytta utbildningen bort från stavning. ”Leta efter dålig grammatik” är dött råd. Lär personalen att verifiera begäranden — bekräftelse via en separat kanal för betalningar och återställning av uppgifter, hur välputsat meddelandet än är.

Utgå från att röst och video kan ljuga. Inför en process med kodord eller återuppringningsnummer för värdefulla ekonomi- och åtkomstbegäranden.

Instrumentera rapporteringen. En ”rapportera nätfiske”-knapp med ett klick som matar ert SOC är värdefullare än någonsin, eftersom mänsklig misstänksamhet nu är en av få signaler som skalar med angreppet.

Försvarets mål är inte längre att avslöja förfalskningen genom dess brister. Det är att göra den handling angriparen vill ha omöjlig eller reversibel — genom autentisering, verifiering via separat kanal och nätfiskeresistenta uppgifter.

Så hjälper GottaPhish

AI låter nu angripare skapa felfria, personaliserade beten som besegrar de ”hitta stavfelet”-vanor medarbetarna en gång lärde sig. GottaPhish och dess expertteam hjälper er att möta just det hotet: AI-personaliserade simuleringar anpassade efter varje mottagares roll, språk och sammanhang, med instrumentpaneler som visar vilka team som nappar på de mest sofistikerade betena. Våra experter hjälper till med uppsättningen, utformar realistiska scenarier, hjälper er tolka resultaten och stöder införandet av nätfiskeresistent MFA (FIDO2/passkeys), så att ett klick inte längre betyder ett intrång — och mäter motståndskraft mot dagens hot, inte mot nätfisket för fem år sedan.