Artificiell intelligens (AI)-driven deepfake-teknik är inget nytt fenomen. Termen "deepfake" har använts för att beskriva syntetiska medier sedan så långt tillbaka som 2017, och många exempel på deepfake har blivit allmänt publicerade. Virala exempel inkluderar en AI-genererad video av Mark Zuckerberg som pratar om Facebooks ondskefulla kraft, ett TikTok-konto dedikerat till att dela djupfalska videor av skådespelaren Keanu Reeves, och till och med en video av US House Speaker Nancy Pelosi, manipulerad för att få henne att verka berusad. 

Deepfake-tekniken fortsätter att utvecklas i takt, och det är mer komplicerat än någonsin att säga vad som är och inte är verkligt. Med det igångna riksdagsvalet i Storbritannien, har deepfakes format hur väljare ser på politiska kandidater – och till och med påverkat hur de röstar?

Deepfakes i Storbritanniens allmänna val

Förra månaden släpptes en manipulerad video av Labour-politikern Wes Streeting på X (tidigare Twitter), som påstås visa honom kalla sin kollega i Labour-parlamentet Diane Abbott för en "får kvinna". BBC rapporterade att videon och många av kommentarerna som svar på X kom från ett nätverk av konton som skapar och delar klipp av politiker och sedan postar vilseledande kommentarer för att förstärka intrycket av att de är verkliga. 

Syftar nätverket att undergräva och misskreditera de riktade politikerna, vare sig det är i politiska syften eller bara för underhållning? BBC-rapporten fann att samma konton publicerade djupfalska klipp av Labours Luke Akehurst såväl som Reform UKs Nigel Farage, som spänner över Storbritanniens politiska spektrum. I en orelaterade händelse gick också satiriska deepfake-videor av Storbritanniens premiärminister Rishi Sunak virala nyligen efter att han tillkännagav förslag om nationell tjänst. 

Effekten av AI är inte heller begränsad till sociala medier: det finns till och med en AI Oberoende kandidat som heter AI Steve, en avatar av den verkliga affärsmannen Steven Endacott. 

En studie av YouGov fann att 43 % av britterna får sina nyheter under det allmänna valet från sociala medier, näst efter tv (58 %). Totalt får 77 % sina nyheter online. Så även om många tillämpningar av deepfake-teknik kan vara ofarliga och underhållande, kan konsekvenserna av videor som Wes Streeting-klippet vara politiskt skadliga. När britter avger sina röster, för vissa, kommer deepfakes sannolikt att påverka deras röstval.

GenAI fortsätter också att påverka företag

Hotaktörer fortsätter också att rikta sig till företag och deras kunder. Förra veckan fann den australiensiska nyhetskanalen 7News sin YouTube hackad av hotaktörer, som använde den för att livestreama en AI-genererad video av Elon Musk som hyllade en kryptovaluta-bluff. The Sydney Morning Herald rapporterade att deepfake uppmuntrade tittarna att skanna en Tesla-märkt QR-kod och sätta in pengar i kryptovalutasystemet för att "dubbla sina kryptotillgångar". 

Hacket visar att hotaktörer blir allt mer kunniga i sin inställning till att kompromissa med företag för att få tillgång till kritisk data – och kunder. YouTube-kanalen 7News har över en miljon prenumeranter, vilket gör att bedragarna bakom attacken kan nå 7News betydande publik: CryptoNews rapporterade att livestreamen sågs av cirka 60,000 45,000 tittare, och en annan samtidig stream sågs av cirka XNUMX XNUMX personer. 

Deepfakes tillåter också hotaktörer att genomföra attacker i stil med företags-e-postkompromisser (BEC) mot organisationer, genom att använda AI-genererat ljud, bilder och video för att imitera högre personal. I april delade LastPass att a hot skådespelare hade imiterat vd Karim Toubba genom att använda WhatsApp, skicka samtal, sms och röstmeddelanden till en anställd med en ljuddeepfake. I det här fallet rapporterade den anställde händelsen och hotet mildrades av LastPass. Ändå finns det många nya incidenter där detta angreppssätt har varit framgångsrikt, vilket leder till ekonomisk förlust.

Framsteg inom AI-teknik leder till ökade cyberhot

AI blir en allt mer tillgänglig teknik för hotaktörer, vilket leder till en ökning av attacker mot individer och företag. Vår Status för informationssäkerhetsrapport undersökte över 1,500 30 experter inom informationssäkerhet och fann att nästan en tredjedel (12 %) av företagen har upplevt en deepfake attack under de senaste XNUMX månaderna. 

Men majoriteten av de tillfrågade (76%) instämde också i att AI och maskininlärningsteknik (ML) förbättrar informationssäkerheten och erbjuder nya sätt att automatisera, analysera och förbättra säkerhetsåtgärder. 62 % förväntar sig att öka sina utgifter för AI- och ML-säkerhetsapplikationer under de kommande 12 månaderna. 

Med AI-driven teknik som erbjuder företag både utmaningar och otroliga möjligheter, hur kan vi ta itu med och förhindra deepfake-incidenter?

Minska risken för Deepfake-incidenter

För företag kommer personalutbildning och medvetenhet att vara avgörande för att minska risken för deepfake-incidenter. Standarder som ISO 27001, den internationella informationssäkerhetsstandarden, ger ett ramverk för att bygga, underhålla och kontinuerligt förbättra ett ledningssystem för informationssäkerhet (ISMS). Detta inkluderar implementering av en informationssäkerhetspolicy, som kommer att vägleda dina anställda i att rapportera en misstänkt incident, såsom en BEC-attack, via e-post eller i form av en deepfake. 

I det brittiska riksdagsvalet måste allmänheten vara vaksam när den överväger om videor och ljudklipp som läggs upp på sociala medieplattformar är verkliga eller manipulerade. Flera visuella och hörbara ledtrådar kan hjälpa till att identifiera en deepfake. 

Visuella ledtrådar inkluderar: 

  • Onaturliga ögonrörelser (eller brist på ögonrörelser)
  • Inkonsekventa ansiktsuttryck
  • Osammanhängande eller ryckiga kroppsrörelser
  • Tänder som inte ser riktiga ut eller saknar konturer av enskilda tänder
  • Oskarp eller feljusterad bild. 

Audiala ledtrådar inkluderar:

  • Robotljud
  • Ljudfel 
  • Inkonsekvent ljud
  • Konstiga uttal av ord
  • Läppsynkfel med avvikelser mellan ord som talas och läpprörelser.

Bekämpa inflytandet av syntetiska medier

Det kommer att bli svårt att mäta effekten av AI-genererade deepfakes på det brittiska riksdagsvalet. Med 43 % av britterna som får sina nyheter från sociala medier, kommer många väljare sannolikt att ha sett en form av syntetisk media relaterad till ett politiskt parti – oavsett om de är medvetna om det eller inte. 

Användare på X identifierar dock regelbundet potentiella deepfakes och varnar andra användare genom funktionen för community-anteckningar. Själva X-plattformen har nu en manipulerad mediepolicy som säger att "du inte får dela syntetiska, manipulerade eller urkontextmedia som kan vilseleda eller förvirra människor och leda till skada". Kontot som ursprungligen publicerade den Wes Streeting-manipulerade videon har nu stängts av, men dess inverkan återstår att se.

Med deepfake-incidenter på uppgång bör företag också överväga hur deras säkerhetsställning kan förbättras. Att utveckla ett robust ISMS anpassat till ISO 27001:2022-standarden hjälper organisationer att stärka sitt försvar mot cyberhot, minska risken för framgångsrika attacker och säkerställa att anställda är medvetna om sina roller och ansvar för informationssäkerhet.