När Europeiska unionen förbereder sig för kommande val står den inför den skrämmande utmaningen att skydda sina demokratiska processer mot de genomgripande hoten om desinformation och digital manipulation. Dess robusta svar, med stöd av Digital Services Act (DSA), har varit att släppa strikta nya riktlinjer för mycket stora onlineplattformar (VLOPs) utformade för att förhindra att falskheter blir virala.

DSA självt understryker inte bara EU:s engagemang för att skydda valens integritet utan skapar också ett prejudikat för hur demokratier kan svara på vår tids digitala utmaningar och se till att grundpelarna för demokratiskt engagemang förblir starka och okorrupta.

Problemet med desinformation

Desinformation i den digitala eran utgör ett djupgående hot inte bara mot valens helighet utan mot samhällets struktur och affärsintegritet. Det urholkar allmänhetens förtroende för institutioner, underblåser politisk instabilitet och kan leda till betydande ekonomisk skada och skada på anseendet för företag som hamnar i korselden. Verksamhetspåverkan är särskilt allvarlig; des- och desinformation kan snedvrida konsumentbeteende, störa marknader och leda till kostsamma regulatoriska granskningar.

Nya incidenter illustrerar de långtgående konsekvenserna av okontrollerade digitala falskheter. Till exempel, under det amerikanska presidentvalet 2016, utbredd desinformationskampanjer sattes igång, särskilt med påhittade nyhetsartiklar som delades på sociala medieplattformar för att påverka väljarnas uppfattningar. Den ökända Cambridge Analytica-skandalen lyfte fram hur personuppgifter kan utnyttjas för att påverka väljarbeslut, vilket visar digitala plattformars potential att påverka politiska resultat. Sedan under covid-19-pandemin ledde falska nyheter om viruset och vaccinerna till folkhälsokriser och störde insatserna i flera länder.

I detta flyktiga landskap brottas både företag och regeringar med utmaningen att skilja sanning från lögn, samtidigt som de strävar efter att upprätthålla en nivå av transparens och tillförlitlighet i sin kommunikation. Om de lämnas okontrollerade, hotar falskheter online inte bara demokratiska processer utan kan också äventyra konkurrensbilden genom att undergräva rättvisa affärsmetoder och konsumenternas förtroende.

EU:s regleringsmetod

Digital Services Act (DSA) representerar EU:s strategiska ramverk för att reglera det digitala rummet, med stor tonvikt på att bekämpa des- och desinformation och säkra demokratiska processer. Detta lagstiftningsdrag riktar sig mot VLOP, som är avgörande informationskanaler under valtider.

EU:s Digital Services Act definierar VLOPs som de digitala tjänster som når minst 45 miljoner användare inom blocket, vilket uppgår till ungefär 10 % av befolkningen. Denna kategorisering riktar sig till de plattformar som har den bredaste räckvidden och inflytandet, vilket kräver striktare regulatorisk tillsyn för att mildra riskerna och effekterna av att sprida desinformation i stor skala. Genom att fokusera på dessa plattformar säkerställer DSA att de primära källorna till digitalt innehåll och interaktion hålls till högre standarder för ansvarsskyldighet och transparens.

DSA kräver att dessa plattformar implementerar mer rigorösa åtgärder för att hantera och moderera innehåll, öka transparensen kring algoritmiska processer och säkerställa att politisk reklam är tydligt märkt för att förhindra dolda influenser.

Nya bestämmelser under DSA som är specifikt inriktade på att säkra val kräver att dessa plattformar snabbt hanterar desinformation och desinformationshot och att de är mer ansvariga i sina metoder för moderering av innehåll. Plattformar förväntas också ge användarna större kontroll över innehållet de ser, vilket potentiellt kan begränsa spridningen av falska nyheter.

VLOPs måste se till att eventuella politiska annonser på deras plattformar och AI deepfakes är tydligt märkta. Och skapa dedikerade team för att övervaka potentiella falska nyheter i vissa EU-länder. Algoritmer måste främja mångsidigt innehåll, och det bör finnas nödprocesser för när djupa förfalskningar från politiska ledare dyker upp, sade EU-kommissionen. Bristande efterlevnad kan leda till böter på upp till 6 % av den globala årliga omsättningen.

Thomas Richards, huvudsäkerhetskonsult på Synopsys Software Integrity Group tror att DSA avsevärt kan minska felaktig information om den implementeras effektivt av VLOPs.

"Om VLOPs kan implementera DSA-vägledningen bra, tror jag att förekomsten av desinformation kommer att minska. Det kommer att skapa ett katt-och-råtta-spel...men totalt sett tror jag att folk kommer att se mindre av det, säger han till ISMS.online.

Adam Marrè, CISO på Arctic Wolf, tillägger att DSA:s fokus på transparens och ansvarsskyldighet i grunden kan förändra hur desinformation hanteras.

"Riktlinjerna anger robusta mekanismer för ansvarsskyldighet ... Om den genomförs effektivt är denna starka tillämpningsmekanism avgörande för att säkerställa att plattformar följer sina åtaganden och ansvar", säger han till ISMS.online.

Utmaningar och verkställighet

Att upprätthålla DSA innebär flera praktiska utmaningar, särskilt när det gäller upptäckt, noggrannhet och skala. Den stora mängden data som hanteras av VLOPs kräver användning av automatiserade system, främst AI, för att övervaka och kontrollera felaktig information. Men som Richards påpekar, "att identifiera och ta bort innehåll, med noggrannhet, kommer att vara det största hindret att övervinna." Beroendet på AI för upptäckt kan leda till felaktigheter och oavsiktlig censur, vilket potentiellt kan tillåta desinformation att glida igenom eller, omvänt, felaktigt straffbelägga legitimt innehåll.

Dessutom innebär den dynamiska karaktären hos desinformationstaktik att så snart nya upptäcktsmetoder utvecklas, utarbetar illvilliga aktörer nya strategier för att kringgå dem. Richards hävdar att de som sprider desinformation ständigt utvecklar tekniker för att "förbigå eller lura upptäcktsmekanismerna att tro att innehållet inte bör tas bort."

Hannah Baumgaertner, chef för underrättelseforskning på Silobreaker, konstaterar att val som äger rum redan i år, i Taiwan, har kantats av desinformationskampanjer

"Dessutom kommer den pågående Ryssland-kopplade Doppelganger-kampanjen sannolikt att rikta sitt fokus mot Storbritannien", säger hon till ISMS.online.

Under Brexit-folkomröstningen såg olika plattformar en ökning av vilseledande artiklar och manipulerad statistik som utformats för att påverka opinionen. På liknande sätt har automatiserade botkonton använts för att förstärka splittrande innehåll, vilket visar hur desinformationsstrategier ständigt förfinas för att utnyttja nya tekniska framsteg. Dessa exempel belyser den obevekliga utvecklingen av fake news taktik, vilket gör verkställighet till en komplex och dynamisk utmaning.

Bredare affärsimplikationer

Uppkomsten av deepfakes och digitalt bedrägeri introducerar nya sårbarheter som företag måste ta itu med i sina riskhanteringsstrategier. När dessa tekniker blir mer sofistikerade ökar risken för missbruk för att manipulera allmänhetens uppfattning och skada ryktesintegriteten.

Med utgångspunkt i de bredare principerna som beskrivs i DSA kan företag förbättra sin motståndskraft genom att implementera rigorösa verifieringsprocesser och insynsåtgärder. Genom att integrera avancerad detekteringsteknik och etablera tydliga protokoll för att hantera digitala hot kan företag bättre skydda sig mot destabiliserande effekter av desinformation. Genom att främja transparens och ansvarsskyldighet kan företag inte bara följa nya regleringar utan också bygga upp förtroende hos sina intressenter och därigenom stärka sin marknadsposition.

Att sätta ett globalt riktmärke

DSA markerar ett starkt engagemang för att bekämpa des- och desinformation, och sätter ett globalt riktmärke för hur demokratier kan skydda valintegriteten i den digitala tidsåldern. Genom att upprätthålla stränga riktlinjer på stora onlineplattformar strävar EU inte bara efter att minska spridningen av falsk information utan också att stärka de grundläggande principerna för demokrati.

Dessa ansträngningar är avgörande för att upprätthålla hälsan i den digitala ekonomin, där förtroende och transparens spelar en central roll. När vi ser på framtiden kommer den kontinuerliga anpassningen och efterlevnaden av sådana regler att vara nyckeln till att bevara både demokratiska processer och integriteten på den digitala marknaden.

I detta sammanhang möter företag sina egna strider med deepfakes och digitalt bedrägeri. Dessa tekniker utgör allvarliga hot mot företagets integritet och säkerhet, vilket kräver robusta informationssäkerhetshanteringssystem (ISMS) för att öka medvetenheten, upprätta detekteringsprotokoll och utveckla effektiva strategier för incidenthantering. I takt med att deepfakes blir mer sofistikerade är det viktigt att ligga steget före dessa hot för att upprätthålla företagens verksamhet och allmänhetens förtroende.