Vad finns i EU:s nya AI-lags uppförandekod om transparens i AI-genererat innehåll?

Många av de slutliga bestämmelserna i EU:s AI-lag är planerade att träda i kraft 2026. Den 2 augusti kommer majoriteten av EU:s AI-lag att gälla för operatörer av AI-system på alla nivåer, med undantag för artikel 6(1) och system som avses i artikel 111(1). Vid denna tidpunkt kommer lagen att gälla för operatörer av högrisk-AI-system som släppts ut på marknaden eller tagits i bruk före detta datum.

För att stödja företag i att anpassa sig till transparenskraven i artikel 50 har Europeiska kommissionen släppt det andra utkastet till uppförandekoden för transparens i AI-genererat innehåll. Koden är ett frivilligt verktyg som utarbetats av oberoende experter och tar upp viktiga överväganden för leverantörer och distributionsföretag av AI-system som genererar innehåll som omfattas av artikel 50. Den stöder organisationer i att visa att de följer lagen.

Koden består av två avsnitt. Avsnitt 1 innehåller regler för märkning och detektering av AI-genererat och manipulerat innehåll, tillämpliga på leverantörer av AI-system. Avsnitt 2 innehåller regler för märkning av deepfakes och AI-genererad och manipulerad publicerad text, tillämpliga på driftsättare av AI-system.

Viktiga termer som används i praxiskoden

skäl – Inledande text i början av ett avsnitt som anger skälen till dess bestämmelser.

Åtaganden: De skyldigheter som undertecknarna av uppförandekoden åtar sig, t.ex. genomförande av vissa åtgärder för att säkerställa att utdata från deras AI-system kan detekteras som AI-genererade eller manipulerade.

Åtgärder och delåtgärder: De specifika åtgärder som undertecknarna måste vidta för att anpassa sig till de åtaganden som anges i uppförandekoden.

Avsnitt 1: Regler för märkning och detektering av AI-genererat och manipulerat innehåll

Avsnitt 1 är tillämpligt på leverantörer av AI-system och avser artikel 50.2 och 50.5 i EU:s AI-lag.

De specifika målen med avsnitt 1 i koden är att fungera som ett vägledande dokument för att visa efterlevnaden av skyldigheterna i lagen, även om efterlevnaden av koden inte är ett avgörande bevis på efterlevnaden av dessa skyldigheter. Detta avsnitt är utformat för att hjälpa leverantörer av AI-system som genererar syntetiskt ljud, bild, video eller text att uppfylla sina skyldigheter och för att göra det möjligt för marknadsövervakningsmyndigheter att bedöma efterlevnaden.

Åtagande 1: Flerskiktad märkning av AI-genererat innehåll

I åtagande 1 åtar sig undertecknarna av kodens undertecknande att märka allt ljud-, bild-, video- eller textinnehåll som genereras eller manipuleras av de AI-system som de släpper ut på marknaden eller tar i bruk i Europeiska unionen på ett maskinläsbart sätt. Detta gäller utdata från generativa AI-system och inkluderar allmänna AI-system.

Åtgärderna i Åtagande 1 inkluderar således:

Implementering av en flerskiktad märkningsmetod, vilket säkerställer att dessa utgångar är markerade med minst två lager maskinläsbar aktiv markering.

Digitalt signerade metadata, omärkbara vattenmärkningstekniker sammanvävda i innehållet och fingeravtrycks- eller loggningsfunktioner är alla obligatoriska metoder för att märka AI-genererat innehåll om innehåll genereras eller exporteras i ett format som stöder dessa tekniker. Till exempel bör undertecknare av koden lägga till information om huruvida innehållet är AI-genererat eller AI-manipulerat som en del av metadata för en ljud-, bild-, video- eller dokumentfil.

Icke-borttagning av maskinläsbar märkning kräver att undertecknarna "gör sitt bästa" för att bevara varumärken på innehåll som genereras eller manipuleras av deras AI-system genom att avstå från att ändra eller ta bort befintliga metadata där det är tekniskt möjligt.

Transparens i ursprungskedjan är en valfri åtgärd som uppmuntrar undertecknarna att tillämpa proveniensstandarder som ger ytterligare information om provenienskedjan för AI-genererat eller manipulerat innehåll i alla arbetsflöden där det är tekniskt möjligt.

Valfri funktionalitet för märkbara markeringar (för djupförfalskningar och AI-genererad och manipulerad publicerad text) uppmuntrar leverantörer av generativa AI-system som kan generera djupförfalskningar och AI-genererad och manipulerad publicerad text att tillhandahålla en valfri funktionalitet i sina systemgränssnitt och implementera ett integrerat alternativ som gör det möjligt för distributionsleverantörer och andra användare att direkt applicera ett märkbart maskinläsbart märke eller en etikett på en genererad utdata efter eget gottfinnande.

Åtagande 2 – Upptäckt av märkning av AI-genererat innehåll

Åtagande 2 kräver att undertecknare av kodens undertecknare ska genomföra åtgärder för att möjliggöra detektering av ljud-, bild-, video- eller textinnehåll (eller en kombination av dessa) som genererats eller manipulerats av deras AI-system. De måste också säkerställa att denna information tillhandahålls på ett tydligt, urskiljbart och tillgängligt sätt genom verktyg eller API:er.

Åtgärderna i Åtagande 2 inkluderar:

Detekteringsmekanismer för aktiv märkning som görs tillgängliga för distributionsföretag, slutanvändare och andra tredje parter. Denna åtgärd kräver att undertecknarna säkerställer att ett gränssnitt görs tillgängligt, kostnadsfritt, för att ge driftsättare, användare, slutanvändare och andra legitima parter av AI-system möjlighet att verifiera om innehåll har genererats eller manipulerats av deras AI-system.

Forensiska detektionsmekanismer är en valfri åtgärd som uppmuntrar undertecknarna att stödja utvecklingen av forensiska detektorer som kan upptäcka utdata från generativa AI-modeller som finns tillgängliga på unionsmarknaden, inklusive när de integreras i system.

Tydlig och lättillgänglig redogörelse för verifierings- och detektionsresultat kräver att undertecknarna säkerställer att resultaten av detektering och verifiering presenteras tydligt och på ett sätt som är lättförståeligt för personer som vill verifiera innehållets ursprung. Detta inkluderar att säkerställa att resultaten ger information baserad på vattenstämpel, metadata, forensisk detektion eller andra tekniker.

De bör också säkerställa att resultaten av detekteringsmekanismer och deras användargränssnitt, i tillämpliga fall, är tillgängliga för personer med funktionsnedsättning.

Stödja kunskaper om AI-märkningstekniker och verifiering uppmuntrar undertecknarna att säkerställa att dokumentation och annan relevant information (exklusive affärshemligheter) för lekmän tillhandahålls distributionsföretag och andra användare för att stödja dem i att fatta välgrundade beslut om vilka märknings- och detekteringsmekanismer de kan använda. De uppmuntras också att tillhandahålla AI-kunskapsresurser för slutanvändare i lämpliga fall.

Åtagande 3 – Åtgärder för att uppfylla kraven för märknings- och detektionstekniker

Åtagande 3 kräver att undertecknarna säkerställer att de tekniska lösningar som används för märkning och detektering av AI-genererat eller manipulerat innehåll är effektiva, interoperabla, robusta och tillförlitliga. De bör sträva efter att uppnå högsta möjliga effektivitet, interoperabilitet, robusthet och tillförlitlighet hos märknings- och detekteringslösningar och uppnå dessa i den utsträckning det är tekniskt möjligt.

effektivitet kräver att undertecknarna implementerar märknings- och detekteringslösningar som är ändamålsenliga och effektivt kan göra det möjligt för människor att skilja mellan AI-genererat eller manipulerat innehåll och innehåll som skapats av människor.

Pålitlighet kräver att undertecknarna av kodens undertecknare implementerar märknings- och detekteringslösningar som uppnår en hög tillförlitlighetsnivå i olika sammanhang och användningsfall. Detta inkluderar beaktande av två komponenter: hur noggrann detekteringen av märkningen är under kontrollerade förhållanden och hur noggrannheten hos märknings- och detekteringslösningar varierar med avseende på innehållets längd, entropi och semantik.

Robusthet kräver att undertecknarna implementerar markerings- och detekteringslösningar som uppnår en hög nivå av robusthet mot vanliga ändringar och fiendtliga attacker. Detta inkluderar att säkerställa att deras markerings- och detekteringstekniker är robusta mot typiska bearbetningsåtgärder inklusive spegling, beskärning, komprimering, skärmdumpning med mera. Undertecknarna bör också bedöma den fiendtliga robustheten hos sina markerings- och detekteringslösningar och bör uppdatera hotbedömningar ofta.

Interoperabilitet kräver att undertecknarna av kodens undertecknare implementerar tekniska lösningar för märkning och detektering av AI-genererat eller manipulerat innehåll som fungerar över distributionskanaler och tekniska miljöer. Syftet med denna åtgärd är att säkerställa fullständig interoperabilitet mellan märknings- och detekteringslösningarna från olika leverantörer av AI-system med gemensamma märknings- och detekteringsstandarder.

Förbättrar den senaste tekniken inom märkning och detektering uppmuntrar undertecknarna att investera i vetenskaplig forskning och utveckling för att främja den senaste tekniken inom märknings- och detekteringsmekanismer för AI-genererat och manipulerat innehåll. Detta är beroende av deras kapacitet och resurser.

Åtagande 4 – Testning, verifiering och efterlevnad

Åtagande 4 kräver att undertecknarna åtar sig att inrätta, hålla sig uppdaterade och implementera test-, verifierings- och efterlevnadsprocesser.

Åtagandeåtgärderna 4 inkluderar:

Regelverk för efterlevnad, vilket kräver att undertecknarna utarbetar, implementerar och uppdaterar ett regelverk för efterlevnad som beskriver de märknings- och detekteringsprocesser och åtgärder som undertecknarna genomför för att säkerställa efterlevnad av artikel 50.2 och 50.5 i EU:s AI-lag. Denna åtgärd bör genomföras proportionellt, med hänsyn till leverantörens storlek och resurser.

Ocuco-landskapet testning, verifiering och övervakning Åtgärden kräver att undertecknarna testar märknings- och detekteringslösningarna för att säkerställa att de uppfyller kraven och åtgärderna som anges i avsnitt 1 i koden under verkliga förhållanden och innan de släpps ut på marknaden. Leverantörer av generativa AI-system i nedströmskedjan kan förlita sig på resultat av tester som utförs av en uppströmsmodell eller en tredjepartsleverantör av märknings- och detekteringstekniker.

Utbildning kräver att undertecknarna tillhandahåller lämplig utbildning till personal med roller som är relevanta för att säkerställa efterlevnaden av artikel 50.2 och 50.5 i EU:s AI-lag, som är involverade i utformning och utveckling av AI-system och -modeller och som ansvarar för att säkerställa att de åtgärder som anges i avsnitt 1 i kodexen genomförs effektivt.

Samarbete med marknadskontrollmyndigheter kräver att undertecknarna av koden samarbetar med behöriga marknadsövervakningsmyndigheter för att visa efterlevnad av artikel 50.2 och 50.5 i EU:s AI-lag och sina åtaganden enligt avsnitt 1 i koden.

Avsnitt 2: Regler för märkning av djupförfalskningar och AI-genererad och manipulerad publicerad text

Avsnitt 2 är tillämpligt på spridare av AI-system och avser artikel 50.4 och 50.5 i EU:s AI-lag.

De specifika målen med avsnitt 2 i koden är att fungera som ett vägledande dokument för att visa efterlevnaden av skyldigheterna för distributionsföretag av generativa AI-system i lagen, även om efterlevnaden av koden inte är ett avgörande bevis på efterlevnaden av dessa skyldigheter. Detta avsnitt är utformat för att hjälpa distributionsföretag av AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll som utgör en deepfake eller text att uppfylla sina skyldigheter och för att göra det möjligt för marknadsövervakningsmyndigheter att bedöma efterlevnaden.

Åtagande 1 – Offentliggörande av AI-genererade och manipulerade deepfakes och publicerad text

Åtagande 1 kräver att undertecknarna säkerställer konsekvent offentliggörande av det artificiella ursprunget för AI-genererade eller manipulerade djupförfalskade filer eller publicerad text om frågor av allmänt intresse.

Undertecknarna kan göra detta genom att använda den enhetliga EU-ikonen när denna är tillgänglig eller genom att välja en alternativ ikon eller märkningslösning som uppfyller kraven i följande åtgärder:

Designkrav för ikoner, etiketter eller ansvarsfriskrivningar innehåller en lista med krav för design av visuella ikoner eller etiketter. Detta inkluderar det huvudsakliga visuella elementet i form av en versal med "AI", eventuellt kompletterat med en kort textetikett som anger vilken typ av AI-inblandning det rör sig om, till exempel "genererad med AI". För innehåll med endast ljud måste undertecknarna inkludera en kort hörbar ansvarsfriskrivning. Mer information om de specifika kraven finns i koden.

Placeringskrav för ikoner, etiketter eller ansvarsfriskrivningar kräver att undertecknarna visar ikonen, etiketten eller ansvarsfriskrivningen på en lämplig och lättuppnåelig plats som överensstämmer med innehållets format och sammanhang. Mer information om de specifika kraven finns i koden.

Valfri användning av en EU-ikon och deltagande i dess utveckling är ett valfritt åtagande som uppmuntrar undertecknarna att använda den EU-omfattande ikonen och stöder utvecklingen av en enhetlig EU-märkning som är utformad för att ge mer avancerad och användbar information om AI-genererade eller manipulerade element i innehållet.

Åtagande 2 – Proportionell efterlevnad, medvetenhet och granskning

För att uppfylla åtagande 2 måste undertecknarna genomföra proportionella interna processer, informationsåtgärder och granskningsmekanismer för ett korrekt genomförande av märkningen av djupförfalskningar och textpublikationer inom ramen för artikel 50.4 i EU:s AI-lag.

Intern efterlevnad kräver att undertecknarna upprättar, anpassar eller upprätthåller proportionell intern dokumentation för att specificera hur de genomför offentliggörandeskyldigheterna enligt de ovannämnda avsnitten i EU:s AI-lag.

Medvetenhet och utbildning kräver att undertecknarna gör rimliga och proportionella ansträngningar för att säkerställa medvetenhet om offentliggörandeskyldigheterna enligt artikel 50.4 och 50.5 i EU:s AI-lag bland personal som är direkt involverad i genomförandet av märkningsåtgärder eller övervakar efterlevnaden av åtgärderna i avsnitt 2 i kodexen.

Granskning, feedback och samarbete med myndigheter kräver att undertecknarna stöder ett effektivt genomförande av offentliggörandeskyldigheter genom granskning och feedbackmekanismer, såsom att tillhandahålla kanaler som gör det möjligt för individer eller betrodda tredje parter, såsom oberoende faktagranskare, att flagga felaktiga eller saknade uppgifter.

Åtagande 3 – Lämplig information om konstnärliga, kreativa och liknande verk

Åtagande 3 kräver att undertecknarna genomför åtgärder för att avslöja djupförfalskat innehåll som ingår i konstnärliga, kreativa, satiriska, fiktiva eller analoga verk eller program. Offentliggörande bör ske på ett lämpligt sätt som inte hindrar visningen eller njutningen av verket. Specifika placeringsförslag finns i Koden.

Åtagande 4 – Mänsklig granskning, redaktionell kontroll och ansvar i relation till AI-genererade eller manipulerade textpublikationer

För att säkerställa efterlevnad av åtagande 4 bör undertecknarna upprätta, anpassa eller underhålla minimal dokumentation som visar att den AI-genererade eller manipulerade texten som publiceras i syfte att informera allmänheten om frågor av allmänt intresse har genomgått mänsklig granskning eller redaktionell kontroll före publicering, och att en fysisk eller juridisk person har det redaktionella ansvaret för publiceringen.

Dokumentationen bör innehålla identifiering av den person som har redaktionellt ansvar, inklusive deras namn, roll och kontaktuppgifter, samt en översikt över de åtgärder som vidtagits för att säkerställa att adekvat mänsklig granskning utförs.

Följa praxiskoden enligt ISO 42001

Uppförandekoden är frivillig. Den erbjuder dock ett sätt för leverantörer och driftsättare av AI-system att visa att de följer de rättsliga transparensskyldigheterna i EU:s AI-lag.

Ocuco-landskapet ISO 42001-standard tillhandahåller ett ramverk för bästa praxis för att bygga, underhålla och kontinuerligt förbättra ett AI-ledningssystem (AIMS) och kan även stödja bredare efterlevnad av EU:s AI-lag. Standarden är utformad för att säkerställa att organisationer beaktar specifika frågor relaterade till AI, inklusive säkerhet, rättvisa, transparens, datakvalitet och kvaliteten på AI-system under hela deras livscykel.

ISO 42001 ger en baslinje för organisationer att implementera ett etiskt och transparent AIMS som omfattar AI-modeller, system och implementering. Ett robust, ISO 42001-kompatibelt AIMS kan göra det möjligt för organisationer att enkelt underhålla och visa bevis på efterlevnad av uppförandekoden och EU:s AI-lag.

Efterlevnad av EU:s AI-lags riktlinjer för transparens i AI-genererat innehåll

Att genomföra nödvändiga åtgärder för att anpassa sig till uppförandekoden kan vara en utmaning. Organisationer bör som ett minimum anta de åtgärder som krävs för transparent AI-märkning och detektering, granska dokumentationen av mänskliga tillsynsprocesser och identifiera luckor mellan deras nuvarande strategi för transparens och de åtgärder som krävs enligt uppförandekoden.

Om din organisation överväger att följa ISO 42001, kontakta oss för att se hur ISMS.online kan hjälpa till. Ta nästa steg mot ansvarsfull och metodisk AI-hantering och se till att din organisations AI-användning överensstämmer med de rättsliga skyldigheterna i EU:s AI-lag.

Utöka din kunskap

Blogg: En viktig deadline för EU:s AI-lag närmar sig: Här är vad företag behöver veta

Blogg: Kan ISO 42001 bli Storbritanniens De Facto AI-regulator?

Webinar: Lärdomar från en av världens första ISO 42001-certifieringar