Vad är en AI-granskning?
En AI-revision är en systematisk, oberoende och dokumenterad granskning av hur en organisation styr, utvecklar, driftsätter och använder AI-system. I samband med ISO 42001 , det är den mekanism genom vilken du verifierar att ditt AI-ledningssystem (AIMS) överensstämmer med standarden, dina egna dokumenterade krav och att det implementeras och underhålls effektivt.
AI-revisioner skiljer sig från traditionella informationssäkerhetsrevisioner på tre viktiga sätt. För det första täcker de AI-specifika artefakter som inte finns i ett ISO 27001-program, såsom konsekvensbedömningar av AI-system, modellkort, register över utbildningsdatas ursprung och livscykelvalideringsrapporter. För det andra bedömer de etiska och samhälleliga överväganden, inklusive rättvisa, transparens och ansvarsskyldighet, inte bara konfidentialitet, integritet och tillgänglighet. För det tredje följer de livscykeln för enskilda AI-system från målsättning till avveckling, snarare än att granska statiska kontroller isolerat.
En AI-revision kan vara intern (första part), leverantörsrevision (andra part) eller certifierings- eller övervakningsrevision (tredje part, utförd av ett ackrediterat organ). Den här sidan fokuserar på internrevisionen, eftersom det är där de flesta team arbetar dagligen och där en strukturerad checklista tillför mest värde. För ett bredare sammanhang om revisionscykeln, se vår guide till ISO 42001 revision processen.
Varför använda en checklista för AI-granskningar?
Att granska ett AI-ledningssystem utan en checklista är hur resultat missas, bevis glöms bort och ledningens granskningar förvandlas till diskussioner om omfattning. En praktisk checklista ger dig fyra saker:
- Konsekvent omfattning. Varje revision täcker samma områden i samma ordning, så jämförelser från år till år är meningsfulla och tillsynsrevisorer ser ett moget program.
- Försvarbara bevis. För varje kontrollområde vet du i förväg vilka bevis du ska begära, vilket innebär att de granskade kan förbereda sig och du lägger tid på att bedöma snarare än att jaga.
- Reproducerbara testprocedurer. En genomgång, en bevisinspektion och ett stickprov ger resultat som en annan revisor kan reproducera. Det är vad en extern revisor förväntar sig att se.
- Tydliga kriterier för godkänt eller underkänt. Utan kriterier blir resultat till åsikter. En checklista förvandlar varje punkt till en ja- eller nej-fråga som stöds av bevis.
Checklistan i den här guiden är avsedd för internrevisionskraven i klausul 9.2 och går igenom de nio Bilaga A kontroller områden (A.2 till A.10). Den är utformad för att skrivas ut, bearbetas och bifogas revisionsrapporten som bevis på att revisionen planerades och genomfördes enligt en definierad omfattning.
Hur definierar ISO 42001 kraven för internrevision?
Klausul 9.2 i ISO 42001 kräver att organisationer genomför internrevisioner med planerade intervall för att ge information om huruvida AIMS överensstämmer med både organisationens egna krav och standardens krav, och om det implementeras och upprätthålls effektivt. Den formuleringen är viktig. Revisorer kontrollerar inte bara att det finns policyer. De kontrollerar att ledningssystemet fungerar i praktiken.
Klausulen kräver också att du:
- Planera, upprätta, implementera och upprätthålla ett revisionsprogram, inklusive frekvens, metoder, ansvar, planeringskrav och rapportering.
- Definiera revisionskriterier och omfattning för varje revision
- Välj revisorer och genomför revisioner för att säkerställa objektivitet och opartiskhet
- Rapportera resultaten av revisioner till relevant ledning
- Spara dokumenterad information som bevis på revisionsprogrammet och dess resultat
Den normativa implementeringsriktlinjen i Bilaga B-vägledning utvecklar detta ytterligare. När man kombinerar klausul 9.2 med kontrollområdena i bilaga A får man strukturen för checklistan nedan.
Allt du behöver för ISO 42001
Strukturerat innehåll, kartlagda risker och inbyggda arbetsflöden som hjälper dig att styra AI ansvarsfullt och med självförtroende.
Checklista för AI-revision: De 9 områdena att täcka
Bilaga A till ISO 42001 är organiserad i nio kontrollområden. Tabellen nedan sammanfattar checklistan, typiska bevis och testprocedurer för varje område. Använd den som grund för din internrevision. För varje rad är godkännandekriteriet att bevisen är tillgängliga, aktuella, godkända och överensstämmer med den avsedda kontrollen.
| Annex A-området | Checklistapunkter | Typiska bevis | Test procedur |
|---|---|---|---|
| A.2 Policyer relaterade till AI | AI-policy finns och är godkänd; i linje med organisationens policyer; granskas med fastställda intervall; kommuniceras till personalen; täcker mål för ansvarsfull AI | Godkänd AI-policy, granskningslogg, kommunikationsregister, bekräftelse- eller attesteringsregister | Genomgång med policyägaren, granska godkännande- och granskningshistorik, exempel på attesteringar från ett tvärsnitt av roller |
| A.3 Intern organisation | AI-roller och ansvar dokumenterade och tilldelade; rapporteringsvägar för AI-problem definierade; styrningsforum möts och protokollförs | Organisationsschema, RACI för AI-beslut, uppdragsbeskrivning för Forum för AI-styrning, mötesprotokoll, logg över rapportering av problem | Intervjua ansvarig för AI-styrning, ta exempel på mötesprotokoll från de senaste 12 månaderna, spåra ett rapporterat problem från början till slut |
| A.4 Resurser för AI-system | Resurser för AI-system identifieras och dokumenteras (data, verktyg, beräkningar, mänsklig expertis); tillräcklighet granskas; dokumentationen hålls aktuell | Resursregister, kompetensregister, verktygs- och beräkningsinventering, resultat av granskning av resurstillräcklighet | Ta prov på ett AI-system, spåra dess resursdokumentation, verifiera att kompetensregister finns för nyckelroller, bekräfta granskningsbevis |
| A.5 Bedömning av effekterna av AI-system | Konsekvensbedömningsprocess definierad; tillämpad på alla AI-system inom ramen; täcker individer, grupper och samhälle; dokumenterad och granskad | Register över konsekvensbedömningar av AI-system, slutförda bedömningar, gransknings- och godkännanderegister, bevis på åtgärder gällande väsentliga konsekvenser | Ta prov på två AI-system, granska deras genomförda konsekvensbedömningar, bekräfta att omfattningen täcker samhällspåverkan, spåra eventuella åtgärder till avslut |
| A.6 AI-systems livscykel | Mål, design, utveckling, verifiering, validering, implementering, drift, övervakning och avvecklingskontroller på plats; bevis insamlade i varje steg | Livscykeldokumentation, designregister, testplaner, valideringsrapporter, driftsättningsgodkännanden, övervakningsloggar, utrangeringsregister | Välj ett AI-system och gå igenom hela livscykeln, granska bevisen i varje steg; bekräfta att valideringen var oberoende av utvecklingen. |
| A.7 Data för AI-system | Datainsamling, kvalitet, förberedelse och provenienskontroller definierade och tillämpade; datakällor dokumenterade; kvalitet mätt; proveniens behållen | Inventering av datakällor, kvalitetskriterier, register över dataförberedelser, dokumentation av ursprung, register över laglig grund där så är relevant | Sampla en träningsdatauppsättning för ett system inom scope, inspektera ursprunget, verifiera att kvalitetskontroller utförts och dokumenterats |
| A.8 Information till berörda parter | Systemdokumentation tillhandahålls användare; externa rapporteringsmekanismer definierade; planer för incidentkommunikation på plats | Användarvänlig dokumentation, versionsinformation, externa rapporteringsregister, mallar och loggar för incidentkommunikation | Granska användardokumentationen för ett driftsatt system, ta prov på all incidentkommunikation, verifiera att externa rapporteringsskyldigheter är uppfyllda. |
| A.9 Användning av AI-system | Processer för ansvarsfull användning definierade; avsedd användning dokumenterad; mål för användning granskade; användning utanför ramen förhindrad eller upptäckt | Användningsfallsregister, avsedda användningsförklaringar, policy för godtagbar användning, övervakningsregister, granskningsresultat | Exempel på två användningsfall, jämför faktisk användning med avsedd användning, inspektera övervakning och granska bevis |
| A.10 Tredjeparts- och kundrelationer | Leverantörer av AI-system och komponenter bedömda; ansvarsområden mellan parterna fördelade; kundens skyldigheter dokumenterade | Leverantörsregister med AI-specifik due diligence, kontrakt, ansvarsfördelningsmatris, dokumentation av kundvända skyldigheter | Ta stickprov på två AI-leverantörer, granska due diligence-register och kontrakt, verifiera att ansvaret är tydligt fördelat skriftligen |
A.2 Policyer relaterade till AI
Börja högst upp i huset. Bekräfta att en AI-policy finns, är godkänd på rätt nivå, granskas enligt en definierad cykel och kommuniceras och bekräftas av personal i relevanta roller. Policyn bör ange riktning för ansvarig AI och bör vara förenliga med andra organisationspolicyer, särskilt informationssäkerhet och dataskydd. Resultaten här handlar ofta om försenade granskningar, ofullständiga bekräftelserapporter eller att policyn inte behandlar ett viktigt område, såsom tredjeparts AI verktyg.
A.3 Intern organisation
Granska styrningsstrukturen. Vem äger AI-beslut? Var rapporteras AI-problem och hur prioriteras de? Finns det ett styrningsforum med tydliga behörighetskrav och ett beslutsmässigt quorum? Exempel på mötesprotokoll för substans, inte bara närvaro. Ett vanligt resultat är en väl ifylld RACI som inte återspeglas i det faktiska beslutsfattandet, vilket är enkelt att upptäcka genom att spåra ett verkligt beslut från början till slut.
A.4 Resurser för AI-system
Bekräfta att de resurser som behövs för att utveckla, driva och styra AI-system är identifierade, dokumenterade och tillräckliga. Resurserna inkluderar data, verktyg, datorinfrastruktur och mänsklig expertis. Kompetenselementet är ofta svagast. Leta efter rollspecifika kompetenskriterier och bevis på att personer i dessa roller uppfyller dem, snarare än generiska utbildningsdokument.
A.5 Bedömning av effekterna av AI-system
Konsekvensbedömningar av AI-system är ett av de utmärkande kännetecknen för ISO 42001 och en regelbunden källa till resultat. Bedömningen bör omfatta effekter på individer, grupper och samhället, och bör genomföras före implementering och granskas vid förändring. Se vår mer ingående guide om AI-konsekvensbedömningar för praktiska exempel. Ta ett urval av två AI-system inom ramen och spåra den fullständiga konsekvensbedömningen till godkännande och åtgärdsslut.
A.6 AI-systemets livscykel
Detta är det största kontrollområdet och belönar en genomgång av livscykeln. Välj ett AI-system i produktionen och följ det från målsättning till design, utveckling, verifiering, validering, driftsättning, drift, övervakning och utfasning. Det kritiska testet är om valideringen var oberoende av utveckling och om övervakningen har upptäckt någon avvikelse, incidenter eller användning utanför ramen. AI-systemets livscykel Guiden anger den fullständiga kontrollistan.
A.7 Data för AI-system
Det är data som AI-system lyckas eller misslyckas med. Granska insamling, kvalitet, förberedelse och provenienskontroller. Ta urval av en träningsdatauppsättning och verifiera att dess källor, licenser, kvalitetskontroller och lagliga grund (där personuppgifter är inblandade) är dokumenterade. Förvänta dig problem kring proveniens för äldre system och kring att datakvalitetsmätningar är informella snarare än registrerade.
A.8 Information för berörda parter
Bekräfta att användare, kunder, tillsynsmyndigheter och andra intresserade parter får den information de behöver. Detta inkluderar systemdokumentation vid driftsättning, incidentkommunikation och eventuella externa rapporteringsskyldigheter. Ta ett urval av en nyligen genomförd incident eller väsentlig förändring och granska den efterföljande kommunikationen.
A.9 Användning av AI-system
Den avsedda användningen av varje AI-system bör dokumenteras, och den faktiska användningen bör övervakas mot den. Organisationer som endast utvecklar AI, och organisationer som endast använder tredjeparts-AI, behöver båda detta kontrollområde. Ta ett exempel på två användningsfall, jämför faktisk med avsedd användning och inspektera den övervakning som upptäcker avvikelser.
A.10 Tredjeparts- och kundrelationer
Granska hur AI-leverantörer utvärderas, hur ansvaret fördelas mellan dig och dem, och hur kundernas skyldigheter dokumenteras. För leverantörer av grundmodeller och specifikt AI API-leverantörer, verifiera att due diligence har fångat modellens ursprung, utvärderingsdata och åtaganden för incidentrapportering. Resultaten här avser ofta kontrakt som föregår AI-programmet och inte har uppdaterats för att återspegla tilldelat ansvar.
Vilka bevis bör du samla in under en AI-granskning?
Bevis är det som förvandlar en åsikt till ett resultat. För varje punkt i checklistan, samla in minst ett av följande och bifoga det till revisionsdokumenten:
- Dokumentära bevis. Policyer, rutiner, register, bedömningsprotokoll, mötesprotokoll, godkännandeprotokoll och utbildningsregister.
- Systemgenererade bevis. Åtkomstloggar, övervakningsutdata, instrumentpaneler för modellprestanda, avvikelsedetekteringsvarningar och incidentärenden.
- Intervjunoteringar. Genomgångar med kontrollägare, medlemmar i styrningsforumet, dataforskare och produktchefer, med datum, deltagare och viktiga punkter registrerade.
- Observationsbevis. Skärmdumpar, skärminspelningar eller kommenterade utdrag som visar kontrollen i drift, till exempel ett godkännandearbetsflöde som avvisar en ogodkänd ändring.
- Resultat av provtest. Om du har testat ett urval (till exempel tio av femton konsekvensbedömningar av AI-system), registrera urvalsstorleken, urvalsmetoden och resultatet av godkännande eller underkännande per punkt.
Koppla varje bevis tillbaka till den kontroll den stöder och till det revisionsresultat (eller brist på resultat) den driver. Denna spårbarhet är precis vad en extern revisor vill se i dina register och är en av de vanligaste sakerna som görs fel vid pappersbaserade revisioner. För en fullständig bild av vad standarden kräver skriftligen, se vår guide till dokumentation som krävs enligt ISO 42001.
Påbörja din gratis provperiod
Vill du utforska?
Registrera dig för din kostnadsfria provperiod idag och få praktiska tillgångar med alla efterlevnadsfunktioner som ISMS.online har att erbjuda
Hur dokumenterar du resultat och korrigerande åtgärder?
Ett fynd är ett dokumenterat faktum, underbyggt av bevis, utvärderat mot ett kriterium. Bra fynd har fyra delar: villkor (vad som observerades), kriterium (vad som krävdes, till exempel klausulen eller kontrollen), orsak (varför det inträffade) och konsekvens (vad det betyder för AIMS). Fynd klassificeras sedan, vanligtvis som:
- Stor avvikelse. En fullständig uppdelning av en obligatorisk kontroll, eller flera relaterade mindre avvikelser som pekar på ett systematiskt problem. Dessa kommer att blockera certifiering om de upptäcks av en extern revisor.
- Mindre avvikelse. En enskild brist i en annars fungerande kontroll. Måste åtgärdas men blockerar sällan certifiering på egen hand.
- Observation eller möjlighet till förbättring. Inte ett brott mot krav, men något som är värt att åtgärda innan det blir ett fynd.
Varje avvikelse bör utlösa en korrigerande åtgärd som följer klausul 10. Det innebär att korrigera avvikelsen, fastställa orsaken, avgöra om liknande problem finns på andra ställen, implementera åtgärden, verifiera effektiviteten och behålla dokumenterad information. Registreringar av korrigerande åtgärder bör länka tillbaka till revisionsresultatet och vidarebefordra till eventuella uppdateringar av risker, kontroller, policyer eller Förklaring om tillämplighet.
En användbar mall för resultat har kolumner för: resultat-ID, revisionsreferens, kontroll eller klausul i bilaga A, villkor, kriterium, orsak, konsekvens, klassificering, ägare, förfallodatum, korrigerande åtgärd, verifiering av effektivitet och avslutningsdatum. Lägg in detta i dina arbetsdokument eller, ännu hellre, i en plattform som gör spårningen åt dig.
Hur ISMS.online förenklar AI-revisioner
ISMS.online ger dig checklistan för revisioner, bevisbibliotek, resultatspårare och arbetsflöde för korrigerande åtgärder på ett ställe, förmappat enligt ISO 42001.
- Färdigt revisionsprogram. Interna revisionsplaner anpassade till klausul 9.2 med inbyggda revisionsscheman, definition av omfattning och revisorsuppdrag.
- Checklistamallar per område i bilaga A. Varje punkt i checklistan är redan mappad till relevant kontroll, så revisorer lägger tid på att bedöma snarare än att skriva mallar.
- Länkade bevis på kontrollnivå. Bevis som samlats in mot kontroller i bilaga A syns direkt från revisionschecklistan, vilket eliminerar behovet av skattjakt.
- Resultat och korrigerande åtgärder i ett arbetsflöde. Avvikelser som upptäcks under revisionen skapar automatiskt korrigerande åtgärder med ägare, förfallodatum, verifieringssteg och uppföljning av avslut enligt klausul 10.
- Indata för ledningens granskning genereras automatiskt. Revisionsresultat, avvikelser och åtgärder sammanförs direkt med ledningens granskningspaket enligt klausul 9.3.
- Återanvändning av flera standarder. Bevis som samlats in för internrevisioner enligt ISO 27001 kan återanvändas mot relevanta ISO 42001-kontroller, eftersom allt finns på samma plattform.
Resultatet blir att en revision som skulle ha tagit två veckor av kalkylbladshantering och e-postjakt körs som ett hanterat arbetsflöde i ett enda verktyg, med bevisspåret klart för din externa revisor.
Varför välja ISMS.online för AI-revisionshantering?
ISMS.online är byggt från grunden för ISO 42001, inklusive hela internrevisionscykeln. Här är vad du får när du kör AI-revisioner på plattformen:
- En färdig checklista för AI-revision. Förmappad till klausul 9.2 och varje kontrollområde i bilaga A, så att din första revision inte börjar med en tom mall.
- Integrerat bevisbibliotek. Policyer, risker, konsekvensbedömningar och kontrollbevis är kopplade till de kontroller de stöder, så revisorer öppnar en punkt och ser bevisen.
- Resultat och åtgärder på ett ställe. Avvikelser som upptäcks under revisionen leder till korrigerande åtgärder med ägare, förfallodatum och verifiering av effektivitetskontroller, i linje med klausul 10.
- Ledningsöversikt klar. Revisionsresultat, avvikelser och korrigerande åtgärder matas direkt in i ledningens granskningspaket för klausul 9.3, vilket eliminerar behovet av datainsamling vid årets slut.
- Delas med ISO 27001. Ett enda revisionsprogram som omfattar ISO 42001 och ISO 27001, med hjälp av en uppsättning bevis, ett riskregister och en tillämplighetsförklaring.
- Metod med säkrade resultat. Beprövad implementerings- och revisionsmetod som har hjälpt hundratals organisationer att uppnå certifiering första gången, med mänskligt stöd hela tiden.
Oavsett om du genomför din första internrevision, förbereder dig för en steg 2-certifieringsrevision eller hanterar årlig övervakning, ISMS.online håller programmet strukturerat och bevisen försvarbara. För en bredare beredskapskontroll, kör en förklaring av skillnaden först, eller arbeta igenom hela vår Checklista för efterlevnad av ISO 42001.
Redo att se plattformen i aktion? Boka demo att se hur ISMS.online kan driva ditt AI-revisionsprogram.
Vanliga frågor
Vad är en checklista för AI-revision?
En checklista för AI-revision är en strukturerad lista med punkter som en internrevisor går igenom för att bedöma om en organisations AI-ledningssystem överensstämmer med ISO 42001 och implementeras effektivt. En bra checklista täcker revisionskraven i klausul 9.2 och alla nio kontrollområden i bilaga A (A.2 till A.10), med bevisförväntningar och testprocedurer definierade för varje punkt så att resultaten är konsekventa och försvarbara.
Hur ofta bör jag köra en internrevision av AI?
ISO 42001 klausul 9.2 kräver internrevisioner med planerade intervall, utan att föreskriva en specifik frekvens. I praktiken genomför de flesta organisationer en fullständig AIMS-revision årligen, med ytterligare fokuserade revisioner av AI-system eller kontrollområden med högre risk minst var sjätte månad. Revisionsfrekvensen bör vara riskbaserad, så ett generativt AI-system med hög effekt i produktionen motiverar en mer frekvent granskning än ett internt produktivitetsverktyg.
Vem kan genomföra en internrevision enligt ISO 42001?
Internrevisorer måste vara objektiva och opartiska, vilket innebär att de inte kan granska arbete de ansvarar för. Många organisationer använder en kombination av utbildad intern personal utanför AI-funktionen, ett centralt revisionsteam eller en oberoende tredje part som agerar som förstapartsrevisor för deras räkning. Det som är viktigt är att revisorn är kompetent att bedöma AI-specifika kontroller och är fri från intressekonflikter i förhållande till de områden som granskas.
Vad är skillnaden mellan en AI-revision och en konsekvensbedömning av AI?
En konsekvensbedömning av AI-system (bilaga A.5) utvärderar de potentiella effekterna av ett AI-system på individer, grupper och samhället före implementering och vid förändring. En AI-revision (klausul 9.2) utvärderar om ledningssystemet som styr AI, inklusive själva konsekvensbedömningsprocessen, uppfyller kraven och fungerar i praktiken. En revision kommer vanligtvis att använda stickprov av konsekvensbedömningar som bevis, men den täcker även policyer, livscykelkontroller, datastyrning, leverantörer och alla andra områden inom AIMS.
Måste internrevisionen täcka alla AI-system varje gång?
Nej. Revisionsprogrammet bör säkerställa att varje del av AIMS och varje AI-system inom ramen för AIMS granskas under en definierad cykel (vanligtvis ett till tre år), men enskilda revisioner kan begränsas till en delmängd. För de flesta organisationer gör den årliga revisionen ett urval av AI-system baserat på risk och väsentlighet, så de system med störst påverkan granskas oftast och de med lägre risk täcks i rotation. Själva revisionsprogrammet är det dokumenterade beviset på den planen.
Hur kopplas resultat från AI-granskningar till korrigerande åtgärder?
Varje avvikelse som upptäcks under en revision bör utlösa en korrigerande åtgärd enligt klausul 10. Det innebär att korrigera problemet, fastställa grundorsaken, överväga om samma problem finns någon annanstans, implementera åtgärden, verifiera effektiviteten och behålla dokumenterad information. ISMS.online, iakttagelser som framkommer under revisionen skapar automatiskt korrigerande åtgärder med ägare och förfallodatum, och verifiering av effektivitet spåras ända fram till avslut så att inget avviker.
Kan samma revision omfatta ISO 42001 och ISO 27001?
Ja. Båda standarderna följer den övergripande strukturen i bilaga SL och delar klausuler kring ledarskap, planering, stöd, drift, utvärdering och förbättring. Bilaga D i ISO 42001 ger en tydlig koppling till ISO 27001. Ett kombinerat revisionsprogram är mer effektivt, undviker dubbel insamling av bevis och stöds av plattformar med flera standarder som ISMS.online som använder ett enda riskregister, bevisbibliotek och revisionsarbetsflöde över båda standarderna.
