AI inom sjukvården utvecklas snabbt, men datastyrning har svårt att hålla jämna steg

By Kate O'Flaherty • 19 maj 2026 • 6 minuters läsning

Hur kan vårdorganisationer åtgärda brister i förtroende och datastyrning för att realisera de fulla fördelarna med AI?

Av Kate O'Flaherty

Hälso- och sjukvårdssektorn innoverar med hjälp av AI, med enorm potential för tekniken inom områden som diagnostik, triage och administration.

I Storbritannien är NHS redan omfamna AI utöver grundläggande uppgifter. NHS England har börjat Pilotprojekt för AI-screening av lungcancer, där tekniken kan identifiera mindre problem än vad det mänskliga ögat kan se.

Samtidigt har den amerikanska livsmedels- och läkemedelsmyndigheten FDA auktoriserad över 1 000 AI-integrerade enheter, varav majoriteten används inom radiologi.

Under de senaste två åren har ledare inom hälso- och sjukvården gått från att ifrågasätta om AI är relevant till att fokusera på hur den kan användas ansvarsfullt och i stor skala, enligt en nyligen genomförd studie. McKinsey rapport.

Siffrorna visar att hälften av amerikanska hälso- och sjukvårdsorganisationer redan har implementerat generativ AI, medan mer än 80 % hade distribuerat sina första användningsområden till slutanvändare. Nästa steg, enligt McKinsey, är att se organisationer gå från att använda generativ AI för att skapa innehåll och stödja individuella uppgifter till att ... agent AI att vidta åtgärder och samordna mer komplexa processer.

Ändå försenar betydande hinder innovation inom AI inom hälso- och sjukvården, inklusive säkerhetsrisker och efterlevnadsproblem på grund av de stora mängder känslig data som behövs för att utbilda system. Hur kan hälso- och sjukvårdsorganisationer lösa brister i förtroende och datastyrning för att realisera AI:s fulla fördelar?

Mycket känsliga uppgifter

Hälso- och sjukvårdsdata är bland de känsligaste och mångfacetterade inom alla sektorer och kombinerar medicinska journaler, personuppgifter och finansiell information från flera leverantörer och system.

”En patients information kan finnas på olika sjukhus, vårdcentraler, specialister, laboratorier, apotek, försäkringsbolag och teknikplattformar – ofta i inkompatibla format utan en enhetlig journal som binder samman den”, förklarar Craig Gravina, teknisk chef på Semarchy.

Resultatet är att inget enskilt system har en komplett bild av en patient. ”Att bygga den bilden – den longitudinell patientjournal — är vad som krävs för att AI ska fungera säkert och effektivt i en klinisk miljö”, berättar Gravina IO”Utan den arbetar AI utifrån en ofullständig och opålitlig bild. Inom sjukvården går detta bortom att vara ett dataproblem och det blir en patientsäkerhetsfråga.”

I takt med att AI integreras i kliniska arbetsflöden står organisationer inför ett ökande tryck att besvara grundläggande frågor: Varifrån kommer dessa data, har de validerats, vem har åtkomst till dem och kan AI-assisterade beslut granskas? ”När system börjar påverka kliniska beslut i stor skala, blottlägger svaga datagrunder allvarliga brister i förtroende och ansvarsskyldighet”, säger Gravina.

Införandet av AI-teknik skapar problem inom tre områden: Ansvarsskyldighet, förklarbarhet och samtycke, säger Mike Macauley, VD på Liferay. ”Ingen vet vem man ska skylla på när AI ger medicinska råd. Om ett system ger en rekommendation kan lagen inte säga vem som är ansvarig för resultatet.”

Många AI-modeller är i praktiken "svarta lådor" som inte förklarar hur de når en slutsats, enligt Macauley. Det skapar ett juridiskt problem enligt Storbritanniens Allmän uppgiftsskyddsförordning (GDPR), eftersom patienter har rätt att veta varför en dator fattade ett specifikt beslut om deras hälsa, säger Macauley.

Samtidigt tränar företag sin AI med hjälp av data som de samlat in för ett visst ändamål, men den används ofta också av andra skäl. ”Det betyder att de inte kan bevisa att de har laglig rätt att använda den ursprungliga informationen som lärde ut systemet”, berättar Macauley. IO.

Det dolda problemet

I takt med att AI introduceras inom hälso- och sjukvården är en ofta förbisedd risk vad som händer när data passerar genom en komplex kedja av tredje parter, såsom äldre plattformar och externa partners.

”Ansvaret späds ut vid varje överlämning”, enligt Semarchys Gravina. ”Det är inte alltid tydligt vem som äger informationen i varje steg, vem som är ansvarig för dess kvalitet eller vem som är ansvarig när något går fel. När ingen enskild part har en komplett bild av datalivscykeln från början till slut, bryts styrningen samman.”

För att öka komplexiteten utformades traditionella ramverk för hälso- och sjukvårdsstyrning för statiska system med relativt stabila dataflöden och fasta regler. Till exempel Cyber Essentials och NHS informationsstyrning, fungerar bara för stela system. ”AI bryter mot dessa regler eftersom den ständigt utvecklas”, säger Macauley från Liferay.

Samtidigt en standard Dataskyddskonsekvensbedömning Enligt GDPR tittar AI bara på ett system en gång. Däremot kan den ändra sitt beteende utan att någon kontrollerar om det fortfarande är säkert eller lagligt, enligt Macauley.

Flaskhalsar i innovation

Bristande förtroende för styrningen undergräver utvecklingen av AI inom hälso- och sjukvården genom att öka risken för flaskhalsar i innovationen. När organisationer saknar förtroende för sina databaser stannar implementeringen av AI av.

”Ledare kommer att tveka att använda AI i kliniska miljöer om de inte kan garantera datakvalitet och datahärdning, eller visa granskningsbarhet för tillsynsmyndigheter”, säger Gravina från Semarchy. ”Ironin är att den styrningsinfrastruktur som behövs för att skala AI på ett säkert sätt är densamma som levererar den longitudinella patientdatavyn som gör AI mer effektiv från första början.”

God styrning är den som möjliggör effektiv AI inom hälso- och sjukvården, förklarar han. ”Avgörande är att exponering av data för AI inte behöver innebära att man förlorar det styrningsvärde som byggts upp kring den – dataavstamning, åtkomstkontroller och datakvalitet bör följa med data, inte lämnas kvar när de går in i en AI-pipeline.”

Internationella standarder

Två internationella standarder utgör ramverket för hantering av AI. ISO 27001 ger grunden för stark informationssäkerhet och styrning, och hjälper till att etablera strukturerade metoder för riskhantering, åtkomstkontroll, incidenthantering, tillgångshantering och ansvarsskyldighet. Detta bidrar till att bygga "mer försvarbar styrning", säger Gravina.

ISO 42001 bygger vidare på detta genom att införa styrning som är specifikt utformad för AI-system. Den fokuserar på tillsyn, AI-specifik riskhantering, transparens och ansvarsfull utveckling och användning av AI.

Tillsammans gör dessa standarder det möjligt för vårdorganisationer att ”gå bortom tillfälligt AI-antagande och mot en mer strukturerad styrningsmodell”, förklarar Gravina.

Det är tydligt att AI erbjuder enorm potential inom hälso- och sjukvården, om styrningsstrukturer kan anpassas för att passa denna innovativa nya era.

Patienternas förtroende bör ligga till grund för allt, enligt experter. Lohyd Terrier, docent i organisationsbeteende vid EHL Hospitality Business School, förespråkar att AI ska behandlas som en explicit tjänst för patienten. ”Den ska vara spårbar, förklarbar och kunna avböjas – snarare än en osynlig backofficefunktion.”

Utgångspunkten måste vara själva data. Ledare behöver förstå om deras organisation har grunden på plats för att bygga ”en enhetlig, longitudinell syn på patientdata över alla system och vårdgivare”, säger Gravina från Semarchy. ”Utan det är AI-styrning byggd på sand.”

Han rekommenderar att kartlägga var AI redan används, identifiera kritiska dataflöden och beroenden från tredje part, klargöra ägarskap och förvaltning, och stärka åtkomstkontroller, revisionsspår och datakvalitet från början till slut. ”Integritet, säkerhet och AI-styrning måste samordnas i en enda sammanhängande strategi, snarare än att hanteras isolerat.”