När nya teknologier och integritet kolliderar
Innehållsförteckning:
Teknikutvecklingen går snabbare än någonsin. Varje nytt genombrott gör nästa enklare. Precis som cloud computing och GPU:er öppnade upp en ny era av AI, gjorde mer allmänt förekommande trådlös kommunikation anslutna enheter möjliga. Men dessa framväxande teknologier ger integritetseffekter tillsammans med sociala fördelar.
AI-sekretess
De flesta AI-algoritmer skulle inte fungera utan stora mängder data. Dataforskare tränar dem med hjälp av omfattande samlingar av vad de än försöker bearbeta, till exempel bilder, ljudutdrag eller text. Användningen och hanteringen av dessa uppgifter väcker integritetsfrågor. Var kom uppgifterna ifrån? Innehåller den någon personlig information? Vem gav sitt samtycke till användningen och vilken typ av behandling samtyckte de till?
AI-användare agerar ofta först och ber om förlåtelse senare, antingen avsiktligt eller genom okunnighet. Ett sådant företag var Clearview AI, ett amerikanskt företag som skördade miljarder bilder utan tillstånd från populära sajter, inklusive Twitter och Facebook. Den använde skrapningsprogram för att skörda bilderna utan företagens eller försökspersonernas medgivande. Sedan använde den dem för att bygga en databas för ansiktsigenkänning som den gjorde tillgänglig för brottsbekämpande organisationer mot en avgift. Tills American Civil Liberties Union stämde sålde det också tillgång till privata företag och privatpersoner.
Clearview AI:s skrapning gjorde intrång i företagens åtkomstpolicyer, vilket fick flera att upphöra och avstå från brev. Det bröt också mot regionala integritetslagar enligt tre europeiska länder och Storbritannien. De beordrade alla att ta bort sina medborgares bilder från sin databas, men företaget lagrar dessa uppgifter någon annanstans och har avfärdas ICO:s påföljder.
Integritetsproblem uppstår också i hur och var algoritmerna används. Brittiska brottsbekämpande myndigheter har använt levande ansiktsigenkänning för att identifiera individer på offentliga platser. Cambridge universitetet fördömde detta som ett brott mot mänskliga rättigheter. I vissa fall har privata företag som butiker Begagnade ansiktsigenkänningssystem för att känna igen besökare utan deras medgivande.
AI:s förmåga att bearbeta stora mängder information och spotta ut ett lättsmält resultat (säg ett beslut om en låneansökan) kastar också dataintegriteten i rampljuset. Rapporter om algoritmiska fördomar är utbredda. Detta händer när vissa demografiska grupper är underrepresenterade i källdata eller där datapunkter ges olämplig betydelse i datamodellen. Om individer inte får chansen att samtycka till deras datas användning i dessa modeller – eller om de inte förstår konsekvenserna – kan deras mänskliga rättigheter och andras i deras samhällen drabbas.
Sekretess inom IoT
En annan ny teknik, Internet of Things (IoT), har också väckt oro för integritet. Allt från bilar till barnklockor samlar och vidarebefordrar nu användardata. Bilar samlar in information om användare, inklusive deras plats och deras körbeteende. I Kalifornien ändrar Consumer Privacy Rights Act från början av detta år den befintliga Consumer Privacy Protection Act, som bland annat skulle göra det möjligt för förare att välja bort bilförsäljare som skickar den här typen av information till försäkringsbolag. Tillverkarna måste på tå runt EU:s Allmän uppgiftsskyddsförordning (BRP).
IoT-företag misshandlar ofta också denna data. Forskare har hittade servrar som är värd för geolokaliseringsdata från billiga barnklockor som är sårbara för dataintrång, vilket sätter minderåriga i riskzonen.
Lagstiftare har infört grundläggande säkerhetsåtgärder för IoT-tillverkare. Kalifornien var bland de första. Storbritannien har antagit sin Proposition för produktsäkerhet och telekommunikationsinfrastruktur (PSTI)., medan EU har föreslagit sin egen Cyber Resilience Act. Men med mycket av den sårbara data som lagras utanför EU återstår det att se hur användbara dessa kommer att vara.
Blockchain-sekretess
Vår tredje begynnande teknologi, blockkedjor, skyddar till synes integritet genom disintermediation. De tar bort en central part som traditionellt underlättar och dokumenterar transaktioner, som en bank. Istället fungerar blockkedjan som en distribuerad reskontra som gör det möjligt för alla att göra transaktioner direkt samtidigt som de behåller sina egna kryptografiskt bevisade kopior av huvudboken. Det hindrar en central part från att missbruka eller förlora data.
Men hotet mot integriteten kommer i hur blockkedjor lagrar information. Till exempel lagrar den offentliga blockkedjan Ethereum allt i klarsynt, inklusive adresserna som människor använder för att göra transaktioner. Ethereums skapare Vitalik Buterin har beskriven integritet som "en av de största återstående utmaningarna i Ethereums ekosystem". Han föreslog att använda stealth-adresser – engångsadresser för engångsbruk som döljer en transaktions författare – som en möjlig lösning.
Andra former av blockchain är mindre mottagliga för dessa integritetsproblem. Till exempel ger privata blockkedjor endast tillgång till medlemmar i en specifik community. Informationen om dessa blockkedjor är inte offentligt synlig, vilket innebär att endast medlemmar kan se vad som händer. Dessa blockkedjor används dock i en delmängd av användningsfall, vanligtvis i industrivertikaler som supply chain management och finans.
Ny teknik gör det ofta möjligt för oss att göra saker som tidigare var omöjliga, men de introducerar också nya faror. Det kräver en omprövning av användarrättigheter och hur man skyddar dem. Facebooks gamla mantra, "Förflytta dig snabbt och bryt saker," var en hyllning till störningar. Men när de saker du bryter mot inkluderar sociala konstruktioner som förtroende och rättvisa, åligger det juridiska och regulatoriska experter att gå lika snabbt.
Stärk din datasekretess idag
Om du vill börja din resa mot bättre datasekretess kan vi hjälpa dig.
Vår ISMS-lösning möjliggör ett enkelt, säkert och hållbart förhållningssätt till datasekretess och informationshantering med ISO 27701 och andra ramar. Förverkliga din konkurrensfördel idag.
