Även när vi blöder våra personuppgifter kan vi alltid lita på åtminstone en hemlighet: Om vi ​​har tillräckligt med självkontroll kan folk aldrig läsa våra tankar. Var nu beredd på att även det ändras.

För många teknologer är den sista gränsen i jakten på personlig information vad vi känner. För en marknadsförare eller politiker kan det vara det mest kraftfulla av allt att läsa våra känslor.

Leverantörer har hastat fram att utveckla produkter som kan göra just det. Vissa föreslår att man använder teknik som utnyttjar hjärndata (ett område som kallas neuroteknologi). Apple har till exempel patenterat AirPods som avläser hjärnan . Tidigare i år skapade forskare vid Sydkoreas Ulsan National Institute of Science and Technology (UNIST) en ansiktsmask som de hävdar kan analysera bärarens omärkliga ansiktsförändringar för att läsa av mänskliga känslor i realtid.

Vissa kräver inte nya prylar för att läsa känslor; de använder data från våra befintliga; så långt tillbaka som 2018 fann US National Institute of Health att smartklockdata gjorde det möjligt för forskare att fastställa bärarnas känslor med en hyfsad grad av noggrannhet. Idag använder barnsjukhuset Holland Bloorviews Holly- system hjärtdata som samlats in från smartklockor och aktivitetsmätare för att fastställa barns känslor, som sedan visas i en app för vårdgivare.

Bärbara enheter som skannar känslor har en ljus sida. University of West Scotland använder i sitt forskningsprojekt en blandning av ansiktsanalys och data från bärbara enheter för att förstå känslor hos personer inom autismspektrumet. Feel Therapeutics erbjuder ett bärbart och backend-baserat dataanalyssystem för att analysera känslor för medicinska behandlingar, inklusive psykisk hälsoterapi.

Vissa initiativ för känsloavläsning fokuserar på anställdas välbefinnande, särskilt i högstressande yrken. Den brittiska polisens Oscar Kilo-program har testat bärbara enheter för att övervaka det känslomässiga tillståndet hos poliser i särskilt stressiga positioner, inklusive användning av skjutvapen och utredningar om utnyttjande av barn.

Integritetspolicy

Vid sidan av dessa positiva användningsområden ser Nita Farahany, Robinson O. Everett Distinguished Professor of Law & Philosophy vid Duke Law School, också en potentiell mörk sida.

”Den hjärndata som dessa enheter kommer att samla in kommer inte att samlas in i traditionella laboratoriemiljöer eller i kliniska forskningsstudier som leds av läkare och forskare”, sa hon vid ett Ted-evenemang.

"Istället kommer det att vara säljarna av dessa nya enheter. Just de företag som har commodifierat vår data i flera år”, tillade hon. Hon hävdar att denna data kommer att vara mer personlig än den data vi har delat tidigare eftersom den representerar den del av oss som vi vanligtvis håller tillbaka.

Neurorights Foundation, en ideell organisation med ursprung vid Columbia University, fokuserar på att skydda mänskliga rättigheter från potentiellt missbruk eller felaktig användning av neuroteknik. I april 2024 publicerade de en rapport med titeln Safeguarding Brain Data: Assessing the Privacy Practices of Consumer Neurotechnology Companies . De utvärderade 30 företag som erbjöd icke-medicinskt certifierade konsumentenheter som samlade in neurala data och fann att 29 "verkar ha tillgång till konsumenternas neurala data och inte ger några meningsfulla begränsningar för denna åtkomst." De tillade att dessa företags policyer gjorde det möjligt för dem att dela data med tredje part.

Från dataanalys till fjärrkontroll

Vilka är möjligheterna när företag blir skickligare på att läsa och registrera känslor? I den vardagliga änden av spektrumet, att förstå vad som upphetsar eller tråkar ut människor kan överdriva uppgifter som delad testning av olika webbdesigner. Mer intressant är dess förmåga att hjälpa till att skapa en djupt personlig bild av en persons intressen som går långt utöver att spåra vad de surfar på online.

Företag kan försöka använda data för att fatta kommersiella beslut. Till exempel kan ett hälso- eller livförsäkringsbolag ta hänsyn till ditt känslomässiga tillstånd när du bedömer din lämplighet för en försäkring.

Ett av de kanske mest skrämmande scenarierna är idén om emotionella feedback-loopar. Om du tyckte att ett företag som matar dig med inlägg på sociala medier baserat på vad du klickar på var obehagligt, tänk dig att de droppvis matar dig med innehåll baserat på hur de vet att du känner. Facebook experimenterade redan med att avsiktligt manipulera människors känslor via sociala medier för över tio år sedan.

Dessa känslomässiga loopar kan vara förödande. I takt med att tekniken utvecklas och blir mer personlig blir dess förmåga att påverka känslor lika kraftfull som dess förmåga att upptäcka dem. Vi har redan sett anklagelser om att generativa AI-produkter bidrar till självmord.

Rättsligt skydd

Vissa lagar skulle kunna åberopas av tillsynsmyndigheter för att förhindra överträdelser. Medan få företag som analyserats i Neurorights Foundations rapport uttryckligen erkände hjärndata som personlig information, menar jurister att det skulle falla helt inom denna kategori enligt vissa konsumentskyddsregler, såsom GDPR. EU:s AI-lag reglerar också uttryckligen användningen av AI-drivna system som använder biometriska data för emotionell igenkänning, och förbjuder dem helt i vissa miljöer och kategoriserar de som är tillåtna som högrisksystem med strikta regulatoriska krav.

Beklagligt dåligt federalt integritetsskydd i USA kommer inte att ge integritetsförespråkare samma tröst, men stater ökar sin ställning. Vissa kan kanske hantera känsloläsande bärbara enheter enligt befintliga konsumentlagar om integritet, medan andra övergår till att specificera hjärnbaserad data. I februari antog Colorado ett lagförslag som uttryckligen skyddar neurala data. Kalifornien antog sitt eget lagförslag i oktober. Ett annat sätt kan vara att klassificera känslomässiga data som biometriska.

Arbetet med bärbara enheter för känslomässig detektering fortsätter i snabb takt och marknaden växer snabbt. Tekniken för känslomässig igenkänning var värd 23.5 miljarder dollar år 2022 och kommer att nå 42.9 miljarder dollar år 2027 – en årlig tillväxttakt på 12.8 % under fem år. Det står mycket pengar på spel. Omvänt är det juridiska och etiska arbetet inom detta område fortfarande i sin linda. Att behandla neurala och känslomässiga data som personuppgifter – om inte data av särskilda kategorier med extra skydd – är ett smart drag på kort sikt, oavsett om tillsynsmyndigheterna har testat frågan eller inte. Med något så kraftfullt gäller det att ju mer försiktighet, desto bättre.