Även när vi blöder våra personuppgifter kan vi alltid lita på åtminstone en hemlighet: Om vi ​​har tillräckligt med självkontroll kan folk aldrig läsa våra tankar. Var nu beredd på att även det ändras.

För många teknologer är den sista gränsen i jakten på personlig information vad vi känner. För en marknadsförare eller politiker kan det vara det mest kraftfulla av allt att läsa våra känslor.

Försäljare har bråttom att utveckla produkter som kan göra just det. Vissa föreslår att man använder teknik som utnyttjar hjärndata (ett område som kallas neuroteknik). Apple har till exempel patenterad hjärnläsning AirPods. Tidigare i år, forskare vid Sydkoreas Ulsan National Institute of Science and Technology (UNIST) skapat en ansiktsmask de hävdar kan analysera bärarens omärkliga ansiktsförändringar för att läsa mänskliga känslor i realtid.

Vissa kräver inte nya prylar för att läsa känslor; de använder data från våra befintliga; så långt tillbaka som 2018, US National Institute of Health hittade det smartwatch-data gjorde det möjligt för forskare att fastställa bärarnas känslor med en anständig grad av noggrannhet. Idag, barnsjukhuset Holland Bloorview's Holly Systemet använder hjärtdata som samlats in från smartklockor och träningsspårare för att fastställa barns känslor, som det sedan visar på en app för vårdgivare.

Emotion-scanning wearables har en ljus sida. University of West Scotlands forskningsprojekt användningar en blandning av ansiktsanalys och data för bärbara enheter för att hjälpa till att förstå känslor hos personer inom autismspektrumet. Feel Therapeutics erbjuder ett bärbart och back-end dataanalyssystem för att analysera känslor för medicinska behandlingar, inklusive mentalvårdsterapi.

Vissa initiativ för känsloläsning fokuserar på medarbetarnas välbefinnande, särskilt i yrken med hög stress. Den brittiska polisstyrkans Oscar Kilo-program har prövade wearables för att övervaka det känslomässiga tillståndet hos poliser i särskilt stressiga positioner, inklusive skjutvapenanvändning och utredningar om utnyttjande av barn.

Integritetspolicy

Vid sidan av dessa positiva användningsområden ser Nita Farahany, Robinson O. Everett Distinguished Professor of Law & Philosophy vid Duke Law School, också en potentiell mörk sida.

"Hjärndata som dessa enheter kommer att samla in kommer inte att samlas in i traditionella laboratoriemiljöer eller i kliniska forskningsstudier som drivs av läkare och forskare," hon sade, pratar på ett Ted-evenemang.

"Istället kommer det att vara säljarna av dessa nya enheter. Just de företag som har commodifierat vår data i flera år”, tillade hon. Hon hävdar att denna data kommer att vara mer personlig än den data vi har delat tidigare eftersom den representerar den del av oss som vi vanligtvis håller tillbaka.

Neurorights Foundation, en ideell grupp med sitt ursprung vid Columbia University, fokuserar på att skydda mänskliga rättigheter från potentiellt missbruk eller missbruk av neuroteknik. I april 2024 publicerade den en rapport som heter Skydda hjärndata: Bedömning av sekretesspraxis för konsumentneuroteknikföretag. Den bedömde 30 företag som erbjuder icke-medicinskt certifierade konsumentenheter som samlade in neurala data och fann att 29 "tycks ha tillgång till konsumentens neurala data och inte ger några meningsfulla begränsningar för denna åtkomst." Den tillade att dessa företags policy gjorde det möjligt för dem att dela data med tredje part.

Från dataanalys till fjärrkontroll

Vilka är möjligheterna när företag blir skickligare på att läsa och registrera känslor? I den vardagliga änden av spektrumet, att förstå vad som upphetsar eller tråkar ut människor kan överdriva uppgifter som delad testning av olika webbdesigner. Mer intressant är dess förmåga att hjälpa till att skapa en djupt personlig bild av en persons intressen som går långt utöver att spåra vad de surfar på online.

Företag kan försöka använda data för att fatta kommersiella beslut. Till exempel kan ett hälso- eller livförsäkringsbolag ta hänsyn till ditt känslomässiga tillstånd när du bedömer din lämplighet för en försäkring.

Ett av de mest skrämmande scenarierna är kanske tanken på känslomässiga återkopplingsslingor. Om du tyckte att ett företag som matade inlägg på sociala medier baserat på vad du klickar på var läskigt, föreställ dig att det droppmatar ditt innehåll baserat på hur det vet att du känner dig. Facebook redan experimenterat med att medvetet manipulera människors känslor via sociala medier för över tio år sedan.

Dessa känslomässiga loopar kan vara förödande. När tekniken utvecklas till att verka mer personlig, blir dess förmåga att påverka känslor lika kraftfull som dess förmåga att upptäcka dem. Vi har redan sett anklagelser generativa AI-produkter som bidrar till självmord.

Rättsligt skydd

Vissa lagar skulle kunna åberopas av tillsynsmyndigheter för att förhindra överskridanden. Medan få företag som analyserades i Neurorights Foundation-rapporten uttryckligen erkände hjärndata som personlig information, menade advokater föreslå att det skulle falla helt och hållet i denna kategori under vissa konsumentskyddsbestämmelser, såsom GDPR. EU:s AI-lag reglerar också uttryckligen användningen av AI-drivna system som använder biometrisk data för känslomässig igenkänning, förbjuder dem rent ut i vissa miljöer och kategoriserar de som är tillåtna som högrisksystem med strikta regulatoriska krav.

Bedrövligt dåligt federalt integritetsskydd i USA kommer inte att erbjuda integritetsförespråkare samma tröst, men stater skärper sig. Vissa kanske kan ta itu med känsloläsande bärbara enheter under befintliga konsumentskyddslagar, medan vissa går för att peka ut hjärnbaserad data. I februari passerade Colorado en räkningen explicit skydda neurala data. Kalifornien klarade sitt eget räkningen i oktober. Ett annat sätt kan vara att klassificera känslomässiga data som biometriska.

Arbetet med wearables för känslodetektering fortsätter i snabb takt och marknaden växer snabbt. Teknik för emotionell igenkänning var värt 23.5 miljarder dollar år 2022 och kommer att nå 42.9 miljarder USD 2027 – en CAGR på 12.8 % under fem år. Det är mycket pengar på spel. Omvänt är det juridiska och etiska arbetet på detta område fortfarande embryonalt. Att behandla neurala och känslomässiga data som personuppgifter – om inte specialkategoridata med extra skydd – är ett smart drag på kort sikt, oavsett om tillsynsmyndigheter har testat problemet eller inte. Med något så kraftfullt, ju mer försiktighet, desto bättre.