September var en vändpunkt för förespråkare för AI-etik. FTC utfärdad Avsnitt 6(b) beordrar sju stora teknikföretag som producerar chattrobotar att användas som följeslagare. Detta är den första stora federala utredningen som specifikt riktar sig mot AI-följeslagarchattrobotar som är utformade för att efterlikna mänskliga egenskaper, känslor och avsikter. FTC drar inte åt sig några slag. De går efter några av AI:s mest tungviktiga företag. Alphabet, Meta Platforms, Instagram, OpenAI, Snap, Character Technologies och Elon Musks xAI fick alla bokstäver.

Kommissionärerna röstade enhälligt för att utfärda orderna, vilket signalerar en tvåpartisk oro för AI inom regleringsområdet. De gav företag 45 dagar på sig att förklara olika aspekter av sin AI-verksamhet, inklusive hur de tjänar pengar på användarengagemang, bearbetar användarinput, genererar output som svar på användarförfrågningar och utvecklar och godkänner sina AI-karaktärer. De måste också rapportera om hur de mäter, testar och övervakar negativa effekter före och efter implementeringen, samt hur de mildrar negativa effekter, särskilt för barn.

I dessa rapporter diskuteras också hur de informerar användare och föräldrar om potentiella negativa effekter, om sina metoder för datainsamling och hantering, samt hur de använder eller delar personlig information. Det finns alltså en bred oro över potentiella skador på integriteten och sårbara användare.

Hur påverkar detta B2B-företag?

Vi är både förvånade och inte förvånade över att FTC gör detta. Å ena sidan är Trump-administrationen starkt emot reglering, särskilt när det gäller AI. Å andra sidan har flera familjer stämt barn och påstått att AI-chattrobotar uppmuntrat tonårssjälvmord. Barn har påstås ha hetsat upp sig att ta sina egna liv av AI-algoritmer som fungerat oansvarigt. Så det är hög tid att något görs.

AI:er som snabbt och lättvindigt använder sig av sårbara människors känslomässiga tillstånd väcker dock problem med konsumenternas skada. Hur kan detta påverka B2B-företag?

Alla antaganden om att B2B-organisationer kan ignorera konsumentorienterad AI-reglering är farliga. varnade Mayer Brown-advokaterna Christa Bieker och Christopher Leach år 2022. FTC avsnitt 5 innehåller inga uttryckliga begränsningar för vem som kvalificerar sig som konsument. Den har till exempel vidtagit verkställighetsåtgärder mot B2B-betalningsleverantörer och småföretagslångivare.

Och denna åtgärd antyder att FTC inte kommer att vara så passiv som vissa av oss kanske har trott när det gäller att korrigera en del av AI:s skador.

År 2023 sa dåvarande ordföranden Lina M. Khan att ”Det finns inget undantag från lagarna gällande AI, och FTC kommer att kraftfullt tillämpa lagen för att bekämpa otillbörliga eller vilseledande metoder eller otillbörliga konkurrensmetoder.” Det återstår att se hur mycket av detta som kommer att finnas kvar i den nya administrationen, men det finns helt klart fortfarande en aptit för att hålla företag ansvariga.

Företag som inte använder AI korrekt riskerar "algoritmisk avmattning"

Det kommer att vara en sorglig och sällsynt person som förälskar sig i sin kundreskontra-chatbot. Ändå kan oansvarig användning av AI fortfarande orsaka problem för B2B-företag.

Till exempel har FTC infört en algoritmisk åtgärd för borttagning som kan användas för att få företag att ta bort AI:er som har utvecklats med felaktigt inhämtad data. Dessa har främst tillämpats i konsumentärenden, men som vi har lärt oss kan företag också vara konsumenter.

Använd ISO 42001 för att dokumentera bästa praxis

Det finns åtgärder som företag kan vidta för att skydda sig själva genom att säkerställa att de utvecklar och driftsätter sina AI:er på ett ansvarsfullt sätt. En av de mest kraftfulla är att dokumentera att man gör saker ansvarsfullt från grunden. ISO 42001, en internationell standard specifikt för AI-hanteringssystem (AIMS), tar upp AI-utmaningar, inklusive etik, transparens, kontinuerligt lärande, partiskhet och ansvarsskyldighet. Det är just dessa problem som driver FTC:s utredning.

Till exempel måste organisationer som följer denna standard identifiera och dokumentera potentiella skador före implementering, bedöma oproportionerliga effekter på skyddade grupper, regelbundet omvärdera risker och implementera dokumenterade riskreducerande åtgärder. Det är precis vad FTC kräver av chatbot-leverantörer.

På liknande sätt reglerar ISO 42001:s bilaga A.7 kravet på dokumentation av datainsamlingskällor, tillsammans med omvandling, användning och lagring. Den tittar på datakvalitetshantering, inklusive effekterna av eventuella fel i systemet.

Även företag som inte direkt har kontakt med konsumenter gör klokt i att titta på FTC:s nuvarande utredning ur ett B2B-perspektiv. Chatbotar är inte bara nya gränssnitt till befintliga företagssystem. Snarare är de mycket kraftfullare när det gäller hur de kan samla in och hantera data, och de har ett mycket mer flytande och naturligt språk. Det skapar nya sätt att interagera med företagskunder och med anställda.

FTC:s order enligt avsnitt 6(b) signalerar inte rättsliga åtgärder; de är verktyg för att undersöka fakta som hjälper till att komplettera kommissionens kunskap. Men om den inte gillar vad den finner kan verkställighetsåtgärder följa. Och det kan skapa prejudikat för alla typer av AI-användning mot alla typer av konsumenter (även småföretag). I ett volatilt regelverk där beslutsfattare brottas med ny teknik lönar det sig att vara försiktig och införa kontroller.