Når din computer kan se hvordan du har det

Vi lever i en tid, hvor grænsen mellem menneskelig intuition og teknologisk analyse bliver stadig mere udvisket. Som erhvervspsykolog har jeg brugt tusindvis af timer på at observere de subtile signaler, som et menneske sender. En lille spænding omkring øjnene, et hurtigt åndedræt eller en ændring i kropsholdningen er alle spor, der fortæller mig, hvordan klienten har det indeni. Men hvad sker der, når vi overlader denne observation til en maskine?

Udviklingen inden for det, man kalder emotion AI, er ikke længere science fiction. Det er en virkelighed, der allerede er ved at blive rullet ud i biler, klasseværelser og behandlingssystemer. I mit arbejde med mental sundhed ser jeg ofte, hvordan evnen til at registrere egne følelser er det første skridt mod at forebygge overbelastning. Derfor er det afgørende, at vi forstår, hvad denne teknologi egentlig indebærer for vores psykiske arbejdsmiljø og hverdag.

Forskningen bag denne teknologi tager afsæt i klassiske psykologiske teorier. Allerede i 1970erne udviklede forskerne Paul Ekman og Wallace Friesen deres Facial Action Coding System, som kortlægger ansigtets muskelbevægelser til specifikke følelser. Det er dette system, som moderne algoritmer nu bruger til at afkode, om et rynket bryn skyldes bekymring eller dyb koncentration.

Ved Stanford University har man taget skridtet videre og udstyret særlige briller med algoritmer, der kan hjælpe børn med autisme. Teknologien sender en lille besked til barnet om, hvilken følelse personen foran dem udtrykker. Her ser vi et eksempel på, hvordan teknologien kan fungere som en social protese, der hjælper mennesker med at navigere i komplekse menneskelige samspil, som de ellers har svært ved at tyde.

Det er dog ikke kun via kameraer, at teknologien kan få adgang til vores indre tilstande. Forskere fra Massachusetts Institute of Technology har udviklet en enhed kaldet EQ-Radio. Denne maskine sender radiobølger ud, som kastes tilbage fra kroppen. Ved at analysere de bittesmå variationer i hjerterytme og vejrtrækning kan algoritmen afgøre, om en person er glad, trist eller måske påvirket af voldsom vrede.

I bilen kan dette bruges til at møde såkaldt road rage. Firmaet Affectiva har udviklet systemer, der overvåger chaufføren og giver besked, hvis aggressionsniveauet bliver for højt. Tanken er, at maskinen kan hjælpe os med at regulere os selv, før vi mister kontrollen. Det minder meget om de principper, jeg arbejder med i mine programmer, hvor vi lærer at spotte de tidlige tegn på den røde zone, før nervesystemet helt tager over.

Selvom teknologien lyder lovende, skal vi som fagpersoner bevare en kritisk sans. Psykolog Lisa Feldman Barrett fra Northeastern University har i sin forskning peget på en væsentlig udfordring: Et ansigtsudtryk er ikke en universel kode. En person kan rynke brynene, fordi de er vrede, men det kan også være et tegn på intens glæde eller fysisk anstrengelse. Konteksten betyder alt.

Derudover er der en reel risiko for skævheder i de data, maskinerne lærer af. Forskning fra University of Maryland har vist, at visse algoritmer har tendens til at tolke ansigter med mørkere hudtoner som mere negative end lysere ansigter, selvom de udviser de samme muskelbevægelser. Hvis vi ukritisk lader teknologien overtage diagnosticering eller overvågning, risikerer vi at reproducere menneskelige fordomme i en digital indpakning.

I Singapore bruger man allerede systemer til at hjælpe tusindvis af ældre med at spotte tegn på angst og depression via videoanalyse. Det store perspektiv her er forebyggelse. Hvis vi kan bruge teknologien til at gøre os opmærksomme på, hvornår vores krop er i alarmberedskab, kan vi handle hurtigere.

I min optik kan emotion AI aldrig erstatte den menneskelige relation eller den dybe psykologiske forståelse, men den kan fungere som et spejl. Når computeren spørger, om du er okay, tvinger den dig til et øjebliks selvrefleksion. Det er præcis det øjeblik, hvor man har mulighed for at skifte fra en reaktiv tilstand til en bevidst handling.

Her er mine psykologfaglige anbefalinger til, hvordan du kan forholde dig til teknologien og din egen mentale tilstand:

Brug teknologien som et supplerende værktøj frem for en absolut sandhed. Hvis dit smartur eller en anden enhed fortæller dig, at du er stresset, så brug det som en anledning til at mærke efter i kroppen frem for blot at acceptere maskinens dom. Fokusér på konteksten. Husk at dine følelser altid er farvet af den situation, du befinder dig i. En maskine ser kun overfladen, men du kender dybden og historien bag dine reaktioner. Øv dig i selvovervågning uden teknologi. Ved at lære dine egne personlige stresssignaler at kende, opbygger du en mental robusthed, der ikke er afhængig af batterilevetid eller algoritmer. Bevar din kritiske sans over for manipulation. Vær opmærksom på, hvis digitale platforme begynder at målrette indhold til dig baseret på dit humør, og tag bevidste pauser fra skærmen.

Som erhvervspsykolog ser jeg frem til at se, hvordan vi kan integrere de bedste dele af teknologien i vores arbejde med mental sundhed. Redskaber som aMindcheck arbejder netop med at gøre de indre tilstande synlige, så vi kan handle i tide, uanset om vi får hjælp af en algoritme eller vores egen mavefornemmelse.

Illustreret Videnskab, Trøstende robot, af Mika Meister. Massachusetts Institute of Technology (MIT), forskning i EQ-Radio. Stanford University, studier af Google Glass til autisme. Northeastern University, forskning i ansigtsudtryk af Lisa Feldman Barrett. University of Maryland, undersøgelse af bias i emotion AI (2018).