Følelsesdetekterende teknologi bør forbydes, siger AI nu

Teknologiverdenen kræver en ny lov for at begrænse omfanget af følelsesdetekterende teknologi. Denne teknologi læser følelserne gennem mikroudtryk og stemmetone. Store softwarevirksomheder gør brug af denne teknologi til at udvikle software til at opdage menneskelige følelser, men der er en fangst, som fremhævet af det amerikanske forskningscenter, AI Now.

Udtryk kan ikke være det samme, det bliver ved med at ændre sig

Hvor folk er glade for at se en ny trend inden for teknologi i form af følelsesdetektion, har teknologianalytikere og forskningscentre i USA, AI Now, opfordret til at begrænse omfanget af denne teknologi. AI Now Institute siger, at 'Følelsesdetektionsteknologi er bygget på et markant rystende fundament.'

Ifølge forskerne bør sådan teknologi ikke bruges til at træffe vigtige beslutninger, der viser sig at være ugunstige for mennesker, deres liv og de muligheder, de kan få eller har mistet på grund af det.

AI Now afslører katastrofen med følelsesdetektionsteknologi og siger i sin årsrapport, at følelsesdetekterende teknologi hævder at læse mikroudtrykkene i vores ansigt, måden vi taler på og tonehøjden af ​​vores stemme. Baseret på disse observationer fortolker teknologien personens følelser. Disse udtryk kan være i konstant forandring og er ikke stabile. Så beslutninger baseret på det kan være forkerte.

Med ordene fra professor Kate Crawford, medstifter af AI Now, 'Det bliver brugt overalt, fra hvordan man ansætter den perfekte medarbejder til vurdering af patientens smerter til at spore, hvilke elever der ser ud til at være opmærksomme i klassen. Samtidig med at disse teknologier bliver rullet ud, viser et stort antal undersøgelser, at der ikke er noget væsentligt bevis for, at folk har dette konsekvente forhold mellem de følelser, du føler, og den måde, dit ansigt ser ud på.”

For yderligere at forklare problemet tilføjede Prof Crawford, at nogle af de firmaer, der udvikler sådan software, er baseret på forskningen lavet tilbage i 1960 af Paul Ekman, som siger, at et menneskeligt ansigt kun kan udtrykke 6 grundlæggende følelser. Men senere er der fundet flere variationer til denne forskning, som er fuldstændig ignoreret i følelsesdetektionsteknologi.

Hvad er konteksten?

AI Now løfter også tæppet for, at mange virksomheder sælger software baseret på denne teknologi. For eksempel har Oxygen Forensics solgt softwaren til korps for bedre at efterforske de mistænkte. Korps får evnen til at opdage vrede, stress eller angst i deres ansigter. Et andet eksempel på det kan hentes fra HireVue, som solgte softwaren til en virksomhed, der gør brug af den til at udvælge kandidaterne til interview.

Før man regner med følelsesdetektionsteknologi, bør industrien akkumulere flere beviser og fakta om, at softwaren registrerer de rigtige følelser, er konsistent og effektiv i alle situationer. Ellers påvirker det menneskers liv negativt ved at træffe forkerte beslutninger baseret på tvetydig teknologi. Til sidst, for at gøre verden til et bedre sted at leve, bør sådanne teknologier bruges ansvarligt.

Til dette er forskerne af den samme opfattelse, at man skal forstå den kontekst, hvori følelsesudtrykkene bliver opdaget. Det samme udtryk kan have forskellig betydning i forskellige situationer. Så kontekst er nøglen til at træffe beslutninger baseret på de udtryk, der detekteres af Emotion-detection-teknologi.