13-12-2019 5:53 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Een prominente groep onderzoekers, gealarmeerd door de schadelijke sociale gevolgen van kunstmatige intelligentie, riep donderdag op tot een verbod op geautomatiseerde analyse van gezichtsuitdrukkingen bij het inhuren en andere belangrijke beslissingen. Het AI Now Institute van de New York University zei dat actie tegen dergelijke software-gedreven ‘affect recognition’ de hoogste prioriteit had, omdat de wetenschap het gebruik van de technologie niet rechtvaardigt en er nog steeds tijd is om de wijdverbreide adoptie te stoppen.

De groep van professoren en andere onderzoekers noemde als problematisch voorbeeld het bedrijf HireVue, dat systemen voor video-interviews op afstand verkoopt voor werkgevers als Hilton en Unilever. Het biedt AI de mogelijkheid om gezichtsbewegingen, toon- en spraakpatronen te analyseren en geeft geen scores vrij aan de sollicitanten.

Het Non-profit Electronic Privacy Information Center heeft een klacht over HireVue ingediend bij de Amerikaanse Federal Trade Commission en AI heeft nu al eerder kritiek geuit op het bedrijf.

HireVue zei dat het het AI Now rapport niet had gezien en geen vragen over de kritiek of de klacht had beantwoord.

“Veel sollicitanten hebben geprofiteerd van de technologie van HireVue om de zeer belangrijke menselijke vooringenomenheid in het bestaande aanwervingsproces te helpen verwijderen,” zei woordvoerster Kim Paone.

AI nu, in zijn vierde jaarverslag over de gevolgen van kunstmatige intelligentiehulpmiddelen, zei het baanonderzoek één van vele manieren is waarin dergelijke software zonder verantwoordingsplicht wordt gebruikt, en typisch bevoorrechte groepen goedkeurde.

Het rapport haalde een recente academische analyse van studies aan over hoe mensen gemoedstoestanden van gezichtsuitdrukkingen interpreteren. Uit dat artikel bleek dat de vorige studiebeurs aantoonde dat dergelijke percepties onbetrouwbaar zijn om meerdere redenen.

“Hoe mensen boosheid, walging, angst, geluk, verdriet en verrassing communiceren, varieert aanzienlijk tussen culturen, situaties en zelfs tussen mensen binnen één enkele situatie”, schreef een team van de Northeastern University en het Massachusetts General Hospital.

Bedrijven, waaronder Microsoft, brengen hun vermogen om emoties te classificeren met behulp van software op de markt, aldus de studie. Microsoft heeft niet gereageerd op een verzoek om commentaar woensdagavond.

AI Nu ook kritiek op Amazon.com, die analyse van uitingen van emotie door middel van haar Rekognition-software biedt. Amazon vertelde Reuters dat de technologie van Amazon.com alleen de fysieke verschijningsvorm van iemands gezicht bepaalt en niet beweert te laten zien wat een persoon daadwerkelijk voelt.

In een conferentiegesprek voorafgaand aan de publicatie van het rapport, zeiden de oprichters van AI Now, Kate Crawford en Meredith Whittaker, dat het schadelijke gebruik van AI zich vermenigvuldigt ondanks de brede consensus over ethische principes, omdat er geen gevolgen zijn voor het schenden van deze principes.

Source : https://gadgets.ndtv.com/science/news/researchers-slam-artificial-intelligence-software-that-predicts-emotions-2148093

Tags : , , , , , ,

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

19 + zestien =

The maximum upload file size: 2 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded.