05-02-2020 4:32 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Elk bedrijf maakt gebruik van gegevens en een steeds groter deel van die informatie wordt in Artificial Intelligence (AI)-motoren ingevoerd. Naast retailorganisaties, bankinstellingen en bouwbedrijven (bij gebrek aan drie standaard industrie verticals) wordt ook AI-gedreven data analyse gebruikt door de slager, de bakker en de kandelaar (bij gebrek aan drie minder traditioneel geciteerde industrie verticals met een rub-a-dub-dub verbinding) en dat gebeurt elke dag.

Onze politiekorpsen maken ook gebruik van AI – en in het bijzonder wordt er naartoe gezeefd door de enorme hoeveelheden informatie die op draagbare lichaamscamera’s worden vastgelegd. Maar er is een probleem. Om deze nieuwe technieken goed te kunnen gebruiken, moeten we ervoor zorgen dat de AI-software-engines die de taak hebben om te begrijpen wat er in de videobeelden gebeurt, onbevooroordeeld en grondig verantwoordelijk zijn.

Politiediensten in heel Europa, Noord-Amerika en daarbuiten hebben deze technologieën nog niet volledig omarmd en zijn in veel gevallen nog steeds afhankelijk van oude, tijdrovende praktijken (zoals het bekijken van videobeelden door mensen en het invullen van een spervuur van papieren formulieren) om al deze informatie te kunnen begrijpen.

De politie in de zesde zin van het woord

Het doel is om politieagenten een extra gevoel te geven. Krachten over de hele wereld hebben lang gesproken over het hebben van hun vijf fundamentele menselijke zintuigen (aanraking, zicht, geluid, smaak en gehoor) en een extra zesde zintuig, dat ze politie-instinct noemen. Het politie-zesde zintuig wordt getrokken uit verdenking, natuurlijk buikgevoel, angst, intuïtie en gezond verstand.

Met de juiste soort AI toegepast op de handhavingstaken van ons korps, kunnen we misschien een punt bereiken waarop de politie ook over hun zevende zintuig praat… en in dit geval zou het een elektronisch AI-gebaseerd zintuig zijn. Maar de belangrijkste uitdaging in deze wereld van missiekritische communicatie is hoe we ervoor kunnen zorgen dat het op verantwoorde wijze wordt gebruikt.

Op het gebied van de openbare veiligheid betekent de toepassing van verantwoorde AI een meer gerichte (of beperkte) benadering van deze technologie, omdat we proberen een betere besluitvorming in handen te leggen van professionals die al bekend zijn met het nemen van beslissingen in een fractie van een seconde onder druk. AI moet het menselijk beoordelingsvermogen ondersteunen en vergroten, niet dempen of verdringen.

Het argument hiervoor is dat elke implementatie van AI in welke vorm dan ook van beveiligingsdiensten vergelijkbaar moet zijn met bestaande processen en praktijken. Dit komt omdat deze processen de basis vormen voor de prestaties van een bepaald strafrechtelijk systeem.

AI moet de menselijke cultuur ‘krijgen’.

Volgens Paul Steinberg, hoofd technologie bij Motorola Solutions, moet security AI worden verankerd in (en afgemeten aan) algemeen aanvaarde cultureel en ethisch verantwoorde methoden. Het moet ook eerlijk zijn, gemakkelijk te begrijpen en zich houden aan strikte codes van privacy en veiligheid. Kortom, ze moet vertrouwd worden door haar gebruikers de politie en de maatschappij als geheel.

“Het is belangrijk om te begrijpen dat AI fundamenteel amoreel is. Het wordt niet direct beïnvloed door menselijke discriminerende neigingen, emoties, afleidingen of vermoeidheid. Maar kwesties zoals vooringenomenheid treden op wanneer de output van het AI-proces resulteert in een inconsistente behandeling in een groep. Dit komt vaak omdat bijvoorbeeld de gegevens die gebruikt worden om de AI te trainen zelf bevooroordeeld zijn. Bijvoorbeeld het verkeerd identificeren van gezichten voor een bepaalde bevolkingsgroep, zoals ras, geslacht, leeftijd en fysiologie”, aldus Steinburg van Motorola Solutions.

Waarom zouden we naar Motorola Solutions over dit onderwerp moeten luisteren? Het bedrijf (Motorola, het moedermerk dat Motorola Mobility en Motorola Solutions overspant) staat bekend om zijn smartphones en zijn microprocessoren (als je gekkig genoeg bent om het te weten) en zijn persoonlijke pieperproducten (als je oud genoeg bent om het je te herinneren), maar het staat ook bekend om zijn Tetra-merk van missiekritische communicatieapparatuur, dat op grote schaal is gebruikt door politiediensten in het Verenigd Koninkrijk en elders.

Motorola Solutions benadrukt de noodzaak van ‘Human in the Loop’ als onderdeel van de ontwerpprincipes van volwassen AI-systemen. Op het gebied van openbare veiligheid komt dit neer op AI die de menselijke besluitvorming vergroot zonder het menselijk oordeel te verdringen of te ontkrachten. Met andere woorden, AI kan suggesties doen, maar beslissingen overlaten aan de mens. Dat betekent dat de kennis en intuïtie van de politie, hun zesde zintuig, niet wordt verplaatst.

Hoge snelheid menselijke factoren (HVHF)

Binnen Human in the Loop zijn er een aantal disciplines die worden aangeduid als High Velocity Human Factors (HVHF). Deze factoren erkennen dat hoe meer stress een individu ondervindt, hoe minder cognitieve capaciteit ze op iets anders moeten toepassen. Als een politieagent een wapen heeft ingezet, is er dus weinig anders dat hij of zij kan of moet richten op andere zaken dan de dreiging die zich voordoet. De paradox van HVHF is dat hoe meer een individu zou kunnen profiteren van technologie, hoe minder mentale capaciteit ze hebben om het te gebruiken.

“De verleiding is om in deze omstandigheden AI toe te passen om de last voor de officier te verlichten en beslissingen te nemen in hun naam”. AI is immers niet gebonden aan de beperkingen van HVHF en menselijke emotie,” voegde Steinberg van Motorola Solutions eraan toe. “Maar om de mens op de juiste manier op de hoogte te houden, moeten we bij alle toepassingen van AI uiterst weloverwogen en doordacht te werk gaan en ze aan het menselijk oordeel, de procedures en de training overlaten.

Dus in plaats van te helpen bij het nemen van beslissingen, is de aanpak dat AI meer behulpzaam is door de bestaande workflows te automatiseren. Het moet eerst de workflows en de beperkingen begrijpen en dan, zonder tussenkomst, de gebruiker stapsgewijs helpen. Hier is AI het meest geschikt om zinvolle input te herkennen, te interpreteren en te contextualiseren, d.w.z. dat het inzetten van een wapen betekent dat er een bedreiging ontstaat – en dan alleen nog maar een adviserende rol te spelen bij het bepalen van passende acties, zoals het aanvragen van back-up.

De zevende zin

Zoals bij elk AI-systeem is een ander belangrijk aspect van vertrouwen het hebben van de mogelijkheid om gemakkelijk uit te leggen hoe het werkt. Dit is essentieel, niet alleen voor politieagenten… maar voor degenen die zij dienen om vertrouwen te hebben in de instrumenten die voor hen worden toegepast. Het is moeilijk te vertrouwen op een systeem dat opereert als een ‘zwarte doos’ die conclusies trekt en aanbevelingen doet die moeilijk te begrijpen zijn.

Nogmaals, dit is waar Motorola Solutions’ Steinberg zegt dat volwassen AI van cruciaal belang is. “Zoals bij elke technologie moeten AI-gebaseerde oplossingen zo betrouwbaar mogelijk zijn. Voor officieren in die HVHF-situaties betekent dit dat ze ervoor moeten zorgen dat op het moment van nood, wat het beste werkte of zelfs geleerd is als ‘spiergeheugen’, nooit wordt gecompromitteerd,” zei hij.

Er is hier duidelijk sprake van een zekere mate van onvermijdelijkheid. De politiekorpsen beginnen veel meer elektronische gegevensvangst- en analysetechnieken te gebruiken en wij willen dat onze mannen en vrouwen in het blauw (of welke kleur de kracht van uw land ook draagt) met extra intelligentie worden gesterkt, maar tegelijkertijd willen wij niet dat zij hun persoonlijke menselijke neus voor problemen (als wens om goed te doen) verliezen die hen ertoe brachten om het beroep op te nemen in

 

Tags : , , , , ,

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

zes + 14 =

The maximum upload file size: 256 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here