13-02-2020 4:57 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Toen het Londense Metropolitan Police Department eind januari zijn besluit aankondigde om het controversiële en opdringerige ClearView AI-surveillancesysteem aan te nemen, brak er een wereldwijde kakofonie van protest uit. Zorgen, angst en vrees rond gezichtsherkenningstechnologieën, vooral die zoals Clearview die mensen in realtime kunnen identificeren, sudderen al tientallen jaren, maar het besluit van de Met heeft uiteindelijk de publieke verontwaardiging doen overwaaien. Maar hoe kwamen we zelfs op het punt waar een relatief onbekende startup erin slaagde om een van de tentstokken van futuristische dystopie te bepalen en te beginnen met het op de markt brengen van het aankomende dictatoriale regimes, allemaal terwijl het verdienen van de woede van de nationale regeringen en de technologie-industrie titanen gelijk?

Clearview AI werd in 2017 opgericht door Richard Schwartz en nu-CEO Hoan Ton-That. Het bedrijf telt Peter Thiel en AngelList oprichter Naval Ravikant onder zijn investeerders. De technologie van Clearview is eigenlijk heel eenvoudig: Het gezichtsherkenningsalgoritme vergelijkt het beeld van het gezicht van een persoon van beveiligingscamera’s met een bestaande database van potentiële matches. De Clearview app wordt voornamelijk verkocht aan wetshandhavingsinstanties en stelt gebruikers in staat om een foto van een persoon te maken en te uploaden en vervolgens alle openbare beelden van die persoon te bekijken, evenals links naar de plaats waar die foto’s zijn gepubliceerd. In principe kan de lokale wetshandhaving dat beeld gebruiken om uw volledige online aanwezigheid te ontginnen voor informatie over u, waardoor elke schijn van persoonlijke privacy effectief wordt beëindigd.

De technologie zelf is echter geen probleem, het is de manier waarop het bedrijf zijn database met 3 miljard beelden heeft verworven: Clearview geschraapte beelden van onze collectieve social media profielen. Totdat het bedrijf werd gepakt, haalde het de afgelopen jaren naar verluidt foto’s op van Twitter, Facebook, Venmo en miljoenen andere websites. Twitter stuurde onlangs een staakt-het-vuren brief naar Clearview nadat de acties van het bedrijf werden onthuld, waarin het beweerde dat de acties van het bedrijf in strijd waren met het beleid van Twitter en waarin het eiste dat Clearview onmiddellijk zou stoppen met het verwijderen van de beelden van zijn platform.

Google en YouTube maakten soortgelijke beweringen in hun staakt-het-vuren-brief. “De Servicevoorwaarden van YouTube verbieden expliciet het verzamelen van gegevens die kunnen worden gebruikt om een persoon te identificeren. Clearview heeft publiekelijk toegegeven precies dat te doen, en in reactie daarop hebben we hen een staakt-het-vuren brief gestuurd,” zei de woordvoerder van YouTube, Alex Joseph, in een verklaring van februari aan CBS News.

Facebook en Venmo stuurden ook een C&D, hoewel zoals de leisteen wijst, Peter Thiel momenteel op de raad van Facebook zit, maar investeerde $200.000 in het toezicht opstarten ongeacht.

Deze bedreigingen met juridische gevolgen lijken niet veel indruk te hebben gemaakt op Clearview CEO, Hoan Ton-That. In een recent CBS-interview, Ton-That betoogde dat Clearview een eerste amendement recht om mensen online gegevens te schrapen heeft: “De manier waarop we ons systeem hebben opgebouwd is om alleen publiek beschikbare informatie te nemen en het op die manier te indexeren,” zei hij. “Je moet niet vergeten dat dit alleen wordt gebruikt voor onderzoeken na het feit. Dit is geen 24/7 bewakingssysteem.”

Bedrijven die zich tegen Clearview verzetten, hebben de wetshandhavingsinstanties er duidelijk niet van weerhouden om het surveillancesysteem te gebruiken. Volgens het bedrijf gebruiken meer dan 600 politieafdelingen in de VS naar verluidt de dienst Clearview — met inbegrip van de FBI en DHS.

Het Ministerie van de Politie van Chicago betaalde $50.000 voor een vergunning van twee jaar voor het systeem, CBS Nieuwsrapporten, hoewel een woordvoerder voor CPD opmerkte dat slechts 30 ambtenaren toegang tot het hebben en het systeem niet voor levend toezicht wordt gebruikt aangezien het in Londen is.

“,,CPD gebruikt een gezichts aanpassend hulpmiddel om door zijn mugshotgegevensbestand en openbare broninformatie in de loop van een onderzoek te sorteren dat door een incident of een misdaad wordt teweeggebracht,” het zei in een verklaring aan CBS.

Ondanks de CPD-verzekeringen dat het geen gebruik zou maken van het systeem, lijkt het eigen marketingteam van Clearview de politieafdelingen te duwen om precies dat te doen. In een e-mail van november aan de Green Bay PD, die door BuzzFeed werd overgenomen, moedigde het bedrijf actief agenten aan om het gegevensbestand te doorzoeken voor zichzelf, kennissen, zelfs beroemdheden.

“Heb je al geprobeerd een egoïst te nemen met Clearview?” Lees de e-mail. “Het is de beste manier om snel de kracht van Clearview in real time te zien. Probeer je vrienden of familie eens. Of een beroemdheid als Joe Montana of George Clooney.”

“Uw Clearview account heeft onbeperkte zoekopdrachten. Dus voel je vrij om wild te lopen met je zoekopdrachten,” ging de e-mail verder.

Dat wil niet zeggen dat het systeem volledig zonder verdienste is. De deelnemende wetshandhavingsinstanties gebruiken het al om snel winkeldiefstal, identiteitsdiefstal en creditcardfraudeverdachten op te sporen. Clearview beweert ook dat zijn app de NYPD heeft geholpen bij het opsporen van een terrorismeverdachte afgelopen augustus, maar het bureau betwist de betrokkenheid van het bedrijf in de zaak. Clearview wordt naar verluidt ook gebruikt om te helpen de plaats te bepalen van de slachtoffers van het kindergeslacht; nochtans, blijft zijn gebruik in die klassen van gevallen in het gunstigste geval anekdotisch en loopt het risico om de zelfde jonge geitjes te kwetsen het poogt te helpen.

Het gebruik van Clearview om minderjarigen op te sporen, zelfs als dit met de beste wettige bedoelingen gebeurt, is een waar mijnenveld van zorgen over de privacy en de veiligheid van gegevens. Omdat van de politie wordt verwacht dat zij onderzoeksbeelden naar de servers van Clearview uploadt, kan het bedrijf mogelijk een enorme hoeveelheid zeer gevoelige gegevens verzamelen over een willekeurig aantal minderjarige overlevenden van seksueel misbruik. En aangezien de veiligheidsmaatregelen van het bedrijf ongetest, ongereguleerd en ongecontroleerd zijn, heeft het publiek geen garantie dat de gegevens veilig zijn als en wanneer de systemen van Clearview worden aangevallen.

Bovendien heeft het systeem van Clearview dezelfde tekortkomingen als andere systemen voor gezichtsherkenning: Het is niet zo goed in het interpreteren van zwarte en bruine gezichten als voor blanken. Het bedrijf beweert dat zijn zoekopdracht nauwkeurig is voor “alle demografische groepen”, maar de ACLU is het daar fel mee oneens. Toen Clearview zijn diensten aan de Afdeling van de Politie van Noord-Miami terug in Oktober 2019 wierp, omvatte het bedrijf een rapport van een drie-lid paneellezing, het ,,Onafhankelijke Evaluatiecomité bepaalde dat Clearview 100 percenten nauwkeurig schatte, veroorzakend onmiddellijke en nauwkeurige gelijkenissen voor elk fotobeeld in de test. De nauwkeurigheid was consistent in alle rassen en demografische groepen.” Deze studie werd naar verluidt uitgevoerd met behulp van dezelfde methodologie als de ACLU’s 2018 test van Amazon’s Rekognition systeem, een claim die de ACLU afwijst. De Civil Liberties Union merkt op dat geen van de drie leden van de beoordelingscommissie ervaring had met de evaluatie van gezichtsherkenningssystemen.

“Clearview’s technologie geeft de overheid de ongekende macht om ons te bespioneren waar we ook gaan — het volgen van onze gezichten bij protesten, [Anonieme Alcoholisten] vergaderingen kerk, en meer,” ACLU Noord-Californië advocaat Jacob Snow vertelde BuzzFeed News. “Nauwkeurig of niet, Clearview’s technologie in de handen van de wetshandhaving zal een einde maken aan de privacy zoals we die kennen.”

En het is niet zo dat de politie hun toezichtsbevoegdheden misbruikt voor persoonlijk gewin, dat is iets nieuws. In 2016 ontdekte een onderzoek van Associated Press dat de politie in het hele land routinematig toegang had tot beveiligde databases om informatie op te zoeken over burgers die niets te maken hadden met hun politiewerk, inclusief het stalken van ex-vriendinnen. In 2013 zocht een agent uit Florida de persoonlijke informatie op van een bankmedewerker waarin hij geïnteresseerd was. In 2009 werd een paar FBI-agenten betrapt op het in kaart brengen van een vrouwenkleedkamer waar tienermeisjes prom-jurken aan het passen waren. Dit zijn geen geïsoleerde incidenten. In hetzelfde jaar dat Clearview werd opgericht, probeerden DC agenten Facebook te intimideren om hen toegang te geven tot de persoonlijke profielen van meer dan 230 presidentiële inauguratieprotesteerders. Met Clearview zou de politie niet eens contact hoeven op te nemen met Facebook, want Clearview heeft waarschijnlijk al het vuil dat de politie zoekt, geschraapt en toegankelijk gemaakt.

“De bewapeningsmogelijkheden hiervan zijn eindeloos”, vertelde Eric Goldman, co-directeur van het High Tech Law Institute van de Santa Clara Universiteit, in januari aan The New York Times. “Stel je voor dat een schurkenstaatsagent potentiële romantische partners wil besluipen, of dat een buitenlandse regering dit gebruikt om geheimen over mensen op te graven om ze te chanteren of in de gevangenis te gooien.”

Het is niet verrassend dat Clearview’s financiers zich geen zorgen maken over het potentieel van het systeem voor misbruik. “Ik ben tot de conclusie gekomen dat, omdat de informatie voortdurend toeneemt, er nooit privacy zal zijn. David Scalzo, oprichter van Kirenaga Partners en vroege Clearview-investeerder, vertelde The New York Times. “Wetten moeten bepalen wat legaal is, maar je kunt technologie niet verbieden. Zeker, dat kan leiden tot een dystopische toekomst of zoiets, maar je kunt het niet verbieden.”

Gelukkig beginnen onze gekozen vertegenwoordigers zich bewust te worden van de gevaren die ongereguleerde gezichtsherkenningstechnologieën zoals Clearview met zich meebrengen voor het publiek. Een handvol steden in Californië, waaronder San Francisco, Oakland en Alameda, hebben allemaal een moratorium op het gebruik van de technologie door hun lokale overheden ingesteld. Californië, New Hampshire en Oregon hebben beperkingen op het niveau van de staat aangenomen en een aantal andere gemeenten overwegen om in de nabije toekomst soortgelijke stappen te nemen.

Senator Edward J. Markey (D-MA) heeft onlangs ook nota genomen van het gedrag van Clearview. In januari stuurde de Senator een sterk geformuleerde brief aan CEO Ton-De uitspraak: “Het product van Clearview lijkt bijzonder huiveringwekkende privacyrisico’s met zich mee te brengen, en ik maak me ernstig zorgen dat het in staat is om de verwachting van de Amerikanen dat ze kunnen bewegen, monteren of gewoon in het openbaar verschijnen zonder dat ze worden geïdentificeerd, fundamenteel te ontmantelen”. De senator heeft ook een lijst met 14 vragen voor Ton opgenomen, die woensdag 12 februari moeten worden behandeld.

Of Clearview zich buigt voor juridische en wetgevende druk hier in de VS is nog maar de vraag, maar hoop is niet gewekt. Het bedrijf is al op zoek naar uitbreiding van zijn diensten naar 22 landen over de hele wereld, waaronder een aantal landen die zijn beschuldigd van het plegen van schendingen van de mensenrechten. Daartoe behoren de VAE, Qatar en Singapore, maar ook Brazilië en Columbia, die beide jaren van politieke en sociale strijd hebben doorstaan. Er zijn zelfs enkele EU-landen waar Clearview zich op richt, waaronder Italië, Griekenland en Nederland.

Binnenkort zullen we geen voet meer in het openbaar kunnen zetten zonder dat onze aanwezigheid wordt opgemerkt, gekatalyseerd en getabelleerd. En wanneer de regering de mogelijkheid heeft om te weten waar iemand zich op dat moment bevindt, zullen onze burgerlijke vrijheden onherstelbaar worden uitgehold. Dit alles zodat een handvol ontwikkelaars en investeerders een snelle bok kunnen maken door onze gezichten in naam van de openbare veiligheid aan de politie te verkopen.

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

veertien − 11 =

The maximum upload file size: 256 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here