20-01-2020 4:33 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Tot voor kort was Hoan Ton-De grootste hit was een app waarmee mensen het kenmerkende gele haar van Donald Trump op hun eigen foto’s konden zetten.

Toen Ton-Dat deed iets gedenkwaardigs: Hij vond een hulpmiddel uit dat je vermogen om anoniem over straat te lopen kon beëindigen en verstrekte het aan honderden wetshandhavingsinstanties.

Zijn kleine bedrijf, Clearview AI, bedacht een baanbrekende gezichtsherkenningsapp. Je maakt een foto van een persoon, uploadt die en krijgt publieke foto’s van die persoon te zien, samen met links naar waar die foto’s verschenen.

Het systeem – waarvan de ruggengraat bestaat uit een database van meer dan 3 miljard foto’s die Clearview beweert te hebben geschraapt van Facebook, YouTube, Venmo en miljoenen andere websites – gaat veel verder dan wat ooit door de Amerikaanse overheid of Silicon Valley reuzen is gebouwd.

De federale en staatswetshandhavers zeiden dat ze slechts beperkte kennis hadden over hoe Clearview werkt en wie er achter zit, maar dat ze de app hadden gebruikt om te helpen bij het oplossen van winkeldiefstal, identiteitsdiefstal, creditcardfraude, moord en gevallen van seksuele uitbuiting van kinderen.

Tot nu toe was technologie die iedereen gemakkelijk identificeert op basis van zijn of haar gezicht taboe vanwege de radicale uitholling van de privacy.

Maar zonder publieke controle zijn meer dan 600 wetshandhavingsinstanties het afgelopen jaar begonnen met het gebruik van Clearview, volgens het bedrijf, dat weigerde een lijst te verstrekken. De computercode die ten grondslag ligt aan zijn app, geanalyseerd door The New York Times, omvat programmeertaal om deze te koppelen aan augmented reality brillen; gebruikers zouden elke persoon die ze zagen potentieel kunnen identificeren.

Clearview heeft de app ook in licentie gegeven aan ten minste een handvol bedrijven voor veiligheidsdoeleinden.

“De bewapeningsmogelijkheden hiervan zijn eindeloos”, zegt Eric Goldman, co-directeur van het High Tech Law Institute van de Santa Clara Universiteit. “Stel je voor dat een schurkenstaatsagent die potentiële romantische partners wil stalken, of dat een buitenlandse overheid dit gebruikt om geheimen over mensen op te graven om ze te chanteren of in de gevangenis te gooien.”

Clearview heeft zich gehuld in geheimzinnigheid en vermijdt het debat over de grensverleggende technologie. Toen ik het bedrijf in november begon te onderzoeken, was de website een kale pagina met een niet-bestaand Manhattan-adres als vestigingsplaats. De ene werknemer van het bedrijf die op LinkedIn stond, een salesmanager met de naam “John Good”, bleek Ton te zijn – dat, met behulp van een valse naam. Een maand lang zouden mensen die bij het bedrijf zijn aangesloten mijn e-mails of telefoontjes niet terugsturen.

Terwijl het bedrijf me ontweek, hield het me ook in de gaten. Op mijn verzoek had een aantal politieagenten mijn foto door de Clearview app gehaald. Ze kregen al snel telefoontjes van vertegenwoordigers van het bedrijf met de vraag of ze met de media aan het praten waren – een teken dat Clearview de mogelijkheid heeft en in dit geval de eetlust heeft om in de gaten te houden naar wie de wetshandhaving op zoek is.

Gezichtsherkenningstechnologie is altijd al controversieel geweest. De app van Clearview brengt extra risico’s met zich mee omdat wetshandhavingsinstanties gevoelige foto’s uploaden naar de servers van een bedrijf waarvan het vermogen om zijn gegevens te beschermen nog niet is getest.

Het bedrijf begon uiteindelijk mijn vragen te beantwoorden en zei dat zijn eerdere stilzwijgen typerend was voor een vroeg stadium van het opstarten in de stealth modus. Ton-Dat erkende het ontwerpen van een prototype voor gebruik met augmented reality brillen, maar zei dat het bedrijf geen plannen had om het vrij te geven. En hij zei dat mijn foto had rung alarmbellen omdat de app “vlaggen mogelijk abnormaal zoekgedrag” om te voorkomen dat gebruikers wat het geacht “ongepaste zoekopdrachten”.

Naast Ton-That, werd Clearview opgericht door Richard Schwartz – die een assistent was van Rudy Giuliani toen hij burgemeester van New York was – en financieel gesteund door Peter Thiel, een durfkapitaalverstrekker achter Facebook en Palantir.

Een andere vroege investeerder is een kleine firma genaamd Kirenaga Partners. De oprichter, David Scalzo, verwierp zijn bezorgdheid over Clearview, die het internet doorzoekbaar maakte op het gezicht, en zei dat het een waardevol hulpmiddel is voor het oplossen van misdaden.

“Ik ben tot de conclusie gekomen dat, omdat de informatie constant toeneemt, er nooit privacy zal zijn,” zei Scalzo. “Wetten moeten bepalen wat legaal is, maar je kunt technologie niet verbieden.”

Verslaafd aan AI

Ton-That, 31, groeide op ver van Silicon Valley, in zijn geboorteland Australië. In 2007 stopte hij met studeren en verhuisde hij naar San Francisco. De iPhone was net aangekomen, en zijn doel was om in het begin van wat hij verwachtte zou een levendige markt voor social media apps.

In 2015, spinde hij Trump Hair, die Trump’s onderscheidende coif aan mensen toevoegde in een foto, en een fotodelingsprogramma. Beide waren bruisend.

Ton-De verhuizing naar New York in 2016. Hij begon met het lezen van academische papers over kunstmatige intelligentie, beeldherkenning en machinaal leren.

Schwartz en Ton-Dat ontmoetten elkaar in 2016 op een boekevenement in het Manhattan Instituut, een conservatieve denktank. Schwartz, nu 61, had een indrukwekkende Rolodex vergaard die voor Giuliani werkte in de jaren 1990. De twee besloten al snel om in de gezichtsherkenningsbus te gaan…

Politieafdelingen hebben al bijna 20 jaar toegang tot gezichtsherkenningstools, maar ze zijn historisch gezien beperkt gebleven tot het zoeken naar door de overheid verstrekte beelden, zoals foto’s van mokken en rijbewijzen.

Ton… dat wilde veel verder gaan dan dat. Hij begon in 2016 met het werven van een paar ingenieurs. Eén hielp een programma te ontwerpen dat automatisch beelden van gezichten van mensen op het internet kan verzamelen, zoals werkgelegenheidssites en sociale netwerken. Vertegenwoordigers van die bedrijven zeiden dat hun beleid een dergelijk schrapen verbiedt.

Een andere ingenieur werd ingehuurd om een gezichtsherkenningsalgoritme te perfectioneren dat was afgeleid van academische papers. Het resultaat: een systeem dat gebruik maakt van wat Ton-De beschreven heeft als een “state-of-the-art neuraal net” om alle beelden om te zetten in wiskundige formules, of vectoren, gebaseerd op gezichtsgeometrie – zoals hoe ver de ogen van een persoon van elkaar verwijderd zijn.

Clearview heeft een grote map gemaakt die alle foto’s met vergelijkbare vectoren in “buurten” clustert. Wanneer een gebruiker een foto van een gezicht in het systeem van Clearview uploadt, zet het het gezicht om in een vector en toont dan alle geschraapte foto’s die in de buurt van die vector zijn opgeslagen – samen met de links naar de sites waar die foto’s vandaan kwamen.

Clearview is nog steeds klein en heeft volgens Pitchbook, een website die investeringen in startups bijhoudt, 7 miljoen dollar van investeerders opgehaald. Het bedrijf weigerde het bedrag te bevestigen.

Gaan Viral met wetshandhaving

In februari begon de Indiana State Police te experimenteren met Clearview. Ze losten een zaak op binnen 20 minuten na gebruik van de app. Twee mannen hadden ruzie gekregen in een park, en het eindigde toen de ene de andere in de maag schoot. Een omstander nam het misdrijf op via een telefoon, dus de politie had een stilleven van de schutter om door de app van Clearview te lopen.

Ze kregen meteen een match: De man verscheen in een video die iemand had gepost op de sociale media, en zijn naam werd opgenomen in een bijschrift op de video. “Hij had geen rijbewijs en was niet gearresteerd als een volwassene, dus hij was niet in de overheidsdatabases,” zei Chuck Cohen, een Indiana State Police kapitein op het moment.

De ,,man werd gearresteerd en werd geladen; Cohen zei hij waarschijnlijk niet zonder de capaciteit zou geïdentificeerd zijn om sociale media voor zijn gezicht te zoeken. De Indiana State Police werd de eerste betalende klant van Clearview, volgens het bedrijf. (De politie daalde om commentaar te geven voorbij het zeggen van dat zij Clearview’s app. testten)

De meest efficià “nte verkooptechniek van het bedrijf bood 30 dagen vrije proeven aan ambtenaren aan. Ton… dat had eindelijk zijn virale klap.

De federale wetshandhaving, met inbegrip van de FBI en het Ministerie van Binnenlandse Veiligheid, proberen het, zoals de Canadese wetshandhavingsautoriteiten, volgens het bedrijf en de overheidsambtenaren zijn.

Ton, dat zei dat het instrument niet altijd werkt. De meeste foto’s in Clearview’s database zijn genomen op ooghoogte. Veel van het materiaal dat de politie uploadt is van bewakingscamera’s gemonteerd op plafonds of hoog op muren.

Ondanks dat, zei het bedrijf, zijn tool vindt overeenkomsten tot 75% van de tijd.

Een van de redenen waarom Clearview zich op de hoogte stelt, is dat zijn service uniek is. Dat komt omdat Facebook en andere social media sites mensen verbieden om beelden van gebruikers te schrapen; Clearview schendt de servicevoorwaarden van de sites.

Sommige wetshandhavers zeiden dat ze zich niet realiseerden dat de foto’s die ze hebben geüpload naar de servers van Clearview werden gestuurd en daar werden opgeslagen. Clearview probeert de bezorgdheid weg te nemen met een FAQ-document dat aan potentiële klanten wordt gegeven en waarin staat dat de medewerkers van de klantenservice niet naar de foto’s zullen kijken die de politie uploadt.

Clearview heeft ook Paul Clement ingehuurd, een Amerikaanse advocaat-generaal onder president George W. Bush, om de bezorgdheid over de rechtmatigheid van de app weg te nemen.

In een nota van Augustus die Clearview aan potentià “le klanten, met inbegrip van het Ministerie van de Politie van Atlanta en het Bureau van de Sheriff van de Provincie Pinellas in Florida verstrekte, zei Clement de agentschappen van de wetshandhaving ,,niet de federale Grondwet of de relevante bestaande staatsbiometrische en privacywetten overtreden wanneer het gebruiken van Clearview voor zijn voorgenomen doel”.

Clement, nu partner bij Kirkland & Ellis, schreef dat de autoriteiten de verdachten niet hoeven te vertellen dat ze via Clearview zijn geïdentificeerd zolang het niet de enige basis is om een arrestatiebevel voor hen te krijgen. Clement heeft niet gereageerd op meerdere verzoeken om commentaar.

Het memo leek effectief te zijn; de politie van Atlanta en het bureau van de Sheriff van de Provincie Pinellas begonnen al snel Clearview te gebruiken.

Woodrow Hartzog, een professor in rechten en computerwetenschappen aan de Northeastern University in Boston, ziet Clearview als het laatste bewijs dat gezichtsherkenning in de Verenigde Staten verboden zou moeten worden.

“We hebben ons gebaseerd op de inspanningen van de industrie om zichzelf te controleren en niet zo’n riskante technologie te omarmen, maar nu breken die dammen omdat er zoveel geld op de tafel ligt,” zei Hartzog. “Ik zie geen toekomst waarin we de voordelen van gezichtsherkenningstechnologie benutten zonder het verlammende misbruik van de bewaking die erbij komt kijken. De enige manier om het te stoppen

Tags : , ,

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd.

twintig + twaalf =

The maximum upload file size: 256 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here