09-01-2020 5:43 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Kunstmatige intelligentie is hier, en het beïnvloedt ons leven op een echte manier – of het nu gaat om de Alexa smart speaker op ons nachtkastje, de online chatbots van de klantenservice, of de smart replies Google drafts voor onze e-mails.

Maar tot nu toe heeft de ontwikkeling van de technologie de regelgeving overtroffen. Nu hebben overheidsinstellingen steeds vaker te maken met AI-gebaseerde tools, en ze moeten uitzoeken hoe ze die kunnen evalueren. Neem de Food and Drug Administration, die nieuwe medische producten in de schijnwerpers zet: Het moet nieuwe medische producten met AI-mogelijkheden – zoals deze die oogproblemen met betrekking tot diabetes belooft op te sporen – herzien en goedkeuren voordat ze aan ons worden verkocht. Of denk aan de Equal Employment Opportunity Commission, die onderzoek doet naar discriminatie op het gebied van werkgelegenheid. Vandaag de dag moet het bureau ook beslissingen nemen over op AI gebaseerde wervingsalgoritmes, zoals die welke de cv’s van sollicitanten screenen en beslissen of u een interview verdient of niet.

Op Woensdag bij CES, toont de prominente in Las Vegas-Gebaseerde technologiehandel, kondigden de ambtenaren van het Witte Huis formeel aan hoe het Bureau van Wetenschap en Technologie federale agentschappen het regelen van nieuwe kunstmatige op intelligentie-gebaseerde hulpmiddelen en de industrieà “n wil naderen die de technologie ontwikkelen.

De voorgestelde AI begeleiding van het Witte Huis bespreekt enkele van de grootste zorgentechnologen, AI ethici, en zelfs hebben sommige overheidsambtenaren over de technologie, maar de richtlijnen zijn het meest gecentreerd bij het aanmoedigen van innovatie in kunstmatige intelligentie en het ervoor zorgen van verordeningen ,,onnodig” krijgen op de manier.

Dat wijst op een aanhoudend probleem voor AI, een probleem dat zich al in andere technologiesectoren heeft voorgedaan, waar een stormloop om te innoveren zonder veel onoplettendheid ons alleen maar is komen achtervolgen.

Hoewel het aanmoedigen van innovatie in AI zeker een overweging is, hebben critici van de technologie gezegd dat de regelgevers kunstmatige intelligentie nauwlettender in de gaten moeten houden, omdat deze in de echte wereld nog steeds wordt uitgerold. Zij stellen dat kunstmatige intelligentie menselijke vooroordelen kan repliceren en zelfs versterken. Deze hulpmiddelen functioneren vaak in zwarte dozen – wat betekent dat ze eigendom zijn van en beheerd worden door de bedrijven die ze verkopen – wat het moeilijk maakt voor ons om te weten wanneer of hoe ze echte mensen kunnen schaden (of zelfs of ze werken zoals bedoeld). En nieuwe op AI gebaseerde tools kunnen ook zorgen baren over privacy en toezicht.

Voorlopig zijn deze nieuwe richtlijnen precies dat – richtlijnen – wat betekent dat de memo van vandaag geen onmiddellijk effect zal hebben op de kunstmatige intelligentietechnologie die u in uw dagelijks leven zou kunnen tegenkomen. Maar de memo laat zien hoe de overheid denkt over AI en de mogelijke gevolgen daarvan voor de Amerikanen. “De ,,mensen zouden ervoor moeten zorgen dat het Witte Huis probeert om een kader te brengen om de plaatsing van AI-hulpmiddelen te beoordelen en te rechtvaardigen, omdat wat wij vinden aangezien deze hulpmiddelen zich ontwikkelen en te voorschijn komen is dat er sommige toepassingen zijn die diepere gevolgen dan anderen hebben,” bovengenoemde Nicol draaien-Lee, een kameraad bij de Instelling van Brookings die technologie en gelijkheid onderzoekt.

De Trump administratie wil een nationale AI inspanning

Trump en zijn regering willen dat de VS de AI-sector domineren – en ze willen zeker dat de VS beter zijn in AI dan China. Begin vorig jaar, ondertekende President Donald Trump een uitvoerende orde die het ,,Amerikaanse A.I. Initiatief,” vestigt dat bedoeld is om AI-onderzoek te bespoedigen en een AI-competent aantal arbeidskrachten van de V.S. te helpen bouwen, onder andere.

In een overzicht van 10 basisprincipes weerklinkt in de nota van vandaag aan de federale departementen en agentschappen de doelstellingen van die uitvoerende orde. Het dringt er bij de regelgevers op aan om rekening te houden met innovatie en om “na te denken over manieren om de belemmeringen voor de ontwikkeling en goedkeuring” van AI te verminderen bij het afwegen van hoe bestaande wetten en potentiële nieuwe regels van toepassing zijn op de opkomende technologie.

“Federale agentschappen moeten regelgevende of niet-regelgevende acties vermijden die de AI-innovatie en -groei nodeloos hinderen”, zegt de nota. “Agentschappen moeten een voorzorgsaanpak vermijden die AI-systemen op zo’n onmogelijk hoog niveau houdt dat de maatschappij niet van de voordelen ervan kan genieten.” Tegelijkertijd wordt er in de richtsnoeren ook op aangedrongen dat de regelgevers zich bewust zijn van waarden als transparantie, risicobeheer, billijkheid en non-discriminatie.

Dit zijn allemaal eerlijke punten. Door deze federale departementen en agentschappen aan te moedigen om actie te ondernemen, hoopt de Trump-administratie ook een toekomst te vermijden waarin Amerikaanse AI-bedrijven geconfronteerd zouden kunnen worden met een lappendeken van lokale en nationale regelgeving, of mogelijk een overdaad aan federale regelgeving, die de uitbreiding van de technologie zou kunnen belemmeren.

AI-deskundigen vertelden Recode dat de AI-richtlijnen een uitgangspunt zijn. “Het zal tijd kosten om te beoordelen hoe effectief deze principes zijn in de praktijk, en we zullen nauwlettend in de gaten houden,” zei Rashida Richardson, de directeur van het beleidsonderzoek bij het AI Now Institute. “Het vaststellen van grenzen voor de federale overheid en de private sector rond AI-technologie zal meer inzicht bieden aan degenen onder ons die in de verantwoordingsruimte werken.”

Aaron Rieke, de directeur van de technologie rechten non-profit Upturn, zei in een e-mail aan Recode dat, voor nu, hij denkt niet dat de memo zal veel invloed hebben: “Ik denk niet dat deze principes veel invloed zullen hebben op de gemiddelde persoon, vooral niet op de korte termijn. Ik denk dat regelgevers hun beslissingen, goed of slecht, zonder veel moeite zullen kunnen verantwoorden”.

Belangrijk is dat de memo eigenlijk niet van toepassing is op kunstmatige intelligentie die de Amerikaanse overheid zelf gebruikt (waarvan er genoeg zijn). Zo blijkt uit een onderzoek van een Amerikaanse federale contractendatabase dat de Centers for Disease Control gezichtsherkenningsproducten (een op AI gebaseerde technologie) hebben gekocht, terwijl het ministerie van Handel AI lijkt te gebruiken om zijn octrooizoeksysteem te verbeteren.

Een van de redenen waarom AI regelgeving nodig heeft: Het brengt risico’s met zich mee

AI-systemen zijn niet inherent objectief. Mensen bouwen deze tools, en AI wordt vaak ontwikkeld met behulp van gebrekkige of bevooroordeelde gegevens, wat betekent dat de technologie menselijke vooroordelen zoals seksisme en racisme kan erven of zelfs uitvergroten. Toen bijvoorbeeld in 2017 wetenschappers een computerprogramma leerden om de Engelse taal te leren door het internet te ontginnen, werd het uiteindelijk bevooroordeeld ten opzichte van vrouwen en zwarte mensen.

Critici zeggen dat risico betekent dat de overheid bepaalde toepassingen van kunstmatige intelligentie agressief zou moeten reguleren en zelfs verbieden. En sommige AI-hulpmiddelen, zoals gezichtsherkenning, die afhankelijk zijn van het verzamelen van gevoelige informatie, hebben ook de bezorgdheid aangewakkerd over de manier waarop deze technologie mogelijkerwijs tot nachtmerries op het gebied van privacy en toezicht zou kunnen leiden.
“AI-systemen kunnen het Amerikaanse publiek discrimineren op basis van ras, geslacht, geslacht…

Dit alles is van belang omdat AI al het potentieel heeft om een echte impact op je leven te hebben, zelfs als je je dat nog niet gerealiseerd hebt. Sommige verhuurders zijn gaan zweven en eisen dat huurders gezichtsherkenning gebruiken om hun huis binnen te komen, ook al staat het bekend dat de technologie minder accuraat is bij mensen met kleur en vrouwen (en vooral vrouwen met een donkere huid), onder andere groepen. Een ander voorbeeld: Hoewel nooit gebruikt, discrimineerde een cv-algoritme, geproduceerd door Amazone’s, ongewild tegen vrouwelijke sollicitanten omdat het werd getraind op cv’s die het bedrijf eerder had verzameld, en die meestal van mannen afkomstig waren. Stel je voor dat je je droombaan kwijtraakt door een bevooroordeeld algoritme.

“AI-systemen hebben een potentieel om het Amerikaanse publiek te discrimineren op basis van ras, geslacht, geslacht – elk denkbaar criterium”, vertelde Albert Fox Cahn, een advocaat die het Surveillance Technology Oversight Project aan de Universiteit van New York leidt, aan Recode. “Dit kan van invloed zijn op alles, of je nu een werkaanbieding krijgt, of je goedgekeurd wordt voor een appartement of een hypotheek, of je de goede of de slechte rente krijgt. Het kan invloed hebben op de toelating tot de universiteit en de plaatsing op school.”

Dat heeft hem teleurgesteld over de nieuwe voorgestelde richtlijnen. “,,Eerder dan een kader voor regelgevers te verstrekken om discriminatie eigenlijk frontaal te richten, in plaats daarvan spoort het Witte Huis een hands-off benadering aan die AI zal toestaan om historisch gemarginaliseerde gemeenschappen zonder de interventies eenvoudig te richten wij nodig hebben,” bovengenoemde Cahn. Hij zei de verwijzingen van het memorandum naar waarden van non-discriminatie en de transparantie niet veel kracht achter hen hebben.

“,,Wanneer u denkt aan waar de meeste consumenten meer AI-kwetsbaar zijn, is het op die gebieden zoals huisvesting, gezondheidszorg, en werkgelegenheid – de gebieden die hoofdzakelijk de voorpagina van de krant maken,” bovengenoemde draaien-Lee. Zij zei het niet duidelijk is wat het memorandum voor agentschappen zoals het Ministerie van Arbeid en de Dienst van de Financiële Bescherming van de consument in vergelijking met, zeg, het Ministerie van Landbouw zal betekenen.

Zij voegt toe dat het ook niet duidelijk is of de agentschappen eigenlijk bereid zijn om de risico’s AI technologie te identificeren stelt, of als zij tot de baan van het verzekeren van hun verordeningen tempo met innovatie houden. “Er zit nog veel meer duivels in de details die ik graag zou willen zien, maar ik denk dat ze ons gewoon een algemeen kader proberen te geven voor een soort van ethische en eerlijke inzet.”

Nu wil het Witte Huis feedback, ook van u.

De ontwerprichtlijn is niet in steen gebeiteld. De komende maanden zal het onderwerp zijn van publieke feedback, inclusief die van u (we zullen dit stuk updaten met hoe dat te doen zodra de informatie beschikbaar is). Zodra de richtsnoeren formeel zijn goedgekeurd, verwacht het Witte Huis dat de agentschappen verslag zullen uitbrengen over hoe zij van plan zijn om aan de nieuwe AI-verwachtingen te voldoen.

Tags : , ,

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd.

3 × 1 =

The maximum upload file size: 256 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here