18-02-2020 6:06 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Elk jaar stemmen de medewerkers van OpenAI over wanneer ze geloven dat kunstmatige algemene intelligentie, of AGI, eindelijk zal aankomen. Het wordt meestal gezien als een leuke manier om zich te binden, en hun schattingen lopen sterk uiteen. Maar op een gebied dat nog steeds debatteert over de vraag of er zelfs maar mensachtige autonome systemen mogelijk zijn, wedt de helft van de labo’s dat het waarschijnlijk binnen 15 jaar zal gebeuren.

In de vier korte jaren van zijn bestaan is OpenAI een van de toonaangevende AI-onderzoekslaboratoria ter wereld geworden. Het heeft naam gemaakt met het produceren van consistent headline-grabbing onderzoek, naast andere AI-zwaargewichten zoals Alphabet’s DeepMind. Het is ook een lieveling in Silicon Valley, met Elon Musk en de legendarische investeerder Sam Altman als oprichters.

Bovenal is hij gelioniseerd voor zijn missie. Het doel is om als eerste AGI te creëren – een machine met de leer- en denkkracht van een menselijke geest. Het doel is niet om de wereld te domineren, maar om ervoor te zorgen dat de technologie veilig wordt ontwikkeld en de voordelen ervan gelijkmatig over de wereld worden verdeeld.

De implicatie is dat AGI gemakkelijk amok kan maken als de ontwikkeling van de technologie wordt overgelaten aan de weg van de minste weerstand. Smalle intelligentie, het soort onhandige AI dat ons vandaag de dag omringt, heeft al als voorbeeld gediend. We weten nu dat algoritmen vooringenomen en fragiel zijn; ze kunnen groot misbruik en groot bedrog plegen; en de kosten van het ontwikkelen en uitvoeren ervan hebben de neiging om hun macht te concentreren in de handen van een paar mensen. Door extrapolatie zou AGI catastrofaal kunnen zijn zonder de zorgvuldige begeleiding van een welwillende herder.

OpenAI wil die herder zijn, en het heeft zijn imago zorgvuldig aangepast. In een veld dat gedomineerd wordt door rijke bedrijven, is het opgericht als een non-profit organisatie. Zijn eerste aankondiging zei dat dit onderscheid het mogelijk zou maken om “waarde op te bouwen voor iedereen in plaats van voor de aandeelhouders”. Het charter – een document dat zo heilig is dat het loon van de werknemers gekoppeld is aan hoe goed ze zich eraan houden – verklaart dat de “primaire fiduciaire plicht van OpenAI aan de mensheid is”. Het veilig bereiken van AGI is zo belangrijk, zo gaat het verder, dat als een andere organisatie dicht bij het bereiken van de eerste plaats zou komen, OpenAI zou stoppen met concurreren en in plaats daarvan zou samenwerken. Dit verleidelijke verhaal speelt goed met investeerders en de media, en in juli injecteerde Microsoft het lab met een verse $1 miljard.

Maar drie dagen op het kantoor van OpenAI – en bijna drie dozijn interviews met vroegere en huidige medewerkers, medewerkers, vrienden en andere experts in het veld – geven een ander beeld. Er is sprake van een misverstand tussen wat het bedrijf in het openbaar omarmt en hoe het achter gesloten deuren opereert. In de loop van de tijd heeft het bedrijf een hevige concurrentiestrijd gevoerd en de druk om steeds meer financiële middelen beschikbaar te stellen, waardoor de idealen die ten grondslag liggen aan het bedrijf, namelijk transparantie, openheid en samenwerking, zijn uitgehold. Velen die voor het bedrijf werken of werkten, drongen aan op anonimiteit omdat ze niet bevoegd waren om te spreken of bang waren voor represailles. Hun verslagen suggereren dat OpenAI, voor al zijn nobele aspiraties, geobsedeerd is door het handhaven van geheimhouding, het beschermen van zijn imago en het behouden van de loyaliteit van zijn werknemers.

Sinds zijn vroegste conceptie heeft AI als een veld ernaar gestreefd om mensachtige intelligentie te begrijpen en vervolgens opnieuw te creëren. In 1950 begon Alan Turing, de beroemde Engelse wiskundige en computerwetenschapper, met de inmiddels beroemde provocatie “Can machines think? Zes jaar later, geboeid door het zeurende idee, kwam een groep wetenschappers bijeen op het Dartmouth College om de discipline te formaliseren.

“Het is een van de meest fundamentele vragen uit de hele intellectuele geschiedenis, toch?” zegt Oren Etzioni, de CEO van het Allen Institute for Artificial Intelligence (AI2), een non-profit AI-onderzoekslaboratorium in Seattle. “Het is net als, begrijpen we de oorsprong van het universum? Begrijpen we materie?”

Het probleem is, AGI is altijd vaag gebleven. Niemand kan echt beschrijven hoe het eruit zou kunnen zien of wat het minimaal zou moeten doen. Het is bijvoorbeeld niet duidelijk dat er maar één soort algemene intelligentie is; de menselijke intelligentie zou slechts een deelverzameling kunnen zijn. Er zijn ook verschillende meningen over welk doel de AGI zou kunnen dienen. In de meer geromantiseerde visie zou een machine-intelligentie die niet gehinderd wordt door de behoefte aan slaap of de inefficiëntie van de menselijke communicatie kunnen helpen bij het oplossen van complexe uitdagingen zoals klimaatverandering, armoede en honger.

Maar de klinkende consensus binnen het veld is dat dergelijke geavanceerde capaciteiten tientallen jaren zouden duren, zelfs eeuwen, als het überhaupt mogelijk is om ze te ontwikkelen. Velen zijn ook bang dat het nastreven van dit doel een averechts effect kan hebben. In de jaren zeventig en opnieuw eind jaren tachtig en begin jaren negentig is het veld te veel beloofd en te weinig geleverd. In de nacht droogde de financiering op en liet diepe littekens achter in een hele generatie onderzoekers. “Het veld voelde aan als een backwater”, zegt Peter Eckersley, de onderzoeksdirecteur van de industriegroep Partnership on AI, waarvan OpenAI lid is.

Tegen deze achtergrond kwam OpenAI op 11 december 2015 met een spetter de wereld binnen. Het was niet de eerste die openlijk verklaarde dat het AGI nastreefde; DeepMind had dat vijf jaar eerder gedaan en was in 2014 door Google overgenomen. Maar OpenAI leek anders. Ten eerste was de stickerprijs schokkend: de onderneming zou beginnen met $1 miljard van particuliere investeerders, waaronder Musk, Altman en PayPal-medestichter Peter Thiel.

De met sterren bezaaide investeerderslijst zorgde voor een media-waanzin, net als de indrukwekkende lijst van de oorspronkelijke werknemers: Greg Brockman, die de technologie voor het betalingsbedrijf Stripe in werking had gesteld, zou chief technology officer zijn; Ilya Sutskever, die onder AI-pionier Geoffrey Hinton had gestudeerd, zou onderzoeksdirecteur zijn; en zeven onderzoekers, pas afgestudeerd aan topuniversiteiten of geplukt van andere bedrijven, zouden het technische kernteam samenstellen. (Afgelopen februari kondigde Musk aan dat hij afscheid nam van het bedrijf vanwege meningsverschillen over de richting van het bedrijf. Een maand later trad Altman af als voorzitter van startup accelerator Y Combinator om OpenAI’s CEO te worden).

Maar meer dan wat dan ook, legde OpenAI’s non-profit status een verklaring af. “Het zal belangrijk zijn om een leidende onderzoeksinstelling te hebben die een goed resultaat kan prioriteren voor al zijn eigenbelang,” zei de aankondiging. “Onderzoekers zullen sterk aangemoedigd worden om hun werk te publiceren, of het nu gaat om papieren, blogberichten of code, en onze patenten (als die er zijn) zullen met de wereld gedeeld worden.” Hoewel het de kritiek nooit expliciet maakte, was de implicatie duidelijk: andere labs, zoals DeepMind, konden de mensheid niet dienen omdat ze beperkt werden door commerciële belangen. Terwijl ze gesloten waren, zou OpenAI open zijn.

In een onderzoekslandschap dat steeds meer geprivatiseerd werd en gericht was op financieel gewin op korte termijn, bood OpenAI een nieuwe manier om de vooruitgang in de grootste problemen te financieren. “Het was een baken van hoop”, zegt Chip Huyen, een expert op het gebied van machinaal leren die de reis van het lab op de voet heeft gevolgd.

Op de kruising van de 18e en Folsom Streets in San Francisco ziet het kantoor van OpenAI eruit als een mysterieus pakhuis. Het historische gebouw heeft grauwe lambriseringen en getinte ramen, waarbij de meeste tinten naar beneden zijn getrokken. De letters “PIONEER BUILDING” – de overblijfselen van zijn vroegere eigenaar, de Pioneer Truck Factory – liggen om de hoek in vervaagde rode verf.

Binnenin is de ruimte licht en luchtig. De eerste verdieping heeft enkele gemeenschappelijke ruimtes en twee vergaderzalen. De ene, een gezonde grootte voor grotere vergaderingen, heet A Space Odyssey; de andere, meer een verheerlijkte telefooncel, heet Infinite Jest. Dit is de ruimte waar ik me tijdens mijn bezoek aan beperk. Het is verboden om de tweede en derde verdieping te bezoeken, waar iedereen zijn bureau’s, verschillende robots en zo ongeveer alles wat interessant is, heeft staan. Als het tijd is voor hun interviews, komen de mensen naar mij toe. Een medewerker traint een waakzame blik op mij tussen de vergaderingen door.

Op de mooie blue-sky dag dat ik aankom om Brockman te ontmoeten, ziet hij er nerveus en bewaakt uit. “We hebben nog nooit iemand zoveel toegang gegeven,” zegt hij met een voorzichtige glimlach. Hij draagt vrijetijdskledij en sport, zoals velen bij OpenAI, een vormloos kapsel dat lijkt te wijzen op een efficiënte, no-frills mentaliteit.

Brockman, 31 jaar, groeide op in een boerderij in Noord-Dakota en had wat hij beschrijft als een “geconcentreerde, rustige jeugd”. Hij melkte koeien, verzamelde eieren en werd verliefd op wiskunde terwijl hij alleen studeerde. In 2008 ging hij naar Harvard met de bedoeling om een dubbelganger te worden in de wiskunde en de computerwetenschappen, maar hij werd al snel onrustig om de echte wereld te betreden. Hij stopte een jaar later, ging een jaar later weer studeren aan het MIT, en viel binnen een paar maanden weer uit. De tweede keer was zijn beslissing definitief. Toen hij eenmaal naar San Francisco verhuisde, keek hij nooit meer om.

Brockman neemt me mee naar de lunch om me van kantoor te halen tijdens een bedrijfsvergadering. In het café aan de overkant van de straat spreekt hij met intensiteit, oprechtheid en verwondering over OpenAI, waarbij hij vaak parallellen trekt tussen de missie en baanbrekende prestaties van de wetenschapsgeschiedenis. Het is gemakkelijk om zijn charisma als leider te waarderen. Met gedenkwaardige passages uit de boeken die hij heeft gelezen, nivelleert hij zich op het favoriete verhaal van de Vallei, Amerika’s race naar de maan. (“Een verhaal waar ik echt van hou is het verhaal van de conciërge,” zegt hij, verwijzend naar een beroemd maar waarschijnlijk apocrief verhaal. “Kennedy gaat naar hem toe en vraagt hem, “Wat ben je aan het doen?” en hij zegt, “Oh, ik help een man op de maan te zetten!”) Er is ook de transcontinentale spoorlijn (“Het was eigenlijk het laatste megaproject dat volledig met de hand werd uitgevoerd … een project van immense omvang dat volledig riskant was”) en de gloeilamp van Thomas Edison (“Een comité van vooraanstaande deskundigen zei: “Het gaat nooit werken,” en een jaar later verscheepte hij”).

Brockman is zich bewust van de gok die OpenAI heeft genomen en is zich ervan bewust dat het cynisme en onderzoek oproept. Maar met elke verwijzing is zijn boodschap duidelijk: mensen kunnen sceptisch zijn wat ze willen. Het is de prijs van het durven.

Degenen die zich in het begin bij OpenAI hebben aangesloten, herinneren zich de energie, de opwinding en het gevoel van doelgerichtheid. Het team was kleingeestig door een strak web van verbindingen – en het management bleef losjes en informeel. Iedereen geloofde in een platte structuur waar ideeën en debat van iedereen welkom zouden zijn.

Musk speelde een niet geringe rol in het opbouwen van een collectieve mythologie. “Kijk, ik snap het. Het AGI is misschien ver weg, maar wat als dat niet zo is?” herinnert Pieter Abbeel, een professor aan UC Berkeley die daar, samen met een aantal van zijn studenten, de eerste twee jaar werkte. “Wat als het zelfs maar een kans van 1% of 0,1% is dat het in de komende vijf tot tien jaar gebeurt? Moeten we er niet goed over nadenken? Dat weerklonk bij mij”, zegt hij.

Maar de informaliteit leidde ook tot enige vaagheid in de richting. In mei 2016 kregen Altman en Brockman bezoek van Dario Amodei, toen een Google-onderzoeker, die hen vertelde dat niemand begreep wat ze deden. In een verslag dat in de New Yorker werd gepubliceerd, was het ook niet duidelijk of het team het zelf wist. “Ons doel op dit moment… is om het beste wat er te doen is,” zei Brockman. “Het is een beetje vaag.”

Toch kwam Amodei een paar maanden later bij het team. Zijn zus, Daniela Amodei, had al eerder met Brockman gewerkt en hij kende al veel van OpenAI’s leden. Na twee jaar, op verzoek van Brockman, kwam ook Daniela erbij. “Stel je voor, we zijn met niets begonnen,” zegt Brockman. “We hadden gewoon het ideaal dat we wilden dat de AGI goed zou gaan.”

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

14 − 1 =

The maximum upload file size: 256 MB. You can upload: image, audio, video, document, spreadsheet, interactive, text, archive, code, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here