Politici en kapitalisten hebben een traditie op vrijdagmiddag om veel nieuws te dumpen om het slechte nieuws onder hen te verbergen. Dus het was een beetje raar dat Elon Musk, oprichter van Tesla, een fabrikant van elektrische voertuigen, en Sam Altman, president van de gerenommeerde tech-incubator Y Combinator, hun nieuwe bedrijf met AI-thema onthulden aan het einde van een AI-conferentie van een week in Montreal afgelopen december.
Er was een reden voor de introductie van OpenAI op zo'n laat uur. Niet omdat niemand keek. Omdat iedereen keek. Toen enkele van de machtigste bedrijven in Silicon Valley voelden dat het waaide, begonnen ze enorme sommen geld te bieden aan het pas opgerichte OpenAI AI-talent om deze genieën thuis te houden. Op het laatste moment werden de voorstellen - sommige op de conferentie zelf gedaan - zo groot dat Musk en Altman de aankondiging van de nieuwe startup moesten uitstellen. "De bedragen bereikten de rand van waanzin", zegt Wojciech Zaremba, een wetenschapper die bij OpenAI kwam werken na stages bij Google en Facebook en die om 23.00 uur grote aanbiedingen ontving.
Hoeveel dollars is de grens van waanzin? Twee jaar geleden, toen de markt voor de nieuwste machine learning-technologieën begon op te warmen, zei Microsoft Research VP Peter Lee dat de kosten van de beste AI-onderzoekers de kosten van een top quarterback in de National Football League hebben overschreden - en dat is onder normale omstandigheden, niet wanneer de grootste ondernemers Silicon Valley probeert het beste talent te stropen. Zaremba zegt dat toen OpenAI bij elkaar kwam, het twee tot drie keer de marktwaarde werd aangeboden.
OpenAI heeft deze suggesties niet opgevolgd. Maar hij bood iets anders aan: de mogelijkheid om onderzoek te doen dat uitsluitend gericht is op de toekomst, in plaats van op producten en kwartaalwinsten, en uiteindelijk het meeste - zo niet alle - onderzoek te verdelen onder wie dat maar wil. Dat klopt: Musk, Altman en het bedrijf wilden wat de meest transformatieve technologie van de 21e eeuw zou kunnen zijn, weggeven en gratis weggeven.
Zaremba zegt dat voorstellen op de rand van waanzin hem eigenlijk afschrikken - ondanks het enorme respect voor bedrijven als Google en Facebook. Hij voelde dat het geld werd gekanaliseerd om de oprichting van OpenAI te voorkomen, wat zijn toewijding aan een genereuze start-up verder versterkte. "Ik realiseerde me", zegt Zaremba, "dat OpenAI de beste plek voor mij is."
Voel je de ironie in het hart van dit verhaal? Terwijl 's werelds grootste technologiebedrijven proberen hun onderzoekers net zo hard te behouden als NFL-teams proberen hun star quarterbacks te behouden, willen de onderzoekers zelf gewoon hun inzichten delen. In de geavanceerde wereld van AI-onderzoek worden de slimste geesten niet alleen gedreven door de volgende productcyclus of winst, of helemaal niet door hen geobsedeerd. Ze willen AI beter maken, en het is onmogelijk om AI beter te maken als je je laatste ontwikkelingen voor jezelf houdt.
OpenAI heeft onlangs de eerste batch AI-software uitgebracht, een toolkit voor het maken van kunstmatige-intelligentiesystemen op basis van technologie genaamd reinforcement learning, een van de belangrijkste technologieën die hebben geleid tot de oprichting van AlphaGo, de AI van Google die de wereld verraste met zijn mogelijkheden. ga spelletjes. Met deze set tools kun je systemen bouwen die een nieuwe generatie robots ontgrendelen, Atari-games spelen en ja, de wereldkampioenen verslaan bij Go.
Promotie video:
Maar speelgoed is nog maar het begin. OpenAI is een missie van een miljard dollar om AI zo ver mogelijk te pushen. Aan de manier waarop het bedrijf is samengekomen en wat zijn plannen zijn, kun je de volgende nieuwe golf van innovatie zien. We weten nog niet of OpenAI de belangrijkste motor van deze veranderingen zal zijn. Maar de krachten achter de oprichting van deze nogal ongebruikelijke startup laten zien dat de volgende generatie AI niet alleen de technologie zal veranderen, maar ook de manier waarop deze werkt.
Kunstmatige intelligentie is overal
Silicon Valley heeft een passie voor overdrijving. Vet klinkende uitspraken moeten altijd met een korreltje zout worden beantwoord. Maar op het gebied van kunstmatige intelligentie vinden er inderdaad veranderingen plaats. Binnen bedrijven zoals Google en Facebook helpen deep learning-technologieën internetservices al om gezichten op foto's te identificeren, spraakopdrachten op smartphones te herkennen en te reageren op zoekopdrachten op internet. En dezelfde technologie zou in de toekomst nog veel andere problemen kunnen oplossen. Het kan machines helpen om natuurlijke taal te leren begrijpen - die wij mensen gewend zijn te spreken en te schrijven. Het kan helpen om een nieuw ras van robots te ontwikkelen, waardoor automaten niet alleen hun taken kunnen uitvoeren, maar ook meteen kunnen leren. En sommigen geloven dat dit machines uiteindelijk zoiets als gezond verstand zal geven - het vermogen om echt te denken als een persoon.
En samen met dergelijke beloften wordt diepe angst geboren. Musk en Altman zijn bezorgd dat als mensen AI's kunnen maken die geweldige dingen doen, ze AI's kunnen bouwen die vreselijke dingen doen. Ze staan niet alleen in hun angsten. En hoewel het misschien contra-intuïtief lijkt, zijn Musk en Altman ook van mening dat de beste manier om kwaadwillende AI te bestrijden niet is om de toegang tot kunstmatige intelligentie te beperken, maar om deze uit te breiden. Het is deze ambitie die leidt tot een team van jonge en intelligente idealisten.
OpenAI verscheen afgelopen zomer op een avond in een privékamer in het Rosewood Hotel in Silicon Valley, een luxe stadshotel dat letterlijk in het centrum van de durfkapitalistische wereld ligt. Elon Musk lunchte met Ilya Sutskever, die toen bij Google Brain werkte, een bedrijf dat diepe neurale netwerken ontwikkelt - kunstmatige-intelligentiesystemen die kunnen leren taken uit te voeren door enorme hoeveelheden digitale gegevens te analyseren, waaronder het herkennen van foto's en het schrijven van e-mails, en leren van correspondentie. Suckever was een van de hoofdontwikkelaars van het project.
Ilya Sutskever
Sam Altman, wiens Y Combinator hielp bedrijven als Airbnb, Dropbox en Coinbase vorm te geven, bemiddelde de bijeenkomst en bracht verschillende AI-onderzoekers en jonge maar ervaren bedrijfsbouwer Greg Brockman samen, voorheen Chief Technology Officer bij start-up Stripe, een ander bedrijf Y Combinator. Het was een eclectische groep. Maar iedereen had een doel: een nieuw type AI-laboratorium creëren dat buiten de controle van niet alleen Google, maar van alle anderen kon werken. "Het beste dat ik me als een uitdaging kan voorstellen", zegt Brockman, "is om de mensheid te bewegen om op een veilige manier echte AI te creëren."
Musk was er vanwege zijn lange vriendschap met Altman - en omdat AI cruciaal is voor de toekomst van zijn verschillende ondernemingen, en voor de toekomst als geheel. Tesla heeft AI nodig als het zelfrijdende auto's wil bouwen. SpaceX, een ander bedrijf van Musk, heeft AI nodig om mensen de ruimte in te nemen en ze daar veilig te houden. Maar Musk is ook een van de eersten (en luidste) die waarschuwt dat de mensheid op een dag de controle zou kunnen verliezen over systemen die krachtig genoeg zijn om op eigen kracht te leren.
Er was een probleem: veel mensen die bekwaam genoeg waren om al deze problemen op te lossen, werkten al bij Google (evenals bij Microsoft, Facebook, Baidu en Twitter). En niemand bij dat diner was er helemaal zeker van dat deze onderzoekers naar een nieuwe startup gelokt konden worden, zelfs als Musk en Altman erachter zaten. En minstens één belangrijke speler stond klaar om het schip te verlaten. "Ik begreep de risico's", zegt Suckever, "maar ik wist ook dat het interessant zou zijn om het te proberen."
Doorbreek de cirkel
Aangemoedigd door gesprekken met Musk, Altman en anderen bij Rosewood, besloot Brockman al snel om het laboratorium te bouwen dat ze allemaal in gedachten hadden. Met een sterke toewijding aan het project haalde hij Yoshua Bengio binnen, een wetenschapper van de Universiteit van Montreal en een van de grondleggers van de deep learning-beweging. Twee andere pioniers in de industrie - Jeff Hinton en Jan Lecun - werken respectievelijk bij Google en Facebook, maar Bengio ambieerde een leven in de academische wereld, ergens buiten het bereik van industriële tentakels. Hij schetste een lijst met de beste onderzoekers in het veld en de daaropvolgende weken nam Brockman contact op met iedereen die hij kon, ook met een aantal anderen.
Veel van deze onderzoekers waren ingenomen met het idee, maar waren huiverig voor de mogelijkheid van een dergelijke sprong. In een poging de cirkel te doorbreken, selecteerde Brockman de tien ontdekkingsreizigers die hij het meest wilde zien en nodigde hen uit om de zaterdag door te brengen met wijn, snacks en een gesprek in een wijnkelder in Napa Valley. Voor Brockman was zelfs een reis naar Napa de katalysator voor het project. "Dit is een onderschatte manier om mensen bij elkaar te brengen, vooral in tijden waarin je je nergens kunt haasten om je doel te bereiken", zegt hij. 'Je moet daarheen gaan, maar je moet ook praten.' En toen ze bij de wijn kwamen, bleef die sfeer. Zoals Suckever zegt, "de wijn was ondergeschikt aan het gesprek."
Greg Brockman
Aan het eind van de dag nodigde Brockman alle tien de onderzoekers uit voor het lab en gaf ze drie weken bedenktijd. Aan het einde van de termijn voerden er negen het bevel. En ze bleven erin, ondanks de grote aanbiedingen van de reuzen van Silicon Valley. "Ik kreeg een heel aantrekkelijk aanbod om te blijven, dus de beslissing was niet gemakkelijk", zegt Suckever van Google, zijn voormalige werkgever. "Uiteindelijk besloot ik om naar OpenAI te gaan, deels vanwege de zeer sterke groep mensen en natuurlijk vooral vanwege hun missie."
De deep learning-beweging begon in de academische wereld. Het is pas onlangs dat bedrijven als Google, Microsoft en Facebook hebben besloten om dit gebied aan te pakken, aangezien de vooruitgang in brute rekenkracht deze diepe neurale netwerken tot realiteit heeft gemaakt, niet alleen tot een theoretische mogelijkheid. Mensen als Hinton en LeCune hebben de academische wereld bij Google en Facebook verlaten vanwege de enorme middelen bij deze bedrijven. Maar bleef nauw verbonden in samenwerking met andere theoretici van het veld. Maar, zoals LeCun uitlegt, vereist deep learning-onderzoek de vrije stroom van ideeën. 'Als je in het geheim onderzoek doet', zegt hij, 'val je terug.'
Hierdoor hebben grote bedrijven nu veel van hun AI-onderzoek tot hun beschikking. Dit is een belangrijke troef, vooral voor Google, dat de technologie van zijn online-imperium lang geheim heeft gehouden. Nog niet zo lang geleden opende Google de broncode voor de software-engine die zijn neurale netwerken draait. Maar er blijft veel achter slot en grendel in deze race voor de toekomst. Brockman, Altman en Musk proberen het idee van openheid nog verder te stimuleren door te zeggen dat ze niet willen dat een of twee grote bedrijven de toekomst van kunstmatige intelligentie beheersen.
Grenzen van openheid
Het klinkt allemaal geweldig. Maar ondanks al het idealisme van OpenAI, kunnen onderzoekers zich in dezelfde omstandigheden bevinden die hen dwongen om aan oude banen te werken. Openheid kent zijn grenzen. En de langetermijnvisie van AI is niet de enige interesse in deze game. OpenAI doet geen liefdadigheidswerk. De bedrijven van Musk zullen enorm profiteren van het werk van de startup, en dat geldt ook voor Altman's Y Combinator. "Er zijn zeker enkele concurrerende punten", zegt Lecun. - Het is een non-profit organisatie, maar heeft een nauwe relatie met Y Combinator. En mensen zullen worden betaald om in deze branche te werken."
Het lab betaalt niet dezelfde astronomische salarissen die Google en Facebook aan AI-onderzoekers hebben verstrekt, zei Brockman. Maar hij zegt ook dat het lab "hen goed wil betalen" en compensatie aanbiedt in de vorm van aandelenopties, eerst bij Y Combinator en later mogelijk bij SpaceX (dat, in tegenstelling tot Tesla, een privébedrijf is).
Desalniettemin benadrukt Brockman dat OpenAI niet voorziet in een speciale behandeling van verbonden bedrijven. OpenAI is een onderzoeksinitiatief, geen adviesbureau. Toch heeft het idealisme van OpenAI zijn beperkingen. Het bedrijf opent de code misschien niet voor alles wat het produceert, hoewel het uiteindelijke doel nog steeds is om het meeste te verspreiden, of het nu gaat om wetenschappelijke artikelen of internetdiensten. “Openen is niet per se de beste optie. Je moet het idee koesteren, kijken waar het toe leidt en vervolgens publiceren, zegt Brockman. - We zullen veel open source-code produceren. Maar we zullen ook veel dingen hebben die nog niet klaar zijn voor release."
Suzkever voegt er ook aan toe dat OpenAI zelfs een deel van zijn werk zou kunnen patenteren. "We zullen binnenkort niets patenteren", zegt Brockman. "Maar we zijn bereid om op lange termijn van tactiek te veranderen, als we denken dat het beter zal zijn voor de wereld." OpenAI kan bijvoorbeeld proactief patenten aanvragen om anderen te ontmoedigen patenten te verkrijgen.
Sommigen zien patenten misschien als een motief om winst te maken. Maar dat is het hele punt van patenten.
Het superintelligentieprobleem
Toen Musk en Altman OpenAI presenteerden, schetsten ze ook het project als een manier om de dreiging van kwaadwillende superintelligentie te neutraliseren. Dergelijke superintelligentie zou natuurlijk het resultaat kunnen zijn van het werk van OpenAI, maar ze staan erop dat elke bedreiging wordt beperkt door de technologie voor iedereen beschikbaar te maken. "We denken dat het veel waarschijnlijker is dat een groot aantal AI's willekeurige slechte acteurs kan stoppen", zegt Altman.
Maar niet iedereen op dit gebied gelooft in een dergelijke uitkomst. Nick Bostrom, een filosoof uit Oxford die, net als Musk, waarschuwde voor de gevaren van AI, wijst erop dat als je je onderzoek onbeperkt deelt, 'slechte acteurs' ze kunnen vangen voordat iedereen zeker weet dat ze veilig zijn. 'Als je een knop hebt die de wereld waardeloos maakt,' zegt Bostrom, 'wil je waarschijnlijk niet iedereen er toegang toe geven.' Als OpenAI daarentegen besluit om onderzoek tegen te houden zodat de slechteriken er geen toegang toe krijgen, vraagt Bostrom: hoe zal dit verschillen van Google of Facebook?
Hij zegt ja, de non-profitstatus van OpenAI kan dingen wel of niet veranderen. De echte kracht van het project, zegt hij, is dat het kan worden geverifieerd door Google en Facebook. “Het zal de kans verkleinen dat superintelligentie wordt gemonopoliseerd. Het zal een van de mogelijke redenen kunnen verwijderen waarom sommige individuen of groepen toegang zullen hebben tot betere AI dan alle anderen."
In een recent werk legt de filosoof uit dat het belangrijkste effect van een initiatief als OpenAI - een initiatief om vrijelijk te delen wat er wordt gedaan - is dat de vooruitgang van kunstmatige intelligentie wordt versneld, in ieder geval op korte termijn. En het kan de voortgang op lange termijn versnellen, op voorwaarde dat een hoger niveau van transparantie wordt gehandhaafd dan commercieel optimaal zou zijn.
"Het kan zijn dat een filantropisch gemotiveerde R & D-investeerder de vooruitgang aanzienlijk zou kunnen versnellen door een open science-beleid te voeren", zegt hij.
Hoe Xerox PARC
Begin januari kwamen negen van Brockmans onderzoekers bijeen in zijn appartement in San Francisco. Het project was zo nieuw dat ze niet eens whiteboards hadden. (Stel je voor.) Ze kochten er dezelfde dag een paar en gingen aan het werk.
Brockman zegt dat OpenAI zal beginnen met het verkennen van reinforcement learning, een machinegebaseerde manier om problemen te leren door ze keer op keer te herhalen en bij te houden welke methoden de beste resultaten opleveren. Een andere grote uitdaging is het zogenaamde "unsupervised learning" - het creëren van machines die echt zelf kunnen leren zonder menselijke hulp. Tegenwoordig is deep learning afhankelijk van zorgvuldig gelabelde gegevens. Als je een neuraal netwerk wilt leren om foto's van katten te herkennen, moet je het een bepaald aantal voorbeelden geven - en deze voorbeelden moeten worden gelabeld als foto's met katten. Deze training wordt gedaan met hulp van mensen. Maar net als veel andere wetenschappers is OpenAI van plan neurale netwerken te bouwen die kunnen leren zonder zorgvuldige selectie van gegevens.
"Als je een heel goede lesmethode hebt zonder leraar, kunnen machines leren van alle kennis op internet - net als een mens, gewoon rondkijken - of door boeken te lezen", zegt Brockman.
Hij ziet OpenAI als de moderne incarnatie van Xerox PARC, een technologisch onderzoekslaboratorium dat bestond in de jaren zeventig. Net zoals PARC's open en vrije onderzoek heeft geleid tot alles, van grafische gebruikersinterfaces en laserprinten tot objectgeoriënteerd programmeren, willen Brockman en zijn team duiken in wat vroeger sciencefiction was. PARC was eigendom van Xerox, maar werd gevoed door vele andere bedrijven, waaronder Apple, omdat mensen zoals Steve Jobs het onderzoek verwelkomden. Brockman wil dat iedereen OpenAI-onderzoek verwelkomt.
In de hoop deze dynamiek te stimuleren, rekruteerden Brockman en zijn bedrijf verschillende andere opmerkelijke onderzoekers, waaronder Ian Goodfellow, een andere senior onderzoekswetenschapper in het Google Brain-team. Brockman zegt dat PARC in feite een stel slimme mensen bij elkaar bracht en besloot om te kijken wat er gebeurde. "Je hebt een gedeelde visie nodig zonder centrale sturing."
Gebrek aan controle is essentieel voor het ideaal. Als je genoeg mensen in het collectieve doel brengt, wint het eindresultaat alles wat je stiekem hebt bedacht. Maar als AI zo krachtig wordt als beloofd, zal de vergelijking veranderen. We hebben de verzekering nodig dat de pas ontdekte AI zich zal houden aan dezelfde egalitaire idealen die in de eerste plaats tot de oprichting ervan hebben geleid. Musk, Altman en Brockman geloven in mensen, in de massa. En als ze gelijk blijken te hebben, zal deze menigte op een dag niet helemaal menselijk zijn.
ILYA KHEL