Vorige maand op een zaterdag kwamen vijf mannen van 19 tot 26 jaar zelfverzekerd uit een wolk van paarse rook tevoorschijn tijdens een omgebouwde autoshow in San Francisco. Ze zaten achter een rij computertoetsenborden en werden luid begroet door een menigte van enkele honderden mensen. Na negentig minuten intense muisklikken was de glimlach van de vijf dof en het applaus was geruststellend. Team OG, de wereldwijde kampioen van 's werelds meest winstgevende competitieve game Dota 2, heeft twee games op rij verloren van een team van AI-bots.
Dit resultaat is opmerkelijk omdat complexe videogames wiskundig moeilijker zijn dan bordspellen zoals schaken of go. En toch, achter de schermen tegen de muur geleund, voelde Sam Altman - CEO van het onderzoeksinstituut OpenAI dat deze bots ontwikkelde - een vakantie van opluchting.
Kunstmatige intelligentie versus doters
"We waren allemaal behoorlijk zenuwachtig die ochtend - ik dacht dat de kans 60 tot 40 was", zegt Altman. Hij werd in maart CEO van OpenAI, nadat hij afgetreden was als president van de invloedrijke startup incubator YCombinator. Om in zijn nieuwe rol te slagen, had Altman bots nodig die niet alleen mensen versloegen in videogames - hij had bots nodig die in alles beter waren dan mensen.
De missie van OpenAI is om ervoor te zorgen dat elke toekomstige AI die beter presteert dan "mensen in de meest kosteneffectieve baan" de hele mensheid ten goede komt. Dergelijke technologieën - algemene kunstmatige intelligentie, "sterke" kunstmatige intelligentie of AGI - zijn nog niet eens aan de horizon, maar OpenAI beweert dat zowel het als andere snel vooruitgang boeken. De organisatie heeft laten zien dat ze onderzoek kan doen op de beste ter wereld. En ze heeft beschuldigingen gekregen van het maken van de AI-hype, evenals het oplossen van AGI en de mogelijke bedreigingen van AI.
Altman's plan is dat OpenAI-onderzoek - en provocaties - alleen maar sneller moet gaan. De voormalige voorzitter van de raad van bestuur van de organisatie nam het over als CEO nadat hij het grootste deel van het non-profitpersoneel naar een nieuw commercieel bedrijf had verhuist, in de hoop investeerders aan te trekken met de miljarden die nodig zijn om het lot van AI en de mensheid vorm te geven. Altman zegt dat grote technologielaboratoria bij Alphabet en elders onder druk moeten staan van collega's die hun aandeelhouderswaarde niet willen vergroten. "Ik wil niet in een wereld zijn waarin één bedrijf AGI creëert, al zijn waarde grijpt en alle beslissingen neemt", zegt hij.
Promotie video:
Op een MIT-evenement eind 2014 beschreef Tesla-CEO Elon Musk AI-onderzoek als een poging om "een demon op te roepen". In de zomer van 2015 sprak hij met Altman en verschillende anderen tijdens het diner en stelde voor om een onderzoekslaboratorium op te richten, onafhankelijk van het technologiesegment, dat AI in een positieve richting zou sturen. In hetzelfde jaar werd OpenAI opgericht, waarin Altman en Musk zich bevonden. Begin 2018 verliet Musk de raad van bestuur en noemde mogelijke conflicten met zijn andere rollen.
Tijdens zijn korte bestaan heeft OpenAI zichzelf gepositioneerd als een serieuze plek voor AI-onderzoek. Ilya Sutskever, een mede-oprichter van de organisatie die afscheid nam van de AI-onderzoeksleiding bij Google, houdt toezicht op een staf die ex-medewerkers van Google, Facebook, Microsoft en Intel omvat. Hun werk over robotica en machine learning is verschenen op de meest prestigieuze conferenties. De overwinning op Team OG in Dota 2 leverde hen respect op op het gebied van AI en gaming.
De transformatie van OpenAI tot een commercieel bedrijf werd gedreven door het gevoel dat om giganten als Alphabet bij te houden, toegang tot steeds groeiende computerbronnen vereist zou zijn. In 2015 zei OpenAI dat het $ 1 miljard aan contanten had van Altman, Musk, LinkedIn-mede-oprichter Reid Hoffman, vroege Facebook-investeerder Peter Thiel en Amazon. Nu zegt Altman dat één miljard niet genoeg zal zijn. "De hoeveelheid geld die we nodig hebben om de missie te laten slagen, is veel meer dan ik dacht", zegt hij.
IRS-deponeringen tonen aan dat OpenAI in 2017, toen het zijn eerste dota-bot onthulde, $ 8 miljoen aan cloud computing besteedde. Sindsdien zijn haar uitgaven waarschijnlijk aanzienlijk gestegen. In 2018 kondigde OpenAI aan dat de voorganger van het systeem dat OG versloeg, gedurende een periode van weken meer dan 120.000 processors koppelde die waren geleend van de clouddivisie van Google. De kampioenswinnende versie trainde 10 maanden, het equivalent van 45.000 jaar Dota 2 tegen zichzelf spelen. Hoeveel koste het? Greg Brockman, CTO van OpenAI zegt dat het project ‘miljoenen dollars’ in beslag nam, maar details niet openbaarde.
Altman weet niet zeker of OpenAI zal blijven vertrouwen op concurrerende cloudservices - het staat nog steeds open om AI-hardware aan te schaffen of zelfs te ontwikkelen. De organisatie houdt de nieuwe chips die Google en een groot aantal startups ontwikkelt nauwlettend in de gaten om nog meer uit machine learning-algoritmen te halen.
Om de fondsen te werven die nodig zijn om toegang te krijgen tot toekomstige apparatuur, probeerde Altman het idee aan investeerders te verkopen in een plan dat zelfs in Silicon Valley wild zou zijn. Investeer in OpenAI, wacht, en het bedrijf zal uw investering honderdvoudig terugbetalen - zodra het robots uitvindt die beter presteren dan mensen bij de meest economisch waardevolle taken.
Altman zegt dat het voldoen aan die verwachtingen "de meest interessante fondsenwervingservaring van mijn leven was - het past niet bij een ander model." De grootste interesse, zegt hij, is van de rijke mensen die geïnteresseerd zijn in AI. Hoffman en durfkapitaalbedrijf Khosla Ventures hebben geïnvesteerd in een nieuwe commerciële OpenAI, maar hebben niet gereageerd op verzoeken om commentaar. Niemand zegt wanneer je een terugbetaling kunt verwachten, maar gokken op OpenAI is niet voor ongeduldigen. Bedrijven wordt verteld dat hun terugbetalingstijden de industrienorm kunnen overschrijden (tien jaar). "We vertellen ze meteen dat je de komende 10 jaar geen geld zult ontvangen", zegt Altman.
Ondanks alle inspanningen wordt OpenAI vaak bekritiseerd door marktleiders. In februari onthulde het bedrijf details over taalverwerkingssoftware die verrassend live tekst kon genereren. Sommigen noemden de uitvinding onmiddellijk "gevaarlijk" en uitten hun bezorgdheid dat ze op een schadelijke manier zou kunnen worden gebruikt om sociale netwerken te vervuilen.
Verschillende prominente mensen op het gebied van AI-onderzoek waren geïrriteerd, waaronder Facebook AI-chef Ian Lekun. In zijn posts op Facebook verdedigde hij de open publicatie van onderzoek naar AI en grapte hij dat mensen geen kinderen meer moeten krijgen, omdat ze ooit nepnieuws zullen posten.
Voor sommigen benadrukte deze aflevering dat de missie van OpenAI niet erg verschilt van die van andere bedrijfs- of academische labs. "Ze doen, geven of nemen, hetzelfde onderzoek als de rest, maar ze willen miljarden dollars inzamelen", zegt Zachary Lipton, hoogleraar machine learning aan de Carnegie Mellon University. 'De enige manier om het te doen, is door je hart een beetje te verdraaien.'
Altman geeft toe dat OpenAI misschien te vroeg alarm heeft geslagen, maar zegt dat het beter is dan te laat komen. "De technische industrie heeft niet erg goed werk verricht door proactief te zijn tegen misbruik", zegt hij. Zelfcensuur is vereist door OpenAI zelf.
Na de nederlaag van OG vorige maand besloot OpenAI om sympathie te betuigen om een tweede experiment uit te voeren om de goede kant van bovenmenselijke AI te demonstreren. Dota 2-experts en een paar nieuwelingen speelden in teams naast bots.
De software, jammer genoeg om teamgenoten van de noobs te worden, heeft voor het grootste deel een bovenmenselijke onverschilligheid getoond om de beginnende speler te helpen. In plaats daarvan concentreerde het zich op winnen, na instincten die werden aangescherpt door maanden van kostbare training.
Niemand weet hoe zeer gerichte AI flexibeler kan worden gemaakt, of welke componenten nodig kunnen zijn om AGI meer te maken dan technologische fantasie. Zelfs Altman is geïntimideerd door de omvang van het probleem. "Ik heb dagen dat ik geloof dat dit allemaal gaat gebeuren, en dagen dat het allemaal een droom lijkt," zegt hij.
Denk je dat hij zal slagen?
Ilya Khel
