Twee miljardairs die hun fortuin online hebben verdiend, Tesla- en Space X-eigenaar Elon Musk en Facebook-oprichter Mark Zuckerberg, zijn in een afwezigheidsgeschil geraakt over de gevaren van kunstmatige intelligentie.
Beide ondernemers hebben er vertrouwen in dat het creëren van volwaardige kunstmatige intelligentie (AI) een kwestie van de nabije toekomst is. Maar Musk gelooft dat het tijd is dat de mensheid nadenkt over het reguleren van de ontwikkelingen op dit gebied, en Zuckerberg is ervan overtuigd dat kunstmatige intelligentie het leven van mensen aanzienlijk zal verbeteren.
Half juli sprak Elon Musk met de gouverneurs van de Amerikaanse staten en drong er bij de autoriteiten op aan na te denken over het introduceren van wettelijke beperkingen op ontwikkeling op het gebied van AI.
Zuckerberg beantwoordde de vraag over de gevaren van AI bij het chatten met Facebook-gebruikers. Hem werd botweg gevraagd of hij dacht dat Musks angsten gegrond waren. De maker van Facebook zei dat hij niet begreep hoe Musk serieus kon oproepen tot vertraging.
Hij reageerde door te tweeten: “Ik heb hierover gesproken met Mark. Hij heeft een beperkt begrip van deze kwestie :
Present Tense publiceert de toespraken van de twee miljardairs volledig.
"Totdat we robots op straat zien lopen en mensen zien doden, weten we niet hoe we moeten reageren." Elon Musk's angsten
Promotie video:
Ik heb toegang tot het allernieuwste op het gebied van AI. En ik denk dat mensen zich echt zorgen moeten maken over deze kwestie. Ik weet hoe het klinkt, maar totdat mensen robots op straat zien lopen en mensen zien vermoorden, weten ze niet hoe ze moeten reageren.
Het lijkt onrealistisch. Ik denk dat we ons echt zorgen moeten maken over AI. En ik denk dat dit een zeldzaam geval is wanneer we bij onze wettelijke beperkingen voorop moeten blijven lopen en later geen beslissingen moeten nemen, als het te laat is.
Beperkingen werken doorgaans als volgt: in het begin gebeuren er veel slechte dingen, protesteert de samenleving en na vele jaren zijn er regelgevende instanties voor deze industrie. Bedrijven die niet van externe controle houden, verzetten zich, en het duurt erg lang. Dit heeft in het verleden al tot slechte gevolgen geleid, maar vormde geen fundamentele bedreiging voor het bestaan van de mensheid.
AI is een fundamenteel risico voor het menselijk bestaan. En dit is het soort risico dat noch auto-ongelukken, noch vliegtuigongelukken, noch probleemdrugs, noch slecht voedsel ooit hebben gehad. Ze vormden geen bedreiging. Misschien waren ze voor specifieke mensen, maar ze vormden geen risico voor de hele samenleving.
AI is een fundamentele existentiële bedreiging voor de beschaving, en ik denk niet dat mensen zich hiervan volledig bewust zijn. Ja, beperkt zijn is niet leuk. Maar in de auto-industrie worden we gecontroleerd door het Department of Transportation en vele anderen. En elk land heeft regelgevende instanties. In de ruimtevaartindustrie worden we gecontroleerd door de Federal Aviation Administration. Maar als je een gewoon persoon vraagt: "Hé, je wilt af van het beheer van de burgerluchtvaart en hoopt gewoon dat fabrikanten niet besparen op het vliegtuig, omdat de winst dit kwartaal is gedaald", dan zal de persoon zeggen: "Natuurlijk niet." Klinkt zo-zo.
Ik denk dat zelfs zeer liberale mensen nog steeds zouden zeggen: "Laten we de vliegtuigfabrikanten in de gaten houden, we moeten ervoor zorgen dat ze goede vliegtuigen maken." Leuke auto's, dat soort dingen. De toezichthouders hebben dus een rol te spelen. Natuurlijk ben ik tegen strikte controle. Maar ik denk dat we beter opschieten met AI.
Deze [uitvinding van AI] zal natuurlijk leiden tot banenverlies, omdat robots alles beter kunnen dan wij. Dat wil zeggen, beter dan wij allemaal. Ja. Ik weet niet wat ik eraan moet doen. Dit is het ergste probleem voor mij. Ja, ik ben er eigenlijk zeker van dat we staatscontrole nodig hebben, omdat we op die manier de openbare veiligheid kunnen waarborgen.
Bedrijven hebben haast, ze hebben tijd nodig om AI te maken, anders worden ze niet concurrerend. Als je concurrent haast heeft om AI te maken, en jij bent dat niet, dan zal hij je vernietigen. En bedrijven zeggen: "We willen niet doodgaan, het lijkt erop dat we ook AI moeten creëren."
En dit is waar de controles zouden moeten komen: "Jongens, jullie moeten allemaal langzamer gaan en ervoor zorgen dat het veilig is." Als de reviewers ervan overtuigd zijn dat het veilig is, dan kun je doorwerken. Anders vertraagt u. Maar de auditors moeten dit doen voor iedereen die het doet, anders zullen de aandeelhouders zeggen: “Hé, waarom ontwikkel je AI niet sneller dan je concurrenten? Het zou nodig zijn!"
Ik denk dat dit het grootste risico is dat we als beschaving nemen. Ik denk dat het de rol van de staat is om voor de samenleving te zorgen en aandacht te schenken aan wat haar bedreigt. Vandaar de beperkingen. Ten eerste moet je er zoveel mogelijk over leren om de aard van het probleem te begrijpen, om de voortgang en ongelooflijke prestaties op het gebied van AI te observeren.
Vorig jaar, in een go-game die moeilijk genoeg was om te winnen, en waarin mensen dachten dat de computer nooit de beste menselijke speler zou verslaan, of dat het over 20 jaar zou gebeuren, vorig jaar AlphaGo, gemaakt door DeepMind, het door Google gekochte bedrijf versloeg de beste go-speler ter wereld. En nu kan ze met 150 spelers tegelijk spelen en ze allemaal verslaan.
Dit is een indrukwekkend tempo van vooruitgang, en het zal steeds vaker voorkomen. Robotica bijvoorbeeld. Er zijn robots die in uren van nul leren lopen. Sneller dan welke soort dan ook. Maar het gevaarlijkste - en dit is het moeilijkst te begrijpen - omdat het niet iets fysieks is, het is intelligentie.
Het lijkt erop, wat kan krachtige [kunstmatige] intelligentie doen op het web? Begin bijvoorbeeld een oorlog. Bijvoorbeeld door nepnieuws, neppersberichten en postadressen te creëren en simpelweg informatie te manipuleren. De pen is machtiger dan het zwaard.
Als voorbeeld - ik wil benadrukken, ik denk niet dat dit echt is gebeurd, ik zeg dit puur hypothetisch - herinner je je dat Maleisische vliegtuig dat werd neergeschoten over de grens tussen Rusland en Oekraïne? Hierdoor is de wrijving tussen Rusland en de EU enorm toegenomen.
Stel je voor dat als je kunstmatige intelligentie had en het doel was om de waarde van een aandelenportefeuille te maximaliseren, een manier zou zijn om defensieaandelen te kopen, short te gaan op consumentenaandelen en een oorlog te beginnen.
Hoe kon hij dat doen? Hack Malaysia Airlines, vliegtuigrouteservers, stippel routes uit boven een oorlogsgebied en stuur dan een anoniem bericht dat "een vijandelijk vliegtuig over je vliegt".
"Alle technologieën kunnen worden gebruikt voor kwaad en goed." Mark Zuckerbergs optimisme
Ik heb hier vrij sterke overtuigingen over. Ik ben erg optimistisch. Ik ben over het algemeen een optimistisch persoon. Ik denk dat we dingen kunnen creëren die de wereld een betere plek maken, en ik ben vooral optimistisch over AI. Ik denk dat ik mensen gewoon niet begrijp die altijd sceptisch zijn en constant intimideren met deze scenario's van het naderende einde van de wereld. Ik denk dat dit echt heel erg en onverantwoord is, want in de komende vijf tot tien jaar zal AI in staat zijn om de kwaliteit van ons leven te verbeteren en te verbeteren.
Als je je zorgen maakt over de veiligheid en gezondheid van mensen, dan helpt AI al om ziektes beter te diagnosticeren en medicijnen voor mensen te selecteren, afhankelijk van waar ze ziek van zijn en hoe ze beter kunnen worden genezen. Veel mensen zullen betere gezondheidszorg krijgen dan ooit tevoren.
Zelfrijdende auto's zijn veiliger dan auto's die door mensen worden bestuurd. Het is gewoon een kwestie van tijd. Auto-ongelukken blijven een van de belangrijkste doodsoorzaken. En als ze zouden kunnen worden geëlimineerd met behulp van AI, zou het het leven van mensen aanzienlijk verbeteren.
Als ik de redenering hoor: "Oh, weet je, AI gaat mensen in de toekomst schaden", denk ik dat inderdaad alle technologie kan worden gebruikt voor zowel kwaad als goed. En je moet voorzichtig zijn wanneer je iets maakt, je moet voorzichtig zijn en nadenken over hoe het zal worden toegepast.
Maar als mensen erop staan het AI-proces te vertragen, vind ik dat erg controversieel. Het is echt moeilijk voor mij om dit te begrijpen, want als je tegen AI bent, dan ben je tegen veiligere machines die geen ongelukken veroorzaken, tegen de mogelijkheid om ziekten beter te diagnosticeren. En ik begrijp gewoon niet hoe sommige mensen het zonder sluwheid kunnen doen. Dus ik ben over het algemeen veel optimistischer over deze [AI-creatie] dan misschien veel mensen zijn.
