"The Rise of the Machines", "The Terminator Returns" … Veel sciencefiction is gebaseerd op het feit dat computers zo slim worden dat ze begrijpen dat ze beter af zullen zijn zonder een persoon. Sprookjes? Hoe te kijken. Tegen 2050 kan een typische homecomputer evenveel informatie verwerken als alle mensen op aarde bij elkaar.
Maar 2050 is op voorwaarde dat machines zich geleidelijk ontwikkelen. Zo werkt het niet. Onze relatie met de elektronische wereld gaat met grote sprongen vooruit. Eens - een muis was aan de auto vastgemaakt. Eens - het internet verscheen. Ooit waren er smartphones met tablets.
De volgende doorbraak komt wanneer de computer mensen kan begrijpen. Smartphones hebben al apps zoals Siri en Cortana die een eenvoudig gesprek met ons kunnen voeren. Maar het probleem is dat de computer begrijpt, niet wat we zeggen, maar wat we bedoelen! Het eenvoudigste voorbeeld: de uitdrukking "Hij verliet me", gezegd door een betraande vrouw en de baas van een man, heeft totaal verschillende betekenissen.
Dus: zodra machines enerzijds de nuances van menselijke spraak leren herkennen, zullen onze handen in letterlijke en figuurlijke zin losgemaakt worden. Ik sprak met de computer en hij deed alles. Aan de andere kant, naderen we niet een gevaarlijke lijn, waarbij we de laatste barrière in communicatie tussen mensen en zielloos ijzer wegnemen?
Ik heb hier lang over willen praten met een beroemde wetenschapper, directeur taalonderzoek bij ABBYY, hoofd van de afdelingen computationele taalkunde aan de Russische Staatsuniversiteit voor Geesteswetenschappen en het Moscow Institute of Physics and Technology, Vladimir Selegey. Maar toen ik hem mijn apocalyptische angsten vertelde, fronste hij zijn wenkbrauwen.
“Ja, sciencefiction zit vol duistere voorspellingen over hoe door mensen opgeleide machines het zonder zullen doen. Maar het is mij niet duidelijk waarom een toename van de hoeveelheid kennis die in programma's is ingebed, een computer ertoe zal aanzetten om beslissingen te nemen zonder toestemming van een persoon te vragen?
Het probleem is in feite niet dat de computer leert het zonder mensen te stellen, maar dat mensen het zonder zichzelf willen stellen bij het oplossen van bepaalde problemen. Hier is Tsjernobyl …
Promotie video:
En wat heeft Tsjernobyl ermee te maken?
- Een kernreactor is een zeer complex fysisch model. Het lijkt erop dat alle controleparameters van de reactor bekend zijn, dat alles aan strikte fysische wetten voldoet en de besluitvorming volledig aan de computer kan worden toevertrouwd. Maar…
In 1986, een week na het ongeval, woonde ik een seminar bij over het gebruik van kunstmatige intelligentie in de industrie. Zelfs toen was het duidelijk dat we een ernstig risico lopen door besluitvorming aan een computer toe te vertrouwen. Programma's bevatten vaak fouten. Zelfs de satellieten vertonen softwareproblemen.
Dat wil zeggen, een persoon is betrouwbaarder dan een computer, hoewel hij veel sneller "denkt"?
- Een persoon heeft, naast al het andere, motivatie. Hij lost zijn problemen op - opleiding, voortplanting, carrière, hij weet hoe hij zich moet voelen …
Maar kan een of andere sluwe programmeur een programma schrijven dat een agressiemachine zou leren …
- Je kunt bijvoorbeeld proberen een militaire robot te maken die zelf beslissingen neemt en analyseert wat hij ziet en hoort. En het zal erg gevaarlijk zijn. Maar niet omdat de robot plotseling het verlangen zal hebben om te vernietigen, zoals geschreven door sciencefictionschrijvers. Maar omdat een programmeur een fout maakt, kan het negeren van sommige factoren leiden tot onvoorspelbaar robotgedrag.
Maar tot nu toe zijn we ver verwijderd van het vermogen om zelflerende programma's te maken die in staat zijn om volledig nieuwe kennis te genereren. Ga grofweg onafhankelijk van de tafel van vermenigvuldiging naar het vermogen om complexe vergelijkingen op te lossen.
In de tweede helft van de twintigste eeuw waren futuristische voorspellingen op het gebied van wetenschap erg populair. Alles over de intelligentie van de computer kwam in de melk terecht. Niemand had het internet voorspeld, de ongelooflijke vrijheid van toegang tot informatie, mobiele telefoons. Maar iedereen had het over denkende computers.
Zo presteerde ons eerste schaaksysteem KAISA aan het einde van de jaren 60 met succes op het Wereldkampioenschap onder computers. Men geloofde dat om een machine een persoon te laten verslaan, het nodig was om de algoritmen van een menselijk spel te simuleren. Om de geest te leggen, het intellect, de zeer mysterieuze intuïtie die de schaker de juiste beslissingen laat nemen.
Tegenwoordig verslaat de computer een persoon. Maar hij heeft nooit intuïtie geleerd. Een miljard gespeelde spellen, alle spelervaring, alle beslissingen die ooit door schakers zijn genomen, zijn in zijn geheugen geladen. En ze leerden hen dit te gebruiken bij het kiezen van het optimale spelplan, waardoor ze een enorme snelheid van opsomming en evaluatie van opties kregen. De computer verslaat de wereldkampioenen, maar haalt er geen plezier uit. Alles is compleet anders dan mensen.
Maar u bent een van degenen die de computer net leert "het hoofd aan te zetten"
- We proberen alleen programma's te leren om teksten te 'begrijpen', zodat ze er informatie uit kunnen halen, verzamelen en generaliseren. Zodat mensen gefilterde kennis ontvangen, geselecteerd uit miljarden bronnen. Dit is erg moeilijk, omdat een persoon zelf niet zo goed weet hoe zijn taalvaardigheid is geregeld, waarop zijn begrip van andere mensen is gebaseerd.
Statistische automatische vertaling is nu populair. De computer begrijpt helemaal niet waar de vertaalde tekst over gaat, hij weet gewoon hoe hij de meest waarschijnlijke varianten van het vertalen van kleine fragmenten (in een paar woorden) kan vinden, door de enorme hoeveelheden menselijke vertalingen die in zijn geheugen zijn opgeslagen te analyseren. Over het algemeen is de tekst duidelijk. Maar het zou lichtzinnig zijn om op basis van zo'n vertaling een verantwoorde beslissing te nemen.
Oké, kan de computer de instructies voor mij vertalen?
- Instructies? Is het gevaarlijk.
- Ja tegen een simpele koelkast!
- Zelfs naar de koelkast! Ik zou willen dat onze programma's vertalen, proberen de tekst te begrijpen, kiezen tussen opties op basis van kennis, en niet alleen omdat deze correspondentie het vaakst in onze database wordt aangetroffen.
Oké, laten we zeggen dat je het probleem hebt opgelost en een systeem hebt gecreëerd waardoor computers de nuances van onze spraak leren begrijpen en deze zelfs nauwkeurig in een andere taal vertalen. En dan bedreigt een nieuw gevaar de mensen - er is geen reden om na te denken. Het geheugen hoeft niet te worden getraind, hersenen. Informatie nodig - alstublieft, Wikipedia. Je moet met een buitenlander praten - vertaler …
- Hoe hoger het niveau van intelligentie en kennis van een persoon, des te nuttiger voor hem de volgende "slimme assistent". En hoe lager, hoe meer kansen er lijken om helemaal niet na te denken. Computertechnologieën leiden tot polarisatie van de samenleving. De komst van de rekenmachine leidde grofweg niet tot de degeneratie van wiskundigen. Maar bij sommige schoolkinderen was er duidelijk sprake van een afname van het toch al lage niveau van vaardigheden.
- Weet u, voor mij is een ernstige indicator van een daling van het opleidingsniveau het aantal mensen dat analfabeet schrijft of niet in staat is hun gedachten en gevoelens te uiten zonder partner te gebruiken
- Ja, mensen begonnen minder bekwaam te schrijven. Simpelweg omdat er over het algemeen minder bewerkte teksten worden gelezen en veel meer van dergelijke bronnen waar de spelling erg wazig is. Maakte dit mensen dommer? Waarschijnlijk niet.
Zie je een verband tussen het feit dat een persoon zijn gedachten analfabeet uitdrukt in zijn moedertaal, en het feit dat hij dommer is geworden?
'Ik zou niet zo ver gaan. Hoewel het duidelijk is: doordat kinderen minder begonnen te lezen, ontstonden er problemen met de overdracht van kennis en cultuur tussen generaties. Dit is het probleem. Tegenwoordig zien we dat een modern scholier met hetzelfde cijfer als 30 jaar geleden literatuur slechter kent.
Hier! …
“… Maar aan de andere kant weet hij veel andere dingen veel beter, waarvan niemand dacht dat ze het konden weten.
Is dit een natuurlijk proces?
- Ja. Bovendien kan voor het eerst in de geschiedenis van de mensheid kennis niet van de ouderen op de jongere worden overgedragen, zoals eeuwenlang is gebeurd. Er was een overdracht van kennis van de jongere naar de ouderen, wat voorheen helemaal niet kenmerkend was voor de menselijke cultuur. Een kind leert papa of mama werken op een computer, met een mobiele telefoon, is een bron van verschillende kennis voor zijn ouders. En nog meer kinderen reizen de wereld rond. Vaak zijn ze een bron van geografische en culturele kennis.
Luister, maar hier begon het allemaal met computers. Ze hebben mensen zelfs bevrijd van de noodzaak om de elementaire grammaticaregels uit het hoofd te leren
- Pas begin jaren 90 werkte ik in een team dat een van de eerste spellingcontrolesystemen voor de Russische taal ontwikkelde. Was het nuttig of schadelijk om dit te doen? Heel nuttig vanuit mijn oogpunt. Dit systeem maakte het mogelijk om sneller documenten te maken. En dan hangt alles af van het verantwoordelijkheidsniveau van de persoon. Wie zei dat er na de auto helemaal geen controle nodig is? Het systeem helpt alleen om het veel efficiënter te maken.
Maar we vertrouwen de computer
- Het betekent alleen dat de persoon die het programma heeft gemaakt, u niet heeft geïnformeerd dat er veel verschijnselen zijn die de machine niet kan verifiëren. Onderhandelen bijvoorbeeld.
Nieuwe technologieën leiden helaas vaak tot het verlies van traditionele vaardigheden. Ik heb reparaties uitgevoerd in het appartement. Ik wilde houten ramen plaatsen, die waren eerder geïnstalleerd. Maar dit bleek onmogelijk te zijn. Ze zijn allemaal voorzien van dubbele beglazing. Mensen doen helaas veel dingen niet meer met hun handen. Wat te doen, zo werkt het leven. Helaas.
Dus je bent een conformist?
- Niet. Ik geloof dat het niet goed is om absoluut schadelijke dingen te doen. Maar als je zowel winst als verlies hebt, moet je de risico's afwegen … Als je drugs maakt, denk je niet dat niet alleen goede mensen, maar ook slechte mensen zullen overleven als gevolg van het gebruik ervan.
In ons geval is het, gelijktijdig met de ontwikkeling van technologieën, noodzakelijk om degenen die ze gebruiken te trainen. De negatieve gevolgen van nieuwe technologieën worden vooral weerspiegeld bij degenen die hun werk op geen enkel technologisch niveau zo goed doen.
Neem bijvoorbeeld medicijnen. We willen de arts helpen bij het nemen van een beslissing, we maken een computerexpertsysteem op basis van de analyse van een groot aantal betrouwbare diagnoses gemaakt door de beste artsen. Het geeft een professional de mogelijkheid om zich te wenden tot een grotere hoeveelheid kennis dan hij zelf heeft. Maar de uiteindelijke beslissing is aan hem, niet aan de computer! Voor een slechte dokter is alles anders - hij zal vertrouwen op wat hij niet betrouwbaar kan controleren. Maar gemiddeld genomen, met de komst van dergelijke technologieën, lijkt het mij dat de geneeskunde nog steeds beter wordt, niet slechter.
Nou, we waren ervan overtuigd dat het intellectuele systeem van het begrijpen van een persoon door een computer meer voordelen dan schade oplevert. Maar wanneer zal ze verschijnen?
- Dit is een zeer moeilijke taak die niet onmiddellijk kan worden opgelost. Het is noodzakelijk om de computer kennis bij te brengen over taal en kennis over de wereld, methoden voor het afleiden en vergelijken van waarden. Iets wat we nu weten te doen, iets zal jaren duren. We hebben bijvoorbeeld betrouwbare gegevens nodig over taalgebruik, rekening houdend met individuele en sociale verschillen. En deze verschillen zijn erg significant. We hebben bijvoorbeeld een speciaal project gemaakt over regionale verschillen in de Russische taal. Verzamelde een woordenboek, waarin bijna 10 duizend woorden, die de norm zijn voor inwoners van slechts bepaalde regio's van ons land
Wie zijn we?
“Dit is een gezamenlijk project genaamd Talen van Russische steden, waarbij ABBYY-specialisten, taalwetenschappers, enthousiastelingen uit verschillende delen van Rusland en Russisch sprekende landen zijn betrokken. We analyseerden de taal van regionale media, sociale netwerken, decreten en beslissingen van lokale autoriteiten. En dit is slechts een klein deel van de kennis die op een computer moet worden aangeleerd!
Wat is het fundamentele verschil tussen uw benadering van vertalen en de systemen die bijvoorbeeld Google gebruikt?
- Statistische systemen bouwen geen taalstructuren. Ze zoeken naar vertaalovereenkomsten voor kleine fragmenten van 5-7 woorden. Maar de taal is zo ingedeeld dat de verwante woorden vaak veel verder gelegen zijn, en als deze connectie niet in aanmerking wordt genomen, ontstaan er fouten. Maar heel vaak zijn dergelijke details belangrijk bij de vertaling, waarvan het negeren de betekenis volledig kan veranderen. Om met alles rekening te houden, is het noodzakelijk om tijdens de analyse het hele systeem van linguïstische verbanden tussen woorden te identificeren, wat de structuur van een zin wordt genoemd. We vertalen geen stukjes zinnen van taal naar taal, we proberen de semantische structuur van de zin te identificeren en deze structuur vervolgens te synthetiseren door middel van een andere taal.
Maar deze semantische structuren worden niet alleen en niet zozeer gebruikt voor automatische vertaling. Ze zijn ook nodig om de problemen van intelligent zoeken en informatieanalyse, die vandaag de dag belangrijker zijn voor ABBYY als commercieel bedrijf, effectief op te lossen. De onlangs uitgebrachte eerste oplossingen voor de zakelijke markt zijn bijvoorbeeld gebaseerd op deze technologieën: ze laten je gewoon toe om gegevens te zoeken en analyseren in de enorme stroom aan informatie die in organisaties is opgeslagen.
En welke taal is, vanuit uw standpunt, moeilijker te begrijpen?
- Het is algemeen aanvaard dat hoe moeilijker de talen zijn waarin u meer regels moet leren. Maar in het geval van computerbegrip is dit niet het geval.
Iets dat moeilijk is voor een persoon, bijvoorbeeld een rijk verbuigingssysteem in het Russisch of Litouws, vereenvoudigt de taak voor een computer in bepaalde stadia van analyse.
De Chinese taal is bijvoorbeeld erg moeilijk omdat er geen morfologie in zit, en daarom de grote hoeveelheid dubbelzinnigheid waarmee de computer wordt geconfronteerd. Daarom is het voor computeranalyse van de Chinese taal erg belangrijk om kennis over de wereld te gebruiken, belangrijker dan bijvoorbeeld bij het analyseren van talen met een ontwikkelde morfologie.
We zijn erin geslaagd om te werken met Russisch, Duits, Engels, Frans, Spaans, Chinees. De taalanalyse is onderverdeeld in fasen. Sommige stadia hebben specificiteit, moeilijkheden voor de ene taal, andere voor een andere. Maar in wezen zijn de technologieën waarmee we werken van toepassing op alle talen.
Wanneer zal naar uw mening de dag komen dat we parallel met ons gesprek een snelle en begrijpelijke vertaling op de computer kunnen ontvangen? Laten we zeggen dat we nu aan het praten zijn en onmiddellijk een transcriptie van ons gesprek in het Spaans krijgen?
- Het zal binnenkort mogelijk zijn. Ik denk dat niet in twee jaar. Maar … wat is er nodig om dit probleem op te lossen? We moeten onze spraakanalysesystemen verbeteren. We kunnen een spontaan gesprek nog niet aannemen, het scheiden van de ruis en de gewenste tekst krijgen. En er is elk jaar vooruitgang in deze richting.
Maar toch zullen er dingen zijn die de machine niet ondubbelzinnig kan interpreteren. En hier zal de nauwkeurigheid van begrip en vertaling afhangen van de beschikbaarheid van het systeem van kennis over de wereld, van de mechanismen van logische gevolgtrekking.
Maar in ieder geval blijft het gevaar van volledig vertrouwen in zo'n programma bestaan. Het is een vergissing om te denken dat u, bijvoorbeeld, over vijf jaar een brief aan een computer kunt dicteren, deze vertaalt en naar uw zakenpartner stuurt, en alles komt goed. Niemand garandeert dat de machine het "niet" ergens zal missen of andere fouten zal maken, waarna uw zakelijke relatie als compleet kan worden beschouwd.
Dat wil zeggen, een persoon als controller zou dat nog steeds moeten zijn?
- Zeker. Technologie blindelings vertrouwen is gevaarlijk.
