Toen mijn eerste zoon nog maar twee was, hield hij al van auto's, kende hij alle merken en modellen (zelfs meer dan ik, dankzij mijn vrienden), kon hij ze herkennen aan een klein deel van de afbeelding. Iedereen zei: geniaal. Hoewel ze de totale nutteloosheid van deze kennis opmerkten. En de zoon sliep ondertussen met hen, rolde ze, plaatste ze precies op een rij of in een vierkant.
Toen hij 4 was, leerde hij tellen, en bij 5 kon hij al vermenigvuldigen en optellen tot 1000. We speelden zelfs Math Workout (dit spel is op Android - ik hield ervan om na het werk in de metro te rekenen), en op een gegeven moment werd hij mij doe dat alleen. En in zijn vrije tijd telde hij tot een miljoen, waardoor de mensen om hem heen bevroren waren. Genie! - zeiden ze, maar we vermoedden dat niet helemaal.
Trouwens, op de markt hielp hij zijn moeder behoorlijk goed - hij berekende het totale bedrag sneller dan de verkopers op de rekenmachine.
Tegelijkertijd speelde hij nooit op het veld, communiceerde hij niet met leeftijdsgenoten, kon hij niet zo goed opschieten met kinderen en leraren op de kleuterschool. Over het algemeen was hij een klein gereserveerd kind.
De volgende stap was geografie - we probeerden de liefde voor cijfers ergens te kanaliseren en gaven onze zoon een oude Sovjetatlas. Hij stortte zich er een maand in, en daarna begon hij ons lastige vragen te stellen in de stijl:
- Papa, welk land heeft volgens jou een groot gebied: Pakistan of Mozambique?
"Waarschijnlijk Mozambique," antwoordde ik.
- Maar nee! De oppervlakte van Pakistan is maar liefst 2.350 km2 meer, - antwoordde de zoon blij.
Promotie video:
Tegelijkertijd was hij absoluut niet geïnteresseerd in de volkeren die deze landen bewonen, of hun talen, of kleding, of volksmuziek. Alleen kale cijfers: oppervlakte, bevolking, volume minerale reserves, enz.
Iedereen bewonderde weer. 'Slimmer dan zijn jaren,' zeiden ze rond, maar ik maakte me weer zorgen, omdat Ik begreep dat dit volkomen nutteloze kennis is, niet gebonden aan levenservaring, en die moeilijk verder te ontwikkelen is. De beste toepassing van alles wat ik heb gevonden was een voorstel om te berekenen hoeveel auto's er op een parkeerplaats passen als een bepaald land met asfalt wordt opgerold (zonder rekening te houden met bergachtig terrein), maar ik stopte snel, omdat het riekt naar genocide.
Interessant is dat tegen die tijd het onderwerp auto's volledig verdwenen was, de zoon herinnerde zich de namen van zijn favoriete auto's niet eens uit zijn enorme verzameling, die we met verlies van interesse begonnen te verspreiden. En toen begon hij langzamer te tellen in zijn hoofd en vergat hij al snel de vierkanten van landen. Tegelijkertijd begon hij meer te communiceren met zijn leeftijdsgenoten, kreeg hij meer contact. Het genie ging voorbij, de vrienden stopten met bewonderen, de zoon werd gewoon een goede student met een voorliefde voor wiskunde en exacte wetenschappen.
Herhaling is de moeder van leren
Het lijkt erop waar dit allemaal voor is. Dit zie je bij veel kinderen. Hun ouders verklaren iedereen dat hun kinderen geniaal zijn, grootmoeders bewonderen en prijzen kinderen om hun "kennis". En dan groeien ze uit tot gewone, gewoon slimme kinderen, niet genialer dan de zoon van de vriend van mijn moeder.
Bij het bestuderen van neurale netwerken kwam ik een soortgelijk fenomeen tegen, en het lijkt mij dat uit deze analogie bepaalde conclusies kunnen worden getrokken. Ik ben geen bioloog of neurowetenschapper. Allemaal verder - mijn gissingen zonder te claimen dat ze bijzonder wetenschappelijk zijn. Ik ontvang graag opmerkingen van professionals.
Toen ik probeerde te begrijpen hoe mijn zoon leerde sneller te tellen dan ik, zo cool (hij voltooide het niveau in wiskundetraining in 20,4 seconden, terwijl mijn record 21,9 was), realiseerde ik me dat hij helemaal niet meetelt. Hij herinnerde zich dat wanneer 55 + 17 verschijnt, je op 72 moet klikken. Op 45 + 38 moet je op 83 klikken, enzovoort. In eerste instantie telde hij natuurlijk, maar de sprong in snelheid deed zich voor op het moment dat hij alle combinaties kon onthouden. En vrij snel begon hij niet specifieke inscripties te onthouden, maar combinaties van symbolen. Dit is precies wat ze op school leren, de tafel van vermenigvuldiging bestuderen - denk aan de correspondentietafel MxN -> P.
Het bleek dat hij de meeste informatie precies zag als een verband tussen invoergegevens en uitvoergegevens, en dat zeer algemene algoritme dat we gewend zijn om te scrollen om een antwoord te krijgen, werd niet alleen gereduceerd tot een zeer goed aangescherpt, zeer gespecialiseerd algoritme voor het tellen van tweecijferige getallen. Hij deed een aantal uitstekende taken, maar veel langzamer. Die. wat iedereen dacht dat super cool was, werd eigenlijk gewoon gesimuleerd door een goed getraind neuraal netwerk voor een specifieke taak.
Extra kennis
Waarom kunnen sommige kinderen op deze manier uit het hoofd leren, en andere niet?
Stel je het interessegebied van het kind voor (hier benaderen we de vraag kwalitatief, zonder metingen). Aan de linkerkant is het interesseveld van een gewoon kind, en aan de rechterkant is het interesseveld van een "hoogbegaafd" kind. Zoals verwacht gaat de belangstelling vooral uit naar gebieden waarvoor bijzondere bekwaamheden bestaan. Maar voor alledaagse dingen en communicatie met leeftijdsgenoten is de focus niet langer voldoende. Deze kennis acht hij overbodig.
De belangen van een gewoon kind van 5 jaar.
De belangen van een "briljant" kind van 5 jaar.
Bij dergelijke kinderen analyseren en geven de hersenen alleen training over geselecteerde onderwerpen. Door training moet het neurale netwerk in de hersenen leren om de inkomende gegevens met succes te classificeren. Maar de hersenen beschikken over heel veel neuronen. Veel meer dan nodig is voor normaal werk met zulke eenvoudige taken. Meestal lossen kinderen veel verschillende problemen in het leven op, maar hier worden allemaal dezelfde middelen in een kleiner aantal taken gegooid. En training in deze modus leidt gemakkelijk tot wat ML-professionals overfitting noemen. Het netwerk, dat een overvloed aan coëfficiënten (neuronen) gebruikt, is zo getraind dat het altijd precies de nodige antwoorden geeft (maar het kan complete onzin uitdelen over tussenliggende invoergegevens, maar niemand ziet het). De training heeft er dus niet toe geleid dat de hersenen de belangrijkste kenmerken hebben geselecteerd en onthouden, maar dat het veel coëfficiënten heeft aangepast,om een nauwkeurig resultaat te geven op basis van reeds bekende gegevens (zoals in de afbeelding rechts). Bovendien hebben de hersenen zo-zo geleerd over andere onderwerpen, nadat ze slecht waren opgeleid (zoals op de foto links).
Wat is ondermaats en overmaats?
Voor degenen die niet in het onderwerp zijn, zal ik het je heel kort vertellen. Bij het trainen van een neuraal netwerk is het de taak om een bepaald aantal parameters (gewichten van communicatie tussen neuronen) te selecteren, zodat het netwerk zo nauwkeurig en nauwkeurig mogelijk reageert op de trainingsgegevens (trainingsmonster).
Als er te weinig van dergelijke parameters zijn, kan het netwerk geen rekening houden met de details van de steekproef, wat zal leiden tot een zeer ruw en gemiddeld antwoord dat zelfs op de trainingssteekproef niet goed werkt. Vergelijkbaar met de afbeelding links hierboven. Het past niet.
Met een voldoende aantal parameters zal het netwerk een goed resultaat geven, waarbij sterke afwijkingen in de trainingsgegevens worden "opgeslokt". Zo'n netwerk zal niet alleen goed reageren op het trainingsvoorbeeld, maar ook op andere tussenliggende waarden. Zoals de middelste foto hierboven.
Maar als het netwerk teveel configureerbare parameters krijgt, zal het zichzelf trainen om zelfs sterke afwijkingen en fluctuaties te reproduceren (inclusief die veroorzaakt door fouten), wat kan leiden tot complete onzin wanneer je probeert een reactie te krijgen op invoergegevens die niet afkomstig zijn van het trainingsvoorbeeld. Zoiets als de foto rechts hierboven. Het past over.
Een eenvoudig illustratief voorbeeld.
Stel dat u meerdere punten (blauwe cirkels) heeft. U moet een vloeiende curve tekenen om de positie van andere punten te voorspellen. Als we bijvoorbeeld een polynoom nemen, dan zal bij kleine graden (tot 3 of 4) onze vloeiende curve vrij nauwkeurig zijn (blauwe curve). In dit geval gaat de blauwe curve mogelijk niet door de oorspronkelijke punten (blauwe punten).
Als het aantal coëfficiënten (en dus de mate van de polynoom) echter wordt verhoogd, zal de nauwkeurigheid van het passeren van de blauwe punten toenemen (of zelfs een 100% treffer), maar het gedrag tussen deze punten wordt onvoorspelbaar (kijk hoe de rode curve fluctueert).
Het lijkt mij dat het de neiging van het kind is om naar een specifiek onderwerp te gaan (obsessie) en de volledige onwetendheid van de rest van de onderwerpen die ertoe leiden dat bij het aanleren van te veel "coëfficiënten" aan deze onderwerpen worden gegeven.
Gezien het feit dat het netwerk is geconfigureerd voor specifieke invoergegevens en de "kenmerken" niet heeft benadrukt, maar stom de invoergegevens heeft "onthouden", kan het niet worden gebruikt met iets andere invoergegevens. De toepasbaarheid van zo'n netwerk is erg smal. Met de leeftijd verbreedt de horizon, vervaagt de focus en is er niet langer een mogelijkheid om hetzelfde aantal neuronen aan dezelfde taak toe te wijzen - ze worden gebruikt in nieuwe taken die meer nodig zijn voor het kind. De "instellingen" van dat overmatige netwerk storten in, het kind wordt "normaal", het genie verdwijnt.
Als een kind een vaardigheid heeft die op zichzelf nuttig is en ontwikkeld kan worden (bijvoorbeeld muziek of sport), dan kan zijn 'genialiteit' natuurlijk lang behouden blijven en deze vaardigheden zelfs naar een professioneel niveau brengen. Maar in de meeste gevallen werkt dit niet en zal er na 8-10 jaar geen spoor van oude vaardigheden zijn.
conclusies
- heb je een geniaal kind? het zal slagen;)
- vooruitzichten en 'genialiteit' zijn verwante zaken, en ze zijn precies met elkaar verbonden door het leermechanisme
- dit ogenschijnlijke 'genie' is hoogstwaarschijnlijk helemaal niet geniaal, maar het effect van een te sterke training van de hersenen op een specifieke taak zonder het te begrijpen - gewoon alle middelen werden aan deze taak besteed
- bij het corrigeren van de beperkte belangen van het kind, verdwijnt zijn genialiteit
- als uw kind "geniaal" is en een beetje gereserveerder dan leeftijdsgenoten, dan moet u deze zelfde vaardigheden zorgvuldig verder ontwikkelen, actief uw horizon parallel ontwikkelen en niet focussen op deze "coole", maar meestal nutteloze vaardigheden
Auteur: Sergey Poltorak
