Hoe hard we ook op machines vertrouwen, ze zijn verre van ideaal. Tenminste omdat ze door de mens zijn gemaakt.
Totdat programma's slimmer worden dan mensen, zullen we hun status constant in de gaten moeten houden. Zeker als we het hebben over verantwoord ondernemen.
De onderstaande verhalen laten zien in hoeverre ons leven afhangt van een goed samengesteld algoritme en wat er gebeurt als kwaliteitscontrole bij de productie een vrije dag in beslag neemt.
Laten we beginnen met de vreemde dingen die een relatief bescheiden aantal mensen treffen, en eindigen met echte financiële rampen. Ze kosten meer dan een dozijn slapeloze nachten voor degenen die dringend een kwetsbare code moesten lezen en de mensheid letterlijk moesten redden.
1. Het systeem heeft 8.500 ziekenhuispatiënten levend begraven in Michigan
In 2003 heeft het St. Mary of Mercy Medical Center in Grand Rapids zijn patiëntenregistratieprogramma bijgewerkt naar een nieuwe versie. Door een verkeerde interpretatie van de gegevens zijn de variabelen "ontladen" en "gestorven" door elkaar gehaald.
Daarom begon iedereen die al een behandeling heeft ondergaan, overlijdensberichten te ontvangen per post en in verschillende rapporten, zoals een bloedtest.
Promotie video:
Het probleem zou niet grootschalig zijn geworden, maar door de hoge automatisering zijn er berichten gestuurd naar zowel patiënten als verzekeraars. Toen de laatstgenoemden zagen dat de persoon "stervende" was, stopten ze met het compenseren van de daaropvolgende behandeling. Dit omvatte meer dan 2.000 gepensioneerden en gehandicapten.
Omdat de fout twee maanden na de storing werd ontdekt, kostte het ongeveer evenveel tijd om informatie in gerelateerde diensten te herstellen en de schade te vergoeden.
2. De software-update heeft 60 duizend mensen van interlokale gesprekken beroofd
In januari 1990 verbeterde de Amerikaanse telecomoperator AT&T zijn monitoringprogramma voor torenschakelaars. Door een fout in de code begon een van hen tijdens het gesprek sneller signalen te verzenden dan de ander ze kon verwerken.
De gegevens begonnen elkaar te overlappen en het probleem verspreidde zich snel naar andere punten. Aan de andere kant hoorden mensen alleen geluid. Dit duurde 9 uur.
Het probleem is opgelost door de software terug te draaien naar de vorige versie, maar het probleem is niet opgehouden relevant te zijn.
De situatie herhaalde zich minstens één keer in 1998, maar daarna werden alleen sms-dienstnotificaties getroffen.
3,5% van alle winkels in Rusland gingen kapot vanwege een nieuwe online kassa
Op 20 december 2017 werd de datacontrole-techniek bijgewerkt, zodat verkopers informatie over transacties rechtstreeks aan de belastingdienst begonnen over te dragen. Een van deze verbeteringen heeft elke 20 winkels in het land geblokkeerd.
De mislukkingen begonnen in de salons van het DNS-netwerk in Vladivostok, waar mensen wakker worden vóór Moskou. Het systeem stond het versturen van betalingen aan de Federale Belastingdienst (FTS) niet toe, waardoor kassamedewerkers geen goederen mochten verkopen.
Terwijl het probleem de hoofdstad bereikte, van waaruit het probleem begon te worden opgelost, ontstonden in heel Rusland enkele punten van apotheken Magnet, Pyaterochka met Crossroads, Eldorado en Rigla.
De Federale Belastingdienst moest snel reageren en winkels offline laten werken. Die mochten gegevens invoeren nadat het systeem was hersteld.
Het probleem was binnen een paar dagen volledig geëlimineerd met patches en gedwongen herstart.
De theoretische schade zou volgens de Association of Internet Trade Companies 2,5 miljard roebel kunnen bedragen. De echte viel iets lager uit door de snelle optimalisatie van processen door de Federale Belastingdienst.
4. De auto werd gegeven om een stadion in Connecticut te ontwerpen. Hij zakte in elkaar
Sinds 1972 heeft de stad Hartford geprobeerd haar infrastructuur uit te breiden en in grote projecten te investeren. Een daarvan is het Hartford Civic Center - een complex van winkel-, uitgaans- en sportterreinen.
De structuur van het stadion is ontworpen via het programma, dat, samen met het geoptimaliseerde verbruik van materialen, de stad ongeveer $ 500 duizend heeft bespaard.
Het complex is volledig operationeel en is sinds 1975 zelfs het "huis" van de plaatselijke hockeygroep New England Whalers.
Op de ochtend van 18 januari 1978 stortte het stadion echter in. Er waren die dag geen spelletjes: het gebouw was leeg en niemand raakte gewond.
De media verspreidden het nieuws, waarbij de oorzaak de ernst van de sneeuw was. Maar het onderzoek toonde aan dat het probleem in feite complex was, en de wortel was naïef vertrouwen in het programma.
De vier steunkolommen zijn sinds hun constructie slecht doordacht in grootte en ondersteuning. Het stadion begon zelfs tijdens de bouw geleidelijk "vorm te krijgen", en de kwaliteitscontroleteams werden verdeeld over verschillende aannemers en er waren slecht gecoördineerde gegevens.
De restauratie kostte de stad $ 90 mln. Vervolgens werd de XL Center-arena gebouwd op de plek van het complex, dat nog steeds dienst doet als het belangrijkste sportterrein in Hartford.
5. Intel bracht een buggy-processor uit en veroorzaakte een internationaal schandaal
In 1994 was een CPU met het merk Pentium het vlaggenschip van het bedrijf en het verborg een microscopisch probleem dat een klein deel van de mensen trof: wanneer een gebruiker het ene getal door het andere verdeelde, was het resultaat verkeerd. De fout zag er als volgt uit:
De programmeurs hebben een van de bewerkingen die in de processor zijn ingebouwd, verkeerd geconfigureerd. Ze zocht naar rootgegevens en vond de verkeerde.
In dit geval viel de grootste schade niet op de gebruikers, maar op het bedrijf.
Doordat Intel toen al vertrouwen had in de markt, en de chips nieuw waren, pikten zelfs de federale media in veel landen het nieuws op en veroorzaakten catastrofale schade aan het imago en de inkomsten van het bedrijf.
Als gevolg hiervan verminderde de vervanging van alle beschadigde processors in 1994 de omzet van het bedrijf met de helft van het geplande bedrag - met $ 475 miljoen.
6,6 miljoen auto's mogen geen airbags activeren
In januari 2020 bleek dat sensoren in sommige Toyota- en Honda-modellen te gevoelig waren voor elektrische ruis.
Het is mogelijk dat het systeem op het moment van een aanrijding het beveiligingssysteem niet signaleert. Ze zal de riemen niet strak kunnen houden en de kussens zullen niet met lucht worden gevuld.
Het probleem zou meer globaal kunnen zijn, aangezien de computer van Toyota-auto's is ontwikkeld door een derde partij ZF-TRW. En ze leverde haar producties aan ten minste zes bedrijven in de Verenigde Staten, die 12,3 miljoen auto's verkochten.
Maar tot nu toe hebben alleen Japanse fabrikanten besloten de sensoren te repareren. En dan wachten velen nog steeds op een melding van hun dealers.
7. MySpace vernietigde 50 miljoen gebruikersnummers
In 2016 voerde het bedrijf datamigratie uit, die begon in 2013. Zelfs toen werden sommige materialen en accounts voor sommige gebruikers ontoegankelijk.
En tijdens de overdracht van zijn enorme bibliotheek met muziek, foto's en video's, deed zich een fout voor op de server, waardoor ze permanent werden verwijderd.
Omdat het management de exacte reden niet heeft bekendgemaakt, gaan er verschillende geruchten over de oorzaak van het probleem. Er wordt bijvoorbeeld aangenomen dat het bewaren van een dergelijke hoeveelheid oude gegevens niet rendabel is en dat het voor het management goedkoper was om deze 'per ongeluk' te verwijderen.
Op de een of andere manier verloor de wereld tussen 2003 en 2015 een van de grootste lagen van de internetcultuur.
8.14 duizend alleenstaande ouders hebben geen overheidsbijdrage ontvangen
In april 2003 introduceerde Child Support Agency, een Brits bedrijf voor gezinnen met lage inkomens en kansarme gezinnen, een systeem om toepassingen te filteren. Het was £ 300 miljoen waard.
Zes maanden later bleek dat minder dan een twintigste van de verzoeken was verwerkt en dat veel kinderen zonder materiële hulp werden achtergelaten.
Het schandaal duurde ten minste tot 2006, toen het programma 70% van het aan het project toegewezen geld bleef opeten en de kosten in 2010 £ 1,1 miljard bedroegen.
Als gevolg hiervan werd het bureau in 2012 gesloten en werd in plaats daarvan een nieuwe organisatie, Child Maintenance Group, gelanceerd.
9. Kwetsbaarheid bij de bescherming van 500.000 grootste sites gaf toegang tot uw RAM
In april 2014 ontdekten beveiligingsexperts een kritiek beveiligingslek in de OpenSSL-bibliotheek, die het meest gebruikte HTTPS-protocol aanstuurt.
Het kreeg de naam Heartbleed naar het Heartbeat-proces dat als basis voor deze fout werd gebruikt.
Met behulp van de kwetsbaarheid was het mogelijk om erachter te komen wat er in het computer-RAM van het slachtoffer zit.
En hoewel de maximale hoeveelheid gestolen informatie niet meer dan 64 KB per verzoek mocht bedragen, was dit voldoende voor toegang tot wachtwoorden en vertrouwelijke berichten.
De bug trof 17% van alle beschermde sites. Waaronder Google, Facebook, Instagram, Twitter en zelfs Minecraft.
Het gevaar werd afgedekt met een simpele patch, dus veel bedrijven reageerden snel.
Er is echter maar één probleem dat qua omvang vergelijkbaar is met dit probleem, en u hebt er waarschijnlijk minstens één keer over gehoord.
10. De wereld heeft in 2000 $ 300 miljard uitgegeven om computers aan het werk te houden
Tot 1999 waren systemen zo geprogrammeerd dat sommige datums in een 8-cijferig formaat (UU. MM. JJJJ) werden gemarkeerd, terwijl andere de 6 vertrokken.
Foto door Emory Kristof / Emory Kristof.
Dit zou ertoe kunnen leiden dat de overgang naar het nieuwe millennium fouten in programma's over de hele wereld zou veroorzaken.
De datum van het formaat UU. MM. JJ kan 2000 vervangen door 1900, aangezien beide nummers eindigen op "OO" De fout zou dus de gegevens herschrijven en wissen, algoritmen verstoren en de ineenstorting van online systemen veroorzaken.
De meeste tijd en middelen van de bedrijven werden niet besteed aan het corrigeren van de gevolgen, maar aan het controleren van elke computer in het bedrijf.
Omdat software nog niet eerder zulke sprongen had gemaakt, werd de situatie over de hele wereld besproken.
Er is veel gesproken over het probleem van het jaar 2000 (of Y2K), inclusief de wenselijkheid van paniek. Ze werden gevoed door het feit dat landen de kwestie serieus namen en initiatieven op staatsniveau voorschreven.
Rusland heeft bijvoorbeeld een officieel document opgesteld, het nationale actieplan om het probleem van 2000 in de Russische Federatie aan te pakken.
Het scorebord op de laatste regel wordt op nul gezet en toont 1900 in plaats van 2000 /
De dichtstbijzijnde soortgelijke fout zal in januari 2038 niet-geoptimaliseerde 32-bits systemen inhalen, maar programmeurs bereiden zich al voor op de overgang.
De situatie zal over 292 miljard jaar gevolgen hebben voor 64-bits systemen, dus u kunt hier ontspannen.
Veel reëler en bedreigt eerder het probleem van 10.000 met zijn overgang naar vijfcijferige waarden. Het lijkt erop dat u zich er geen zorgen over hoeft te maken - voorlopig is de vraag nogal theoretisch.
Toegegeven, er is altijd de mogelijkheid dat stukjes bestaande code van uw smartphone tot dat tijdperk zullen overleven.
Misschien is het de moeite waard om erover na te denken.
Auteur: Pavel Teleshevsky
