Het nieuws dat automatisering vroeg of laat mensen massaal van hun baan zal gaan beroven en hen achter het hek van maatschappelijk nut zal laten, zal waarschijnlijk geen positieve emoties oproepen bij iemand die naar de toekomst kijkt. Shows als "The Terminator" of bijvoorbeeld de frisse "World of the Wild West" voegen brandstof toe aan het vuur, die ook bijdragen aan de algemene spaarpot van zorgen, maar vanuit het oogpunt van de ontwikkeling van "onvriendelijke" kunstmatige intelligentie.
Zijn deze angsten echt? Kan zijn. Of misschien is dit gewoon een verzonnen hysterie. Maar hoe het ook zij, het Institute of Electrical and Electronics Engineers (IEEE) is van mening dat de ontwikkeling van AI- en automatiseringssystemen "consistent moet zijn met volledig respect en naleving van menselijke morele waarden en ethische principes".
Het instituut presenteerde zijn ideeën in de vorm van een document van 136 pagina's getiteld "Ethically Aligned Design", een soort "standaard" voor het ontwerp, de productie en de ontwikkeling van robots en kunstmatige intelligentie. Het document is ontwikkeld met de hulp van meer dan 100 werelddeskundigen op het gebied van AI, recht, ethiek, filosofie en politiek. Met andere woorden, met deelname van de meest vooraanstaande academici, wetenschappers en vertegenwoordigers van de overheidssector.
“Door experts en ontwikkelaars de beste werkwijzen te bieden voor het bouwen van geautomatiseerde en intelligente producten, diensten en systemen die onze ethische menselijke principes respecteren, zullen we in staat zijn om onze angsten voor deze technologieën weg te nemen en ons te concentreren op de voordelen die deze technologieën de mensheid kunnen opleveren. niet alleen in de toekomst, maar ook vandaag,”zei Konstantinos Karachalios, algemeen directeur van de IEEE Standards Association, in een verklaring.
De IEEE merkt op dat het initiatief volledig open is en dat ze klaar zijn voor voorstellen en discussies over interessante kwesties van ingenieurs, ontwikkelaars en ontwerpers van automatiseringssystemen en AI-ontwikkeling. Tegelijkertijd staan ze klaar om een volwaardige dialoog te voeren, aangezien feedback op dit onderwerp een van de belangrijkste aspecten is bij de ontwikkeling van de besproken normen.
Met betrekking tot de voorstellen die in het document zelf worden beschreven, bevatten zij overwegingen over onderzoeks- en ontwikkelingsmethodologie; beschrijft bezorgdheid over het ontstaan van "zwarte dozen". Met andere woorden, het document waarschuwt de AI- en automatiseringsindustrie voor eigen ontwikkeling.
Promotie video:
Vanuit een meer fundamenteel oogpunt roept wat de IEEE voorstelt verschillende interessante vragen tegelijk op, waarvan de belangrijkste misschien wel de volgende is: kan moraliteit überhaupt worden geprogrammeerd? Is het echt mogelijk om AI- en automatiseringstechnologieën aan te passen aan de "normen en menselijke en sociale waarden" waarnaar het IEEE-document verwijst?
De IEEE benadrukt echter het belang en de noodzaak van standaarden. Dankzij hen kunnen we er immers zeker van zijn dat mensen uiteindelijk niet zullen lijden bij het creëren en ontwikkelen van nieuwe technologieën.
“De standaarden zullen industriële aansturing van intelligente en autonome technologieën mogelijk maken. Intelligente systemen worden steeds complexer en daardoor kan hun ongeprogrammeerde gedrag gevaarlijk worden. Om dit probleem op te lossen, is toezicht op de procedure voor de ontwikkeling van intelligente en autonome systemen noodzakelijk.
“Onderzoekers en ontwikkelaars die betrokken zijn bij de ontwikkeling en implementatie van autonome en intelligente systemen zullen te maken krijgen met een meer progressieve en complexere reeks nalevingsmaatregelen voor morele en technische veiligheidskwesties. Ze zullen daarom verantwoordelijker met hun werk moeten omgaan”.
Als je naar de situatie als geheel kijkt, heeft de IEEE een zeer belangrijke en inderdaad noodzakelijke stap gezet in de richting van de "humanisering" van autonome en intelligente systemen.
NIKOLAY KHIZHNYAK
