Financiële technologische ontwikkeling, de zogeheten fintech, is hot en happening. De ontwikkelingen gaan snel maar leiden geregeld tot moreel kwetsbare praktijken. Een geautomatiseerd systeem de schuld geven van economische uitbuiting, uitsluiting en privacyschending is onzinnig. De auteurs gaan in op de vraag wat de rol van financiële ethiek (nog) is als de besluitvorming en gedragssturing bij en in het ontwerp van allerlei systemen (grotendeels) vooraf bepaald wordt.

Financiële ethiek, fintech, moraliteit, MoralScan, programmeren, ethics by design

Dit artikel is relevant voor financieel professionals die fintech vormgeven en/of gebruiken. Helaas zijn er geen kant-en-klare oplossingen om moraliteit te programmeren. De auteurs roepen lezers daarom op om bij het managen van de nieuwe innovatiegolf te blijven streven naar vormen van goed bestuur en best practices

Financiële technologische ontwikkeling, de zogeheten fintech, is hot en happening. Inmiddels is de technologie van sommige fintech-bedrijven zo ver dat informatie als facebookupdates en twitter-uitspraken kunnen worden meegenomen bij het automatisch berekenen van kredietwaardigheid van individuen. Een ander voorbeeld is het door de belastingdienst gehanteerde ‘fraude signalering systeem’ dat na eigen onderzoek in strijd bleek met de actuele privacywetgeving (Kleinnijenhuis 2020). Dit soort ontwikkelingen zet de deur open voor – op zijn minst – moreel kwetsbare praktijken. Een geautomatiseerd systeem de schuld geven van economische uitbuiting, uitsluiting en privacyschending zou onzinnig zijn. De vraag rijst in hoeverre de technologische ontwikkelingen zélf – en de ordeningen die deze in de samenleving teweegbrengen te verantwoorden zijn. In welke mate speelt ethiek bij de ontwikkeling en het gebruik van fintech nog, of juist opnieuw, een rol?

In de wetenschappelijke literatuur is sprake van een toenemende aandacht voor de ethische aspecten van management accounting & control systemen (Chabrak et al. 2016; Cugueró-Escofet and Rosanas 2013; 2017; Linder et al. 2020; Merchant and White 2017). Enerzijds wordt onderzocht hoe deze systemen worden gebruikt en worden de reacties van management accountants en controllers op morele dilemma’s onderzocht (Fisher and Lovell 2000). Anderzijds worden de consequenties van keuzes bij het ontwerp van de systemen voor de besluitvorming van managers en voor het (ethisch) gedrag van de managers en medewerkers onderzocht (Cugueró-Escofet and Rosanas 2013; 2017; Rosanas and Velilla 2005). Dit artikel levert een bijdrage aan deze laatste stroming van literatuur door te focussen op een zeer actueel vraagstuk, ontstaan door de hierboven genoemde steeds verder gaande technologische ontwikkelingen. Het betreft de vraag wat de rol van (financiële) ethiek (nog) is als de besluitvorming en gedragssturing bij en in het ontwerp van allerlei systemen reeds (grotendeels) vooraf bepaald wordt.

Om deze vraag te beantwoorden gaan we eerst in op wat wij verstaan onder financiële ethiek. Ook geven we een voorbeeld van een nieuw instrument, de MoralScan, waarmee organisaties de discussie over kernwaarden kunnen entameren en conclusies in de besluitvorming kunnen meenemen. Vervolgens zoomen we in op de fintech en het gebruik van morele richtsnoeren bij de ontwikkeling ervan. Daarna laten we zien dat het gebruik van morele richtsnoeren bij het ontwerp en de ontwikkeling van fintech bij lange na geen afdoende manier is om met de morele vraagstukken om te gaan die bij de ontwikkelingen in de fintech spelen. Als laatste beantwoorden we de vraag wat de rol van (financiële) ethiek (nog) is als de besluitvorming en gedragssturing bij en in het ontwerp van allerlei systemen reeds (grotendeels) vooraf bepaald wordt.

Financiële ethiek kan omschreven worden als het systematisch ontwikkelen van de juiste meningsvorming, die leidt tot het juiste handelen ten aanzien van financiële processen van ondernemingen, instituties en organisaties in relatie tot de hun omringende (financiële) markten (Soppe 2017, p. 27). Belangrijk hierbij is om onderscheid te maken tussen ‘ethiek’ en ‘moraal’. Moraal is het geheel aan normen en waarden; ze bepalen of je iets goed of fout vindt. Je zou kunnen zeggen dat ethiek het (kritisch) nadenken is over de moraal. Voorgaande definitie van financiële ethiek is ruim, veelomvattend en daardoor complex. Vooral het centrale element – wat is de juiste meningsvorming die leidt tot het juiste handelen – is meerdimensionaal en vooral conceptueel van karakter. Bovendien roept het woord ‘juist’ in de eenentwintigste eeuw soms verwarring op. Met ‘juist’ bedoelen wij ‘het meest passende in een specifieke situatie’. Het is dus contextafhankelijk. Dit betekent dat je steeds weer zal moeten bepalen wat een juiste meningsvorming – in een specifieke situatie – is. Maar dit betekent niet dat er geen houvast is om te bepalen wat een juiste meningsvorming is. Het betreft onzes inziens een meningsvorming die gestoeld is op meerdere uitgangspunten. Zonder te pretenderen volledig te zijn, onderscheiden we de volgende zeven kernwaarden: rechtvaardigheid, natuur, duurzaamheid, de juiste verhouding tussen risico en rendement, participantenbenadering, legitimiteit en monisme. We lichten deze kernwaarden hier kort toe. In New financial ethics; a normative approach (Soppe 2017) zijn deze waarden uitgebreid beschreven en verder onderbouwd.

De eerste kernwaarde die we onderscheiden is rechtvaardigheid. Wat is een rechtvaardige samenleving en hoe moet een verdeling van welvaart tussen de verschillende belanghebbenden van een (financiële) onderneming worden geregeld? Hoe behoudt iedere belanghebbende een juist motivatiepatroon dat is gebaseerd op een rechtvaardige claim op de economische en morele vruchten van een onderneming? De tweede kernwaarde is een respectvolle houding naar de natuur. De natuur is na arbeid en kapitaal de derde grote productiefactor in de economie. Milieueconomie en milieu-ethiek zijn de laatste decennia een geheel eigen vakgebied geworden. De financiële sector kan hier een geheel eigen rol in spelen door de juiste voorwaarden te stellen aan bedrijfsfinanciering om (het behoud of zelfs het herstel van) milieu en natuur te stimuleren. De derde waarde heeft betrekking op duurzaamheid. Dit betekent in dit verband het in ogenschouw nemen van de juiste verhouding tussen de belangen van verschillende generaties. Wat zijn de korte- en langetermijnbelangen van een economisch project? Hoe worden door huidige financiële instanties, de economie en bedrijfscultuur in het nu vormgegeven – en vooral ook: hoe wordt de (financiële) economie achtergelaten voor toekomstige generaties? De vierde kernwaarde die een belangrijke rol speelt in het ontwikkelen van de juiste meningsvorming is de afweging tussen risico en rendement. Deze dimensie hoort traditioneel thuis in de financieringsliteratuur, maar wordt in deze context verbreed naar de (financiële) ondernemingsorganisatie in zijn geheel (inclusief de rol van arbeid). Vertrekkend vanuit het Capital Asset Pricing Model (CAPM)¹ verbreden we dit model naar een ‘participanten-aanspraakmodel’ waarbij de juiste samenhang tussen risico en verwacht rendement wordt geanalyseerd voor meerdere participanten in de onderneming. Hiermee komt de vijfde kernwaarde in beeld: het participantenmodel dat wordt uitgebreid naar duaal aandeelhouderschap (stakeholder equity) in de onderneming (Soppe 2008). Het traditionele aandeelhoudersparadigma – de ultieme zeggenschap en het risico liggen bij aandeelhouders – wordt verbreed naar een duurzaam samenwerkingsmodel tussen alle participanten in de moderne onderneming. We gaan op zoek naar een moreel verantwoorde participantenbenadering van de onderneming. Als zesde waarde onderscheiden we de rol van legitimiteit van ondernemingshandelen of het handelen van marktdeelnemers. Bij dit criterium concentreren we ons op de rol van de hard en de soft law die nodig dan wel gewenst is om financiële activiteiten te reguleren of juist niet. Ten slotte benadrukken we de onderlinge samenhang tussen de eerdere zes kernwaarden vanuit een monistische optiek. Met de zevende dimensie monisme wordt gepoogd om ruimte te maken voor spiritualiteit en het besef dat alles met elkaar verbonden is. Zo benadrukken en bewerkstelligen we de eenheid tussen de verschillende kernwaarden. De ene waarde is niet superieur aan de andere. Het is altijd de samenhang en consistentie van de grondlijnen die het eindoordeel vormen om tot een ‘juiste’ beslissing te komen.

Financiële ethiek is in feite een vorm van toegepaste ethiek waarbij bovenstaande zeven ethische kernwaarden worden geïntegreerd met alle interne en externe processen en is gericht op optimalisatie van besluitvormingsprocessen binnen een onderneming. Financiële rendementen zijn weliswaar een randvoorwaarde voor goed beleid, maar meervoudige waardecreatie dient de kern van het ondernemingsbeleid te zijn. Het gaat bij de integratie van financiële ethiek in de organisatie om het systematisch werken aan een nieuwe ‘mentale’ structuur bij werknemers, organisaties en instituties ten aanzien van hun omgang met kapitaal en andere waardensoorten.

Een MoralScan is een hulpmiddel om niet alleen de financiële kant van bedrijfsactiviteiten beheersbaar te maken, maar tevens de discussie over bovenstaande kernwaarden te entameren en de conclusies in de besluitvorming mee te nemen (Soppe and Wagensveld 2020). Het is een meetinstrument dat op basis van een nulmeting meet in hoeverre een onderneming oog heeft voor moreel gezonde concurrentieverhoudingen en duurzame aspecten van het ondernemen. Het uiteindelijke doel van de MoralScan is het initiëren van het gesprek over de resultaten en het verhogen van de prestaties op de meervoudige waardesoorten in de onderneming. Het meetinstrument – dat iedereen zelf kan bouwen in Excel – maakt gebruik van Likert-scores in enquêtes en interviews met medewerkers en andere participanten van de onderneming. Daarnaast worden gegevens verwerkt zoals die in het jaarverslag van de onderneming worden gepubliceerd. Bij een juiste communicatie van de resultaten kan het product worden gezien als een innovatief informatiesysteem, dat diagnostisch en interactief is en input kan genereren op basis waarvan het beliefsysteem (de kernwaarden/ethische basiswaarden van een organisatie) verder kan worden ontwikkeld (Simons 1995).

In Figuur 1 worden de kernwaarden van de financiële ethiek en die in de MoralScan zijn verwerkt, nogmaals verbeeld. De Figuur poogt in zijn rondheid het holistische denken ten aanzien van de financiële ethiek te representeren, waar een beweging in het ene domein leidt tot een reactie in het andere. Disciplines vloeien in dit model theoretisch in elkaar over. Het zwarte en het witte veld verbeelden het dualistische denken, waarin het één slechts kenbaar is door het andere. Goed is slechts kenbaar door de aanwezigheid van kwaad, bijvoorbeeld. Bovendien representeert de Yin & Yang vorm dat midden in het witte stuk een zwarte vlek opduikt en omgekeerd: in het zwarte stuk zit een witte vlek. Met andere woorden, goed en kwaad zijn niet altijd gemakkelijk te onderscheiden omdat in het goede vaak ook kwaad steekt en omgekeerd. In het economisch proces zijn de reële en de monetaire economie onverbrekelijk met elkaar verbonden. Het ene is niet beter dan het andere, beide zijn nodig voor de heelheid van de economie. Kern van de Figuur is dat twee tegengestelde waarden evenwaardig zijn aan elkaar. De financiële ethiek is de dans van de dualiteit. Evenwaardig betekent in deze gelijk èn toch verschillend. Het één is onkenbaar zonder het andere. Het proces van het zoeken naar de juiste, of de meest passende keuze speelt zich af binnen ieder individu, maar ook tussen partijen en instituties. Als voorbeeld kan de vraag gesteld worden of het voor een goededoelenorganisatie moreel geoorloofd is om op zeer indringende en misschien wel manipulatieve wijze reclame te maken om zo hoog mogelijke opbrengsten te werven voor het goede doel. Wat is legitiem? Wat is rechtvaardig? Zonder risico geen rendement. Is zulk beleid duurzaam voor de organisatie en voor de donateurs?

Figuur 1.

Elementen van de MoralScan. Bron: Soppe 2017, p.141.

In deze paragraaf zoomen we in op fintech en het gebruik van morele richtsnoeren bij de ontwikkeling ervan als een manier om moraliteit in technologische systemen te integreren.

FinTech is een samentrekking van de Engelse woorden financial en technology. Wij verstaan onder dit begrip alle innovatieve financiële producten en diensten die de manieren waarop we met geld omgaan digitaliseren. Het zijn vooral financiële startups die dit proces aanjagen en inspelen op het massale gebruik van smartphones en de talloze apps die (financiële) dienstverlening faciliteren. Hypotheekaanvragen, bijvoorbeeld, kunnen volledig via internet plaatsvinden, evenals personeelsselectie via algoritmes en crowdfunding via online platforms. Risico’s kunnen steeds beter worden ingeschat (predictive analysis) waardoor zorgverzekeraars de gezondheid van verzekerden, en banken het risicoprofiel van debiteuren kunnen voorspellen én beïnvloeden. Zo kan de prijsstelling van producten worden beïnvloed. Informatietechnologie (IT) maakt deze nieuwe diensten mogelijk die vaak dicht tegen de privacy van individuen en de bedrijfsgeheimen aanzitten.

De ontwikkelingen in de fintech geven volop aanleiding om meer aandacht te schenken aan de morele kwesties die deze ontwikkelingen oproepen. We geven ter illustratie twee voorbeelden van toepassingen van fintech die allerlei vragen over de eerdergenoemde ethische kernwaarden met zich meebrengen. Allereerst blockchain. Deze technologie maakt het mogelijk om buiten het reguliere bancaire systeem om zeer snel betalingen tussen deelnemers uit te voeren (De Nederlandse Bank 2016). Hoe zit het dan met de legitimiteit? En hoe houd je rekening met de belangen van alle stakeholders? Het risico dat nieuwe financiële activiteiten buiten het toezicht vallen, zoals bij digitale valuta het geval is, is ook verweven met vragen rondom rechtvaardigheid en menselijkheid. Filosoof Februari (2019) verkent in een column in de NRC het plan van Facebook om een eigen munt te introduceren. Facebook maakt het volgens eigen zeggen voor mensen zonder bankrekening mogelijk om online te betalen. Februari vraagt zich af wat er voor Facebook inzit; meestal krijgen mensen immers geen bankrekening als ze er niets op kunnen zetten.

Een andere technologische ontwikkeling die (ook) binnen de financiële wereld grote impact heeft en niet los gezien kan worden van allerlei ethische kwesties is big data. Big data is een machtig instrument waarbij via machine learning zakelijk interessante trends en toepassingen worden ontwikkeld. Maar ook de handel in financiële producten zelf – die tegenwoordig vrijwel volledig plaatsvindt via high frequency trading – wordt uitgevoerd met behulp van algoritmes. Vooral dit laatste zorgt voor prudentiële risico’s en systeemrisico’s in de zo belangrijke financiële sector in onze economie. Verder biedt machine learning – in combinatie met bijvoorbeeld chatbots – mogelijkheden om in de nabije toekomst het adviseren van klanten te ondersteunen en waarschijnlijk ook (deels?) over te nemen. Maar ook al nemen computers beslissingen, het zijn mensen die de regels in het algoritme bepalen of ervoor kiezen om kunstmatige intelligentie zichzelf te laten ontwikkelen. Maar in hoeverre kan een programma wel zelflerend zijn? En welke aannames en keuzes zijn in de (trainings)data verwerkt? En het is maar de vraag of een algoritme rekening kan houden met de belangen van toekomstige generaties.

Het gebruik van morele richtsnoeren bij de ontwikkeling van fintech is een voor de hand liggende manier om de discussie over kernwaarden te entameren en de conclusies in het ontwerp en de bouw van systemen mee te nemen. Een algemeen moreel richtsnoer hierbij is dat een mensheid met kunstmatige intelligentie in de financiële sector meer zou moeten floreren dan een wereld zonder. In dat verband zijn de 17 duurzame ontwikkelingsdoelen van de VN uit 2015 een goede leidraad die onderbouwt wat de mensheid aan behoeftes en veiligheid nodig heeft. Technologische en financiële innovatie kan gevaarlijk, zwaar of repeterend werk vereenvoudigen en wellicht meer morele inhoud geven. Van cruciaal belang is de vraag wat de sociale invloed is van fintech-ontwikkelingen op de sector zelf, de klanten en de andere stakeholders. Mooi is in dat verband het initiatiefadvies (2017/C 288/01) van Catelijne Muller, lid van het Europees Economisch en Sociaal Comité (EESC), de Europese variant van de Nederlandse Sociaal Economische Raad (SER). In een persbericht ter aankondiging van dit advies over de maatschappelijke impact van kunstmatige intelligentie stelt Muller: “We hebben pan-Europese normen en standaarden nodig voor AI, zoals we die nu voor voeding en huishoudelijke apparaten hebben […] om ervoor te zorgen dat AI-systemen compatibel blijven met de beginselen van menselijke waardigheid, integriteit, vrijheid en culturele- en genderdiversiteit, evenals met de fundamentele mensenrechten” (EESC 2017).²²

Het gebruik van morele richtsnoeren bij het ontwerp en de ontwikkeling van fintech is echter bij lange na geen afdoende manier om met de morele vraagstukken om te gaan die bij de ontwikkelingen in de fintech spelen. Een reden daarvoor is dat we vaak niet in staat zijn om de steeds complexer wordende technologieën naar onze hand te zetten. Dit laat zich illustreren aan de hand van zogenaamd zelflerende systemen, ook wel neurale netwerken genoemd. Banken gebruiken deze om te bepalen hoeveel geld in een geldautomaat moet zitten, om verdachte transacties op te sporen of om de overlevingskansen van een klant/onderneming te analyseren. Deze kunstmatige intelligentie of neurale netwerken worden getraind met enorme hoeveelheden data. De software gaat als het ware zelf aan de slag en leert van zijn fouten. De resulterende algoritmes zijn ingewikkeld en bestaan soms uit duizenden parameters. Op een gegeven moment snappen de makers ook niet meer hoe deze precies werken. Volgens taal- en computerwetenschapper Jelle Zuidema kunnen we deze neurale netwerken maar beter benaderen als black boxes, zo noteert journalist Schoonen (2020). We moeten ze als het ware van buitenaf gaan bestuderen. Dit betekent dat we deze zelflerende systemen niet zo maar kunnen aanpassen omdat de ‘besluiten’ of uitkomsten van deze algoritmes ons morele richtsnoer schenden.

De tweede reden is dat technologie veel meer is dan een neutraal hulpmiddel. Mens en technologie beïnvloeden elkaar over en weer; sterker nog, ze raken steeds meer met elkaar verweven – soms letterlijk wanneer je een betaalchips in je hand laat implanteren (biohacking). Ook zorgt technologie ervoor dat we – vaak ongemerkt – anders gaan denken over wat we belangrijk vinden, hoe we met elkaar omgaan en hoe we over onszelf en de wereld denken. Het is vergelijkbaar met de aanwezigheid van het coronavirus: alleen al het bestaan van het virus maakt dat we elkaar plotsklaps – of we willen of niet – opvatten als potentiële besmettingsbronnen. Iets vergelijkbaars gebeurt met technologie. De aanwezigheid van camera’s (of ‘slimme’ brillen) maakt dat mensen zich anders gaan gedragen, ongeacht of de camera’s werken of niet. Het gebruik van algoritmes in het verzekeringswezen maakt dat we in de samenleving heel anders zijn gaan denken over het belang van solidariteit. Deze beïnvloeding over en weer kan niet vooraf worden vastgesteld.

Een derde reden is te vinden in het boek ‘Frictie; ethiek in tijden van Dataïsme’ van Miriam Rasch (2020). In dit boek levert ze een goed onderbouwde en originele bijdrage aan de discussie over de rol van ethiek in tijden van digitalisering. Dataïsme omschrijft ze als: het geloof dat besluitvorming in ons leven te vertalen is naar data. Via automatisering en digitalisering kan het menselijk gedrag strikt rationeel en beter beheersbaar in processen en algoritmes worden weergegeven – althans, daar willen overheden en ook bedrijven graag in geloven. Harari (2018) verwijst overtuigend naar dat proces in zijn Homo Deus. De computer kan veel systematischer en objectiever vaststellen dan de mens, of bijvoorbeeld een krediet moet worden verstrekt aan een ondernemer. Rasch heeft veel moeite met dat lonkende vooruitzicht en stelt dat de permanente digitale mal de mens dreigt te ontzielen en er een vlakke digitale ontologie ontstaat die classificeert, indeelt, en daarmee oordeelt en veroordeelt. De wereld wordt in een digitale mal geduwd (Rasch 2020), die door informatie ethici Capurro (2006) en Eldred (2009) ook wel de ‘digitale ontologie’ wordt genoemd. Kunnen nullen en enen de subtiliteit van onze moraliteit vangen?

We hebben eerder in dit artikel vastgesteld dat financiële ethiek over juiste besluitvorming op basis van juiste meningsvorming gaat. De eerder besproken kernwaarden bieden hierbij houvast. We zagen dat het gebruik van deze kernwaarden – bijvoorbeeld in de vorm van morele richtsnoeren – bij de ontwikkeling van fintech niet eenvoudig is vanwege de complexiteit van fintech, het feit dat mens en technologie elkaar over en weer beïnvloeden en het maar de vraag is of nullen en enen de subtiliteit van onze moraliteit kunnen vangen. Maar tot nu toe hebben we nog geen aandacht gegeven aan de mens zelf – de ontwikkelaars en aanbieders van fintech – en dan met name diens motieven om moreel verantwoord te handelen en wat dat betekent voor de ontwikkeling van fintech. Dat doen we in deze sectie aan de hand van het model van Kohlberg.

Onderstaand model beschrijft verschillende bronnen voor of motieven om moreel verantwoord te handelen. Het is een variant op het verkorte model van de psycholoog Kohlberg (1973) over verschillende stadia in morele ontwikkeling van kinderen. Het verkorte model wordt verder toegelicht door Verstegen and Soppe (2020, pp. 26–28).

Het model laat drie niveaus voor moraliteit zien. Het eerste niveau – het pre-conventionele – is vooral instrumenteel, gebaseerd op eigenbelang en afgedwongen door gezag. Het tweede niveau – het conventionele – wordt gedomineerd door de sociale orde van een groep, cultuur of staat. De normen van de groep maak je je eigen omdat je bij de groep wilt horen of omdat je waarde hecht aan de geldende regels en wetten. Het derde niveau – het post-conventionele – is voor de conclusies van dit onderzoek van belang. Hier gaat het over de individuele mens als bron van gezag en moraliteit. Hierbij speelt bewustwording van en oriëntatie op universele morele waarden een belangrijke rol.

De eerste twee niveaus van het boven gepresenteerde Kohlbergmodel, het pre-conventionele en het conventionele, zijn op het eerste gezicht relatief eenvoudig af te bakenen en daardoor goed programmeerbaar. Je zou kunnen stellen dat conventionele en pre-conventionele moraliteit eigenlijk niet veel meer zijn dan regels die voortkomen uit wetten of culturen. Deze uitingen van moraliteit kunnen worden geprogrammeerd. Maar bij een nadere beschouwing is het toch wel iets ingewikkelder, zo zagen we al eerder. Ook normen en waarden veranderen – deels onder invloed van technologie. Bovendien kun je je afvragen hoeveel ruimte er blijft voor praktische wijsheid wanneer fintech de besluiten neemt. En laten we ook niet vergeten dat de toepassing van nieuwe technologieën de samenleving op ongekende schaal verandert; wetgeving loopt per definitie achter op de ontwikkelingen.

Tel daarbij op de ongekende én ongekend brede impact van fintech op de samenleving en de morele kwesties die deze oproept. De keuzes die ontwikkelaars en aanbieders van fintech maken, kunnen leiden tot moreel kwetsbare praktijken waaronder economische uitbuiting, uitsluiting en privacyschending. Bij deze brede impact hoort een morele verantwoordelijkheid die het eigenbelang en de sociale orde te boven gaan. Om te oordelen over de potentieel morele problemen van fintech, moet, onzes inziens, het antwoord (steeds weer) gezocht worden op het post-conventionele niveau. Daar waar gezocht wordt naar universele morele waarden. Waar sta ik als mens – en wij als organisatie – voor? Wat doet er in het leven toe? En wat betekent dat voor de ontwikkeling van fintech? Met name ontologische en epistemologische vragen over de rol van de mens op deze aarde worden relevant in de morele omgang met techniek, machines en algoritmes.

Hier komen de grenzen van de wetenschap en het menszijn vol in zicht. Als mens zijn we beperkt. We kunnen de waarheid, noch de toekomst per definitie niet kennen. Dat betekent dat we dus ook niet in staat zijn moraliteit ex ante te programmeren. Als we het einddoel van de mens niet kunnen kennen, dan blijven alleen de tussenstappen in het leven over.³ Deze tussenstappen worden door cruciale wetenschappelijke ontdekkingen steeds ingrijpender veranderd. Het menselijk leven kan inmiddels al substantieel worden verlengd en zelfs genetisch worden gemanipuleerd. Het is niet onwaarschijnlijk dat de mens in de 21^e eeuw zal gaan streven naar onsterfelijkheid. Keuzeproblemen die ontstaan zijn eerder kostenafwegingen dan wat er genetisch en medisch allemaal mogelijk is. Dit soort keuzes raken ons allemaal en horen dan ook onderwerp van publiek gesprek te zijn (Joosten 2019; 2020). De talloze dilemma’s die dit met zich meebrengt worden haarfijn aangegeven in het indrukwekkende boek: Homo Deus van Harari (2017). Na zijn Homo Sapiens uit 2014 waarin wordt beschreven hoe de mens de wereld en al haar problemen verovert, betekenis geeft en gedeeltelijk overwint, komt in Homo Deus de vraag aan de orde of er een soort supermens kan ontstaan. Een sterke, extreem langlevende, hyperintelligente Godmens, al dan niet met een directe link naar een krachtige computer. Daaraan voorafgaand ontstaat wat Harari noemt: het dataïsme, ook wel Big Data genoemd. Daarbij worden uit collectieve bestanden individuen ontleed in losse onderdelen op basis van koop- en surfgedrag tot professionele prestaties en misschien wel ziektegeschiedenis. De data-analyse, het ‘systeem’, gaat onszelf misschien beter kennen dan wij onszelf kennen omdat ons handelen volledig in beeld wordt gebracht. Zou het echt zo eenvoudig zijn? Ook Harari eindigt zijn boek met vragen zoals: zijn organismes echt alleen maar algoritmes en is het leven alleen maar dataverwerking? En, wat is er belangrijker: intelligentie of bewustzijn? En dan zijn we weer terug bij de grote filosofische vragen zoals: wat is de mens en hoe moet hij leven?

Concluderend wordt nu gesteld dat het onderscheid tussen conventionele, pre-conventionele en post-conventionele moraliteit het mogelijk maakt om een gelaagd antwoord te geven op de hoofdvraag omtrent de rol van de financiële ethiek in de fintech ontwikkeling – en dus de programeerbaarheid van moraliteit. Conventionele en pre-conventionele moraliteit zijn eigenlijk niet veel meer zijn dan regels die voortkomen uit wetten of culturen. Deze kunnen ten minste gedeeltelijk worden geprogrammeerd. Post-conventionele moraliteit daarentegen is niet te programmeren omdat de grenzen van ons mens-zijn per definitie niet gekend kunnen worden. Er is geen ex ante model te maken die een stabiele samenleving zeker stelt. Wat resteert is streven naar een vorm van goed bestuur en best practices op velerlei niveaus bij het managen van de nieuwe innovatiegolf, die zonder twijfel over ons heen gaat komen. We zullen ons moeten behelpen met pragmatische ethische modellen zoals de MoralScan, waar begrippen als rechtvaardigheid, legitimiteit, respect voor de natuur een rol spelen. Ook aandacht voor toekomstige generaties, risico & rendement en veiligheid & controleerbaarheid spelen een rol om alle belanghebbenden in een economisch systeem menswaardig tot hun recht te laten komen. Op wereldniveau hebben we de Verenigde Naties en haar duurzaamheidsdoelen, maar op een veel lager niveau, het bedrijfsniveau, komen alle morele elementen van organisaties weer vol in beeld. Dat is de eeuwige dans tussen goed en kwaad, waarin we dagelijks keuzes moeten maken op een microscopisch niveau.