Data-ethiek, een introductie

In een wereld waar technologie steeds meer onlosmakelijk verbonden wordt met de mens is wetgeving belangrijker dan ooit. Dit raamwerk geeft ons de mogelijkheid om alle potentie van een technologie te benutten, terwijl tegelijkertijd onze belangrijke waarden en normen worden gewaarborgd. Echter, om ons op de juiste manier te kunnen wapenen tegen de risico’s van nieuwe innovaties moeten we wel kunnen begrijpen waar zij toe in staat zijn.

Het grootste nadeel van artificial intelligence (AI) is dat de meeste algoritmes/methodes opereren onder een zogenaamde ‘black box’. Dit betekent dat we wel de ingaande en uitgaande informatiestromen kunnen bestuderen, maar niet de processen en mechanismes die deze twee aan elkaar verbinden (bv. we weten wel de uitkomst van een AI-beslissing, maar niet hoe deze beslissing tot stand is gekomen). Tel daarbij op dat computers door innovatie de komende jaren exponentieel sneller geraken, wat ervoor zorgt dat die ondoorzichtige interne processen zich nog complexer en ondoorzichtiger door kunnen ontwikkelen.

Desondanks evolueert AI zich wel tot een integraal onderdeel van onze maatschappij, waardoor regulatie logischerwijs volgt. Echter moet deze regulatie een reagerende rol op zich nemen, aangezien we mede door die toenemende snelheid onmogelijk kunnen voorzien wat de toekomstige potentie en/of risico’s zijn van AI. Feitelijk leidt dit ertoe dat passende regulatie altijd te laat in gebruik wordt genomen, waardoor er speelruimte ontstaat voor misbruik; technologische bedrijven kunnen AI uitbuiten zonder dat ze hierbij tegen de wet ingaan. Gelukkig kan data-ethiek ons in deze technologische anarchie van tijdloze handvaten voorzien.

Wat is data-ethiek?

Data-ethiek focust zich op het bestuderen en evalueren van morele dilemma’s met betrekking tot data en AI. Denk bijvoorbeeld aan:

• Vertegenwoordigt mijn AI de belangen van alle partijen, ook buiten mijn organisatie?
• Zitten er vooroordelen (bias) in mijn data, die mijn AI gebruikt om te voorspellen?
• Kan ik het proces en de uitkomsten op een begrijpelijke manier uitleggen aan de gebruiker?
• Weten gebruikers dat ze beoordeeld worden door AI, in plaats van door een persoon?

Elke situatie is uniek, waardoor bovenstaande lijst oneindig aangevuld zou kunnen worden. Elke context vraagt om een eigen afweging, vergezeld door een flinke portie verantwoordelijkheid. Logischerwijs zijn deze afwegingen tijdrovend en lastig, maar desalniettemin essentieel voor het beschermen van eenieders waarden en normen. Dit betekent niet dat diepgaande kennis van ethische theorieën nodig is om de discussie te starten; met simpele, praktische handvaten kan iedereen dit debat faciliteren.

Praktische handvaten

#1 Documenteer alle keuzes die worden gemaakt, inclusief motivatie

Discussie omtrent het ontwerpen, bouwen en inzetten van data en AI is cruciaal. Echter, om deze discussie te kunnen voeren is het van levensbelang om alle informatie te hebben. Het is onvermijdelijk dat je AI fouten gaat maken, maar dit wordt pas echt een probleem als je deze niet kan corrigeren. Door alle keuzes die worden gemaakt te documenteren, kan je makkelijker traceren waar de fout vandaan komt om deze vervolgens op te lossen. Daarnaast biedt het de gebruikers van de AI handvaten om de resultaten toe te lichten.

#2 Wees ervan bewust dat je model nooit perfect is

Data is de enige informatie waar AI mee kan werken, de enige werkelijkheid die het kent. Deze informatie bevat vooroordelen (bias) die niet altijd zichtbaar zijn. Daarnaast is de AI gemaakt door mensen, en mensen maken fouten. Bedenk en implementeer daarom dan ook mechanismes die terugkoppeling/feedback van gebruikers stimuleert, welke daarna verwerkt kan worden in de data of de AI.

#3 Betrek zoveel mogelijk verschillende stakeholders in de discussie

De definitie van begrippen zoals ‘eerlijkheid’ of ‘transparantie’ is enorm afhankelijk van het gebruikte perspectief. Een bedrijf zal bepaalde zaken anders definiëren dan een gebruiker, techneut of wetgever. Niet alleen omdat de belangen verschillen, maar ook omdat iedereens overwegingen zijn gevormd door verschillende achtergronden. Door als bedrijf zijnde niet alleen je ontwerp keuzes te baseren op de meningen van data scientists, maar ook op die van domein experts, eindgebruikers en zelfs willekeurige burgers, neem je alle verschillende perspectieven mee in een weloverwogen beslissing.

Dit artikel is geschreven door Max Roeters, mede-oprichter van Brush AI