Buitenblik
CV Bart Wernaart (1983)
Auteur: Esther Schaareman | Foto: Verse Beeldwaren
Bart Wernaart, ethicus en gespecialiseerd in moral programming, ontwierp met een onderzoeksteam van wetenschappers en designers het Moral Lab, dat in 2019 te zien was op de Dutch Design Week. ‘We hebben geprobeerd heel fysiek een algoritme na te bootsen dat in een tent – met behulp van een blauwe en rode drukknop – in gesprek ging met de bezoeker over complexe morele vraagstukken.’
Wernaarts team is geïnteresseerd in de vraag hoe mensen tegenover technologie staan die ethische beslissingen neemt: hoe zeker moet bijvoorbeeld een algoritme van diens zaak zijn om data van een mogelijke fraudeur door te zetten naar opsporingsdiensten?
Een recent voorbeeld is de corona-app die veel kritiek kreeg. ‘Het vraagt veel nuance om grootheden als privacy en gezondheid tegen elkaar af te wegen. Privacy als geprogrammeerde waarde die je met een vragenlijstje invult, voelt anders dan hoe ik ‘m als mens ervaar.’ Als je smart technology wilt inzetten, stelt Wernaart, hebben we geen ‘exit strategie’ nodig maar een ‘exit filosofie’ die je van tevoren ontwikkelt: welke waarden stoppen we in technologie?
‘De vraagstukken waar we ons mee bezighouden zijn complex, evenals menselijke communicatie. De lockdown heeft online leergemeenschappen een boost gegeven, maar online communicatie reduceert altijd, dus alles wat we online doen is een alternatief, geen complete vervanging. Nuance is daarom niet alleen nodig voor het ontwikkelen van technologie, maar ook in de leergemeenschap zelf. Je hebt eerst de volle breedte van werkelijk en fysiek contact nodig om gezamenlijke waarden te kunnen vaststellen die ten grondslag liggen aan je online community. En hoe paradoxaal het ook klinkt, we moeten júist technologie inzetten om digitale communicatie verder te verfijnen en te nuanceren.’
Op dit moment is zijn team bezig met het ontwikkelen van een chatbot die in staat is om een ethische dialoog aan te gaan met mensen, waarin zaken als intonatie en gezichtsuitdrukking een rol spelen. ‘We hebben stemacteurs en ontwerpers nodig om die kant vorm te geven.’
Er is kortom een diepgaand gesprek nodig om als wetenschapper uit te kunnen leggen aan een designer wat de kern is van het vraagstuk waarover je data wilt verzamelen. ‘Andersom was het voor mij verhelderend om te zien dat een ontwerpproces niet per se gaat over hoe iets eruit ziet, maar over het vinden van de optimale vorm van een bepaald concept. Als je dat gesprek goed voert, kan je in de leergemeenschap gezamenlijk buiten de grenzen van je eigen domein treden en tot innovatie komen. Designers maken de complexiteit van de morele vraagstukken fysiek ervaarbaar – dat had ik nooit kunnen bedenken.’
