Concrete stap naar verantwoorde IT
Toch ligt de overgang naar verantwoorde IT binnen handbereik, betoogt Piersma. Haar boek System error, please restart (een term uit de computergeschiedenis) symboliseert die opgave voor haar onderzoeksteam, dat verantwoorde ICT wil creëren. Zeker nu kunstmatige intelligentie in opkomst is.
Hoe kun je andere ontwerpkeuzes maken en verantwoorde ICT bouwen? In haar boek formuleert Piersma nieuwe kaders die duidelijkheid moeten bieden aan IT-beoefenaars en -ontwerpers.
Digitale integriteit
Ten eerste, betoogt Piersma, kun je bij het ontwerpen werken vanuit het principe van 'digitale integriteit'. "Als er bloed van je wordt afgenomen, heb je daar in de regel toestemming voor gegeven. Maar digitaal worden persoonlijke gegevens voortdurend gebruikt en geanalyseerd, zonder dat je dat weet. Deze gegevens worden ook verwerkt als ze niet nodig zijn." Voor het kopen van een festivalticket zijn bijvoorbeeld je naam en adres niet nodig, maar de online webshop vraagt er wel om in gestandaardiseerde invoervelden.
Digitaal comfort
Een tweede belangrijk principe waar ontwerpers rekening mee kunnen houden is digitaal comfort. Piersma: "Sommige apps zijn makkelijk te downloaden en handig in gebruik, maar veroorzaken toch een stemmetje in je achterhoofd dat zegt: is dit wel veilig? Wat gebeurt er met mijn persoonlijke gegevens? Ze dringen je persoonlijke ruimte binnen, en dat voelt niet prettig."
Als ontwerper kun je je ook richten op dat dieper gevoelde comfort van gebruikers, in plaats van alleen gebruiksgemak. Meer controle over gegevens is belangrijk. "Geef mensen controle over hun eigen IT-systeem: wie ziet mijn gegevens, wat kan ik zelf zien, kan ik dingen blokkeren of controleren? We moeten systemen dichter bij de mensen brengen. Als je die richtlijnen aan ontwerpers geeft, komen er andere ontwerpen uit."
De menselijke maat
Een andere richtlijn is de menselijke maat. "We gebruiken tegenwoordig overal kunstmatige intelligentie voor, zelfs voor problemen die allang zijn opgelost. Dat leidt soms tot onverantwoorde oplossingen. Camera's met beeldherkenningsalgoritmes gebruiken om het aantal reizigers in een trein of in een supermarkt te tellen? Daar zijn andere methoden voor. De NS monitort overigens de drukte door het gewicht van treinwagons; een prima oplossing."
Tot slot noemt Piersma toekomstbestendigheid als ontwerpprincipe: duurzaam en robuust bouwen voor de lange termijn. "Zorg dat het werkt en blijft werken, ook als de toepassing op een ander computersysteem wordt gebruikt." De donutprincipes van Kate Raworth sluiten hier perfect op aan: gebruik IT-ontwerpkeuzes om de aarde zo min mogelijk te belasten en respecteer de sociale context.
Dat zijn de vier onderliggende principes die ontwerpers kunnen gebruiken om anders te ontwerpen. "Een wezenlijk verschil met een ethisch kader waarmee je controleert of je alle vakjes hebt afgevinkt."
Mensen zullen veranderen
"We hebben lang genoeg gehuild over wat er mis is", besluit Piersma. "Mijn team onderzoekt hoe we het anders kunnen doen, om dat zetje in de richting van verantwoordelijk zijn te geven. Mijn theorie is: de technologie is er vaak al. Het zijn de mensen en de maatschappij die het moeten gaan implementeren. Mensen zullen de veranderingen gaan zien en omarmen. En de IT-ers zijn nu ook aan zet om digitale systemen anders te programmeren met andere ontwerpkeuzes."
Het streven naar verantwoorde IT vraagt uiteindelijk om een andere houding van gebruikers, betoogt Piersma. Die hebben hoge verwachtingen en gaan ervan uit dat alle systemen goed werken. Gebruikers moeten zich gaan realiseren dat ICT en clouddiensten niet abstract en hightech zijn, maar een directe impact hebben op onze fysieke leefomgeving. "'De cloud' is geen wolk in de lucht, maar een centrum in de grond dat gekoeld moet worden."
Datakluis
Piersma gelooft niet dat verantwoorde IT betekent dat alles opnieuw moet. "Geloof me, we worden niet blij als later blijkt dat onze bankieren-app niet meer werkt omdat we helemaal opnieuw zijn begonnen. Een handige oplossing is bijvoorbeeld een datakluis, waarin je je eigen gegevens opslaat en anderen toestemming geeft om bepaalde gegevens te gebruiken. Met een datakluis geef je een winkel alleen een kluisnummer en het artikel dat je wilt kopen. Je geeft de koerier je adres en aan de bank geef je de opdracht om te betalen. Dat is heel anders dan dat elke webshop al je gegevens verzamelt en doorgeeft aan de bank en de koerier."
Bron: Hogeschool van Amsterdam
