Tijdens het Border Sessions Festival reflecteerden diverse denkers op de toekomstige invloed van technologie op de maatschappij. De belangrijkste les? Stad- en dorpsmakers hebben belangrijke keuzes te maken over de inzet van technologie.
Spitsuur in een drukke stad. Een groepje schoolkinderen steekt onverwacht de straat over. De zelfrijdende auto op de weg registreert het gevaar direct, maar remmen is te laat. De machine staat voor een duivels dilemma: doorrijden en een aantal kinderen vrijwel zeker dodelijk verwonden of razendsnel afbuigen, tegen een muur aanrijden en de bestuurder doden. Het algoritme dat de zelfrijdende auto bestuurt, moet een dodelijke keuze maken. Dat deze beslissing in een split second gemaakt moet worden is geen probleem, aan rekenkracht geen gebrek. Veel ingewikkelder is welke keuze juist is, algoritmes kunnen optimaliseren, geen waardeoordelen geven.
Het voorbeeld wordt geschetst door computerwetenschapper Jeorg Blumtritt, een van de sprekers tijdens Border Sessions. Volgens Blumtritt is het geval van deze ‘killer car’ niet zo problematisch, omdat er een brede maatschappelijke discussie is ontstaan. Veel gevaarlijker zijn volgens hem algoritmes waarvan we veel minder goed weten hoe ze ons gedrag sturen. Hoe komt Facebook bijvoorbeeld aan de ‘top stories’ die je dagelijks gepresenteerd worden? Of wat gebeurt er eigenlijk in verkeers- en milieumodellen, die ruimtelijke ontwikkeling kunnen maken of breken? Het wordt pas duidelijk bij extremiteiten. Toen de orkaan Sandy actief was aan de Oostkust van de VS en het openbaar vervoer uitviel schoot de prijs van Uber-taxi’s omhoog. Simpelweg omdat de vraag enorm toenam en het algoritme dan logischerwijs besloot dat de prijs dan omhoog kan.
Critici spraken direct schande van deze zogenaamde ‘surge pricing’ door Uber. Het bedrijf profiteerde immers van een onvoorziene natuurramp. De discussie ontstond echter pas ná de prijsexplosie. Vooraf wist eigenlijk niemand precies wat er zich in het algoritme afspeelde. Het is cruciaal, aldus Blumtritt, dat modellen, code en algoritmes veel meer openbaar worden en zo onderdeel van publiek debat. De impliciete ethische keuzes die verpakt zitten in algoritmes zijn namelijk lang niet altijd transparant. In een ‘smart city’ zal het belang van relatief autonome algoritmes alleen maar toenemen. Zonder debat hierover en duidelijke, democratisch gelegitimeerde keuzes van haar burgers zou de smart city weleens een dom idee kunnen worden.
Tijdens Border Sessions reflecteerden denkers op de invloed van technologie op de maatschappij. (Foto: Joost Weddepohl)
De keuze is echter niet alleen hoe nieuwe technologie ingezet moet worden, maar ook of dit eigenlijk wel moet. Volgens de Belgische journalist en onderzoeker Kris Dedecker kan de stad onmogelijk duurzaam worden door simpelweg te in te zetten op windmolens, elektrische auto’s en zonnepanelen. Onze energieconsumptie moet radicaal omlaag. De sleutel ligt volgens hem in de herwaardering van oude technologie. De trollybus is in Nederland alleen nog in Arnhem te bewonderen, terwijl deze relatief goedkoop is en geen batterij nodig heeft. Daarnaast zijn auto’s rijdende computers geworden die enorm veel energie verbruiken. Daarom heeft een elektrische auto als de Nissan Leaf slechts een bereik van 50 kilometer. Als de huidige batterij zou worden toegepast in de elektrische auto die al in 1900 rondreed zou deze een bereik hebben van 1000 (!) kilometer, aldus Dedecker. En waarom verwarmen we hele ruimtes, als we met thermokleding een lichaam kunnen verwarmen?
Er valt wel wat af te dingen op de stelling van Dedecker, maar hij prikkelt in ieder geval tot nadenken over de rol van technologie in de stad. Een belangrijk debat, technologie wordt maar al te vaak teleologisch voorgesteld; alsof het pad naar de smart city of de zelfrijdende auto al van tevoren is uitgestippeld. De Franse wetenschapper Etienne Augé doet een concrete suggestie om dit debat vorm te geven: maak gebruik van science fiction. Fictieve, maar geïnformeerde speculatie over de toekomst. Nederland is, aldus Auge, het enige land in de wereld dat nooit een science fiction film heeft uitgebracht. Terwijl hier zo veel van de leren valt. Denk aan de wetten van robotica van Asimov (direct vertaalbaar naar bovengenoemde killer car), de dystopische stad uit Blade Runner (met Rutger Hauer!) of het recente Her, een bespiegeling op de rol van liefde in hoogtechnologische tijden. Wellicht een spannend slotstuk van het Jaar van de Ruimte?
—
Foto boven: Google car en demonstranten in Mountain View, Californië. (Travis Wise/ CC-BY-2.0)
Peter Pelzer Onderzoeker Universiteit Utrecht
Peter werkt als onderzoeker en docent aan de Urban Futures Studio van de Universiteit Utrecht.
