Bij het gebruik van nudges is onze autonomie in het geding, zeker wanneer zij gecombineerd worden met sensoren en slimme software. Niet alle vormen van nudging zijn problematisch. Weinig mensen zullen bezwaar hebben tegen verkeersdrempels, maar er zijn al meer mensen die zich ongemakkelijk voelen bij gedragsbeïnvloeding met behulp van geur, zo bleek in Eindhoven.
Slimme technologie schept bovendien de mogelijkheid om nudges steeds beter af te stemmen op specifieke kenmerken van personen, zodat het bijvoorbeeld voor jongeren onaantrekkelijk wordt gemaakt om in groepen samen te komen in een uitgaansstraat.
Voor zulke hypernudging is het niet eens nodig om personen te identificeren. Camera’s hoeven hen niet herkenbaar in beeld te brengen; het volstaat dat de software hen kan indelen in verfijnde categorieën. Deze vorm van manipulatie kan zich dus onttrekken aan de AVG.
Maar hypernudging tast ook de privacy aan. In de openbare ruimte betekent privacy niet zozeer dat we door anderen met rust gelaten worden, maar dat we onszelf kunnen zijn – binnen de grenzen van de wet – en zelf kunnen bepalen met wie we omgaan.
Als er geen grenzen gesteld worden aan nudging, kan ook de grondwettelijke vrijheid van vergadering en betoging in het geding komen, en daarmee onze politieke veiligheid.
Goedgeluimd
Naast slimme lantaarnpalen staan op Stratumseind zogenaamde CityBeacons. Dit zijn futuristische uitziende reclamezuilen met een groot beeldscherm, verschillende sensoren, een glasvezelverbinding en een wifirouter. Ze zijn cadeau gedaan door het gelijknamige bedrijf en via evenementenorganisator stichting Eindhoven 247 terechtgekomen in de binnenstad.
“De mogelijkheden zijn eindeloos, maar we gebruiken maar een beperkt deel van de opties in Nederland in verband met wetgeving”, vertelt Richard Ponjee van Eindhoven 247 bij de lancering van de CityBeacons.
“Er zitten ook camera’s in, die voldoen aan de kwaliteitseisen van de politie. Inclusief twee audience tracking camera’s. Die kunnen een heatmap maken en zo een druktebeeld genereren. Ze kunnen ook onderscheid maken tussen mannen en vrouwen, en leeftijd. En of iemand goedgeluimd is of niet.”
Zo ver kwam het tot nu toe niet. De Autoriteit Persoonsgegevens benadrukt dat als mensen herkenbaar in beeld komen, er sprake is van verwerking van persoonsgegevens. Dat betekent dat de Europese privacywetgeving, de AVG, van toepassing is.
Gezichtsherkenningscamera’s voor opsporing
Hoewel ze in Eindhoven onbenut blijven, roepen de mogelijkheden van de CityBeacons voor surveillance van passanten een belangrijke vraag op: hoe vrij wandelen we nog over straat als onze gangen worden gevolgd aan de hand van de signalen van onze smartphone of onze lichaamskenmerken?
De vraag is niet hypothetisch want de AVG bevat uitzonderingen, met name voor politie en justitie. Het is goed voorstelbaar dat de inzet van automatische gezichtsherkenning mensen niet alleen van illegale, maar ook van legale activiteiten weerhoudt, zoals deelname aan demonstraties. Te meer omdat gezichtsherkenningssoftware niet onfeilbaar is: soms wordt de verkeerde persoon geïdentificeerd als verdachte.
De huidige software bezit bovendien een discriminerende bias: bij vrouwen en niet-witte mensen is er een grotere kans op persoonsverwisseling. Tegenover de mogelijke voordelen van camera’s met automatische gezichtsherkenning voor de fysieke veiligheid, staan dus aanmerkelijke nadelen voor de politieke en digitale veiligheid van burgers.
Schimmige profilering
Steeds meer overheidsinstanties, waaronder gemeenten, voorspellen door koppeling van grote databestanden het gedrag van hun inwoners, om bijvoorbeeld schooluitval, criminaliteit en huiselijk geweld in te tomen.
Zonder het te weten worden inwoners doorgelicht, waarbij onduidelijk is welke gegevens worden gebruikt, welke analyses worden uitgevoerd en hoe de algoritmen bepalen wie er tot een risico worden bestempeld. Het Systeem Risico Indicatie (SyRI) maakt zo’n profiel van individuele burgers, nog voordat zij ergens van worden verdacht.
SyRI staat onder verantwoordelijkheid van de minister van Sociale Zaken en Werkgelegenheid en wordt ingezet om sociale zekerheids-, arbeids- en belastingfraude tegen te gaan.
Op verzoek van de betrokken gemeentebesturen heeft SyRI specifieke wijken in onder andere Eindhoven, Capelle aan den IJssel, Rotterdam en Haarlem doorgelicht om potentiële fraudeurs te identificeren. “Over onze werkwijze geven we geen informatie”, aldus een woordvoerder van het ministerie.
Overheidsorganisaties als het UWV, de Sociale Verzekeringsbank en de Belastingdienst maar ook gemeenten mogen grote bestanden met gegevens bij elkaar vegen en er het algoritme van SyRI op loslaten. Het algoritme wijst adressen aan waarop bewoners zich schuldig zouden kunnen maken aan fraude, nu of in de toekomst.
