Digitale volgsystemen De ‘smart city’ is een belofte om leefbaarheid te verbeteren, ook in Nederlandse steden. Maar uit recent onderzoek blijken grote valkuilen. Bepaalt straks een algoritme welke wijkbewoners een gevaar zijn?

 

Hudson Yards is nu nog de grootste bouwput van Manhattan. De eerste skeletten van de wolkenkrabbers zien er op het eerste gezicht niet anders uit dan alle andere in New York. Maar hier wordt geen gewone wijk gebouwd.

„We gaan met sensoren op elke hoek de luchtkwaliteit meten”, zegt Constantine Kontokosta, een van de directeuren van het project. „We gaan ook temperatuur, lichtniveaus en lawaai constant in kaart brengen.” Hij doet er bij CUSP, een instituut van New York University ook onderzoek naar; de gegevens wil hij combineren met data van gemeentelijke klachtenlijnen, de sociale dienst, mogelijk ook energiebedrijven.

„We gaan berichten op sociale media van bewoners bijhouden zodat we hun sentiment kunnen meten, en locatiedata van mobiele telefoons bijhouden via wifinetwerken zodat we zien hoe ze door de buurt bewegen.”

Vanaf volgend jaar, als de eerste bewoners er intrekken, moet Hudson Yards de eerstequantified community van de wereld worden: een wijk waarin alles en iedereen op elk moment van de dag gemeten wordt. „Voor het eerst kunnen we danin real time een wijk analyseren.” Met de data kan het gemeentebestuur bijvoorbeeld snel ingrijpen bij geluidsoverlast.

Op termijn wil hij ook gegevens over lichaamsbeweging, gezondheid en gewicht van de wijkbewoners verzamelen, bijvoorbeeld met data uit wearables zoals polsbandjes. „Geheel vrijwillig natuurlijk.” En alle data worden geanonimiseerd opgeslagen, zo bezweert hij. Hudson Yards wordt een van de duurste buurten van de stad; de ontwikkelaars verwachten dat er veel vraag is naar zo’n gekwantificeerd leven.

Zover als in New York gaat het vrijwel nergens, maar overal ter wereld worden burgers digitaal in kaart gebracht, vaak onder de naam ‘smart city’. Rotterdam komt dit najaar met een ‘smart city-aanpak’. Amsterdam heeft sinds vorig jaar een chief technology officer (CTO) – technologisch directeur zeg maar – die allerlei experimenten doet; van het plaatsen van sensoren voor druktemetingen in fietsenstallingen tot het geautomatiseerd in de gaten houden van mensenmassa’s tijdens evenementen. Ook de gemeente Midden-Drenthe heeft een eigen smart city-app.

„De beloftes zijn groot: de smart city kan erg veel opleveren”, zegt Jorrit de Jong, academisch directeur van het overheidsinnovatieprogramma van Harvard University. Er komt veel meer informatie beschikbaar waarop gemeenten hun beleid kunnen afstemmen. „Maar er zijn ook potentiële problemen. Daar wordt nog niet altijd even goed over nagedacht.”

MEGABOUWPUT MOET NIEUWE SLIMME WIJK WORDEN

Volgens de bouwbedrijven Related en Oxford Properties, is de nieuwe wijk Hudson Yards het grootste bouwproject ooit op het New Yorkse eiland Manhattan. Er hangt een totaal prijskaartje aan van ruim 20 miljard dollar (ruim 17 miljard euro), en er verrijzen 16 torens met woon-, winkel- en kantoorruimte.

De bouwers werken samen met de New York University om er de eerste quantified community van te maken: een wijk waarin op allerlei manieren informatie wordt verzameld en geanalyseerd worden. De inzichten die daaruit komen kunnen worden gebruikt door het stadsbestuur, en door de projectontwikkelaars.

Dit zijn de vier potentiële problemen:

1 De slimme stad wordt gehackt

Onderdelen van slimme steden worden al regelmatig gehackt: er zijn volop voorbeelden van ‘slimme’ straatverlichting die op afstand werd uitgeschakeld door onbevoegden en van stoplichten die werden gemanipuleerd door hackers. Ook in de systemen van energiecentrales en zelfs sluisdeuren is al vaker ingebroken. Hoe meer sensoren, infrastructuur en besturingssystemen een internetverbinding krijgen, hoe meer er kwetsbaar worden. „Niet alle kleine gemeenten hebben de capaciteit om de beveiliging even goed te regelen”, aldus De Jong.

En behalve de fysieke systemen moeten ook de gegevens goed zijn beschermd. Aan data uitslimme energiemeters is bijvoorbeeld af te leiden wanneer iemand thuis is. Handig voor inbrekers. Gezondheidsgegevens zijn een extra gevoelig onderwerp, bijvoorbeeld omdat die veel waard kunnen zijn voor verzekeraars. „De beveiliging en de privacybescherming van die data is van absoluut belang”, zegt Kontokosta. Maar ook hij erkent dat geen enkel systeem 100 procent waterdicht is.

Wat naast de beveiliging belangrijk is: wie is de eigenaar van de data? Een oplossing daarvoor komt uit Estland, dat op veel gebieden geldt als voorloper in digitalisering van de overheid. Daar blijven data over een burger van die burger zelf. „Dat kan transparanter maken wat er met gegevens gebeurt”, zegt Kontokosta. Maar het is technisch ingewikkeld om data over verschillende personen van elkaar te scheiden. Voorlopig zijn het de gemeentes of de uitbaters van de sensoren die de data in bezit krijgen.

2 De algoritmes worden oncontroleerbaar

Om patronen te ontdekken in de berg gegevens, zijn algoritmes nodig. Die doorzoeken de data op basis van een vaste set instructies. De instructies die in zo’n algoritme zijn ingeprogrammeerd, bepalen de uitkomst. Maar wat als die instructies ethisch niet door de beugel kunnen? Daarvan zijn nu al veel voorbeelden.

De Jong is behalve onderzoeker ook directeur van een Harvard-project in drie Amerikaanse steden. Daar lost zijn team met behulp van data problemen op met panden waar veel criminaliteit is. Wat blijkt? Door data over die panden te vergelijken met panden die in het verleden zijn ontspoord, is vaak te voorspellen dat er problemen ontstaan. „Een van de voorspellende factoren is bijvoorbeeld dat een bewoner zijn belastingen niet betaalt.”

Andere gegevens die een voorspellende waarde hebben zijn bijvoorbeeld data over het geluidsniveau in de buurt, gegevens van de politie, van de uitkeringsinstantie en andere persoonlijke informatie over de bewoners. Aan de hand van dat soort gegevens en de afweging die het algoritme maakt, kunnen politieagenten, maatschappelijk werkers en ambtenaren sneller ingrijpen als het dreigt mis te gaan.

Het algoritme stuurt dus beslissingen die grote impact kunnen hebben op de bewoners. De Jong: „Het is heel belangrijk dat zo’n algoritme deugdelijk is.” Vooral omdat potentieel ook factoren als etniciteit, leeftijd of inkomensniveau van de bewoners een rol kan spelen. „Dan kom je bijvoorbeeld al snel bij etnische profilering en andere ongrondwettige zaken.”

Ger Baron, de CTO van Amsterdam, herkent dit. Hij ontwikkelt een systeem dat hulpverleners op basis van grote hoeveelheden data helpt inschatten hoe veilig bepaalde buurten zijn. Dat wil de gemeente omdat brandweerlieden en ambulancemedewerkers wel eens worden belaagd. Het systeem werkt met kleurencodes: als in een huis of buurt mensen wonen die in het patroon passen van mensen met gewelddadig gedrag, springt de code op rood en gaat er bijvoorbeeld extra beveiligingspersoneel mee.

Hoe bepaal je dat het algoritme dat die codering bepaalt neutraal blijft en dus bijvoorbeeld niet onterecht rood wordt bij huizen alleen omdat er allochtonen wonen? „Het zou zomaar kunnen dat de kleurcode vaker negatief is in wijken met een laag inkomen bijvoorbeeld,” zegt Baron. Het hangt er maar net vanaf op basis van welke criteria het algoritme beslist.

„Politici en ambtenaren moeten vaker uitzoeken: waar is dat algoritme op gebaseerd?”, aldus De Jong. Politici lezen ook wetsontwerpen voordat ze ermee instemmen; ze moeten nu ook vaker het functioneel ontwerp van softwaretoepassingen snappen en de algoritmes begrijpen. Bestuurders hebben vaak niet de technische kennis om de techniek goed te beoordelen, volgens De Jong. „Dat hoeft niet erg te zijn, als ze maar doorvragen en grondig informatie inwinnen zoals ze dat ook bij wetsontwerpen doen.”

3 Bedrijven krijgen te veel invloed

Amsterdam en Eindhoven afficheren zich allebei als urban living lab: een stedelijk laboratorium voor nieuwe technologieën. Dat klinkt als de taal van technologiebedrijven. En dat is het ook. In Eindhoven betaalt het Franse bedrijf Atos grootschalige experimenten. Ger Baron van Amsterdam wordt naar eigen zeggen „dagelijks” benaderd door bedrijven die nieuwe technologieën willen uitproberen op Amsterdammers. Veruit de meeste wijst hij af.

Techbedrijven als Samsung, Microsoft, IBM en Alphabet (het voormalige Google) hebben de slimme stad ontdekt en zijn nauw betrokken bij veel projecten, ook in Nederland. Op zich is het niet raar dat ze mogen meedoen, want uit die bedrijven komen ook de vernieuwingen.

„Maar de belangen van bedrijven zijn zeker niet altijd de belangen van burgers”, zegt Baron. Ze hebben soms andere opvattingen over het eigendom van de data, of de transparantie van projecten. Voor de gemeenteraden is openheid en controleerbaarheid van belang, maar bedrijven willen soms meer geslotenheid om concurrenten niet wijzer te maken.

Hoe meer gemeenten smart city-projecten gaan doen, hoe groter het risico wordt dat ondeskundige ambtenaren zich te veel laten verleiden door technologiebedrijven. 

 

4 De overheid verprutst de IT

Smart city-projecten zijn in de kern gewoon IT-projecten. IT en de overheid zijn niet altijd een even fijne combinatie; vaak mislukken miljoenen kostende projecten. Als dat bij een smart city gebeurt, verzamelen gemeentes bovendien allemaal gevoelige informatie waar ze vervolgens niets mee kunnen.

De Jong van Harvard deed onderzoek naar wat bepaalt of een smart city-project een succes wordt of niet. Daaruit blijkt dat drie factoren cruciaal zijn. De eerste factor is het vermogen van gemeenten om zowel intern als extern samen te werken. Het draait bij smart city’s vaak om samenwerkingen met technologiebedrijven en samenwerking tussen gemeentediensten. Dat blijkt vaak lastig.

Herkenbaar, vindt Kontokosta. „Vooral gedeelde toegang tot data kan problemen opleveren: je ziet bijvoorbeeld zelden dat het bureau voor waterbeleid goed praat met het bureau dat energiedata verzamelt. En ook de combinatie van ambtelijke bureaucratie met snelle technologiebedrijven loopt niet altijd even goed.” Baron loopt in Amsterdam tegen dezelfde dingen op: „Dat moeten we echt nog veel beter regelen.”

De tweede factor die uit het onderzoek blijkt, is het vermogen van gemeentes om heldere doelen te stellen en daar meetbare criteria aan te koppelen. Nu wordt vaak vanuit de techniek gedacht: we hebben Twitter en allerlei sensoren, wat moeten we daarmee? Denken vanuit het oplossen van problemen van burgers is productiever, blijkt: we hebben een probleem met verlaten panden, welke technologie kunnen we gebruiken om dat op te lossen? .

Ten derde moet een gemeente in staat zijn om alle data te analyseren. Daar is expertise voor nodig die gemeenten niet altijd hebben, beamen Kontokosta als Baron. Een oplossing is meer datawetenschappers inhuren, maar die zijn nu overal in trek – ook bij bedrijven die diepere zakken hebben dan gemeenten. „Gemeenten zullen harder moeten concurreren om die mensen,” zegt De Jong.

Ondertussen gaan de experimenten snel verder. Telecombedrijf KPN lanceert dit najaar een speciaal netwerk in Den Haag en Rotterdam dat bedoeld is om allerlei sensoren met elkaar te verbinden. KPN hoopt dat dat de definitieve doorbraak betekent voor smart city-toepassingen in Nederland – daar verzorgt KPN graag het dataverkeer voor.

Ook Ger Baron heeft veel meer smart city-plannen met Amsterdam op korte termijn, en Kontokosta is niet van plan te stoppen bij Hudson Yards. Hij is met zijn team al bezig met andere quantified community-projecten: in een armere buurt van Brooklyn en in het financiële district van Manhattan. Daar kun je weer heel andere dingen meten dan in Hudson Yards.

 

Source: NRC, 17 oktober 2015