Hoe overheden en bedrijven je bespieden om je gedrag te manipuleren | Privacy symposium Usocia | Universiteit Utrecht | 2021-05-06 2. Vrij delen van informatie, kunst en cultuur Evidence-based policy met een lange-termijn visie Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten Vertrouwen burgers vs Wantrouwen ‘macht' Enthousiast over tech, maar alert op risico’s Tech to empower people; niet om te onderdrukken Basis principes PPNL Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 3. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 4. Amsterdam wil data verzamelen en delen, om: – Maatschappelijke vraagstukken oplossen – Dienstverlening verbeteren – Slimmer handhaven – Openbare ruimte beheren – Werkprocessen efficiënter – Zorg verbeteren – Patronen herkennen om gedrag te beïnvloeden “Amsterdam doet daarbij graag zaken met de markt” 5. Verkapte privatisering publieke diensten? Wie beheert AI in ‘slimme’ stad? Wie beheert de data die we samen produceren? Wie profiteert van de voordelen? Wie kampt met de nadelen? 6. Google ontwierp privacy policies voor buurten: - Mensen zouden getarget worden met producten - Zelfs getarget worden om stemgedrag te beïnvloeden Privacy adviseur Ann Cavoukian nam ontslag: "I imagined us creating a smart city of privacy, as opposed to a smart city of surveillance" Toronto: "The evaluation process will determine which parts of the proposal, if any, may be pursued further." Google Sidewalks Toronto Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 7. Privacy in ‘smart’ cities https://piratenpar tij.nl/zorgen-om- de-privacy-in-sli mme-steden/ 8. Niets te verbergen? Functie in sociale relaties Mogen anderen ook niks te verbergen hebben? Snowden: “I don't care about privacy, 'because I have nothing to hide', is like I don't care about free speech, Because I have nothing to say" Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 9. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 10. 15-12-16 SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY • Allerlei data die je met overheid deelt wordt aan elkaar geknoopt. • Iedereen is bij voorbaat verdacht → bestempeld met risicoprofiel. • Op basis hiervan wordt je extra in de gaten gehouden, zonder dat je dit weet. • https://bijvoorbaatverdacht.nl/ Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 11. 15-12-16 SyRI in Rotterdam 25.000 bewoners Bloemhof en Hillesluis op fraude onderzocht • 50% Foutmarge • 10% werd onderzocht • 0(!!) fraudegevallen opgespoord Na ophef gestopt met experiment Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021 12. https://nos.nl/artikel/2366864-fraud e-opsporen-of-gevaar-van-discrimin atie-gemeenten-gebruiken-slimme- algoritmes Toeslagenschandaal Toeslagenaffaire

1. Hoe overheden en bedrijven je
bespieden om je gedrag te sturen
Matthijs Pontier, Ph.D.

2. Vrij delen van informatie, kunst en cultuur
Evidence-based policy met een lange-termijn visie
Zelfbeschikking stimuleren zonder dat dit ten koste gaat van rechten
Vertrouwen burgers vs Wantrouwen ‘macht'
Enthousiast over tech, maar alert op risico’s
Tech to empower people; niet om te onderdrukken
Basis principes PPNL
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

3. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

4. Amsterdam wil data
verzamelen en delen, om:
– Maatschappelijke
vraagstukken oplossen
– Dienstverlening verbeteren
– Slimmer handhaven
– Openbare ruimte beheren
– Werkprocessen efficiënter
– Zorg verbeteren
– Patronen herkennen
om gedrag te beïnvloeden
“Amsterdam doet daarbij
graag zaken met de markt”

5. Verkapte privatisering publieke diensten?
Wie beheert AI in
‘slimme’ stad?
Wie beheert de
data die we
samen
produceren?
Wie profiteert van
de voordelen?
Wie kampt met de
nadelen?

6. Google ontwierp privacy policies voor buurten:
- Mensen zouden getarget worden met producten
- Zelfs getarget worden om stemgedrag te beïnvloeden
Privacy adviseur Ann Cavoukian nam ontslag:
"I imagined us creating a smart city of privacy,
as opposed to a smart city of surveillance"
Toronto: "The evaluation process will determine which
parts of the proposal, if any, may be pursued further."
Google Sidewalks Toronto
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

7. Privacy in ‘smart’ cities
https://piratenpar
tij.nl/zorgen-om-
de-privacy-in-sli
mme-steden/

8. Niets te verbergen?
Functie in sociale relaties
Mogen anderen ook niks te verbergen hebben?
Snowden: “I don't care about privacy,
'because I have nothing to hide', is like
I don't care about free speech,
Because I have nothing to say"
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

9. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

10. 15-12-16
SyRI https://www.youtube.com/watch?v=2GkXCzYdrBY
• Allerlei data die je met overheid
deelt wordt aan elkaar geknoopt.
• Iedereen is bij voorbaat verdacht
→ bestempeld met risicoprofiel.
• Op basis hiervan wordt je extra
in de gaten gehouden, zonder
dat je dit weet.
• https://bijvoorbaatverdacht.nl/
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

11. 15-12-16
SyRI in Rotterdam
25.000 bewoners Bloemhof en
Hillesluis op fraude onderzocht
• 50% Foutmarge
• 10% werd onderzocht
• 0(!!) fraudegevallen opgespoord
Na ophef gestopt met experiment
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

12. https://nos.nl/artikel/2366864-fraud
e-opsporen-of-gevaar-van-discrimin
atie-gemeenten-gebruiken-slimme-
algoritmes
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021
Toeslagen

13. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

14. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

15. Privacy inperken voor veiligheid?
1. Niet effectief
2. Leidt tot ongezonde machtsverhouding
3. Privacy juist voorwaarde voor veiligheid
4. Er bestaan prima alternatieven
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit

16. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

17. Overheid niet altijd betrouwbaar
Overheid laat gegevens slingeren
WRR: Overheid onbetrouwbaar met gegevens.
Informatie wordt gemanipuleerd.
Ook overheid kan misdadig gedrag vertonen

18. Function Creep
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

19. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

20. Mass surveillance: voor 1 target, tienduizenden bespieden
Info delen met dubieuze regimes
Devices bewust lek houden om ons te hacken
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

21. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021
https://www.nrc.nl/nieuws/2021/03/
07/wij-kunnen-ons-werk-zo-niet-doe
n-a4034577

22. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

24. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

25. Profiling
Big Data algoritmes krijgen
dezelfde bias als hun makers
en/of trainingsdata
Dit versterkt discriminatie van
gestigmatiseerde groepen
(en sommigen zullen het zelfs
gebruiken ter rechtvaardiging)
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

26. Big Data
algoritmes
krijgen dezelfde
bias als hun
makers en/of
trainingsdata

28. Slachtoffers van Profiling

29. Monopolization
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

30. Hoe groter het bedrijf
Hoe groter het
machtscentrum
Hoe groter de kans dat
een bedrijf deze macht
op een verkeerde
manier gaat gebruiken
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

31. 15-12-16
Surveillance Capitalism

32. 15-12-16
Cambridge Analytica
Mensen
emotioneel
raken, op hun
zwakste moment
Stemgedrag
beinvloeden
Doorstart als
Emerdata, na
ophef

33. Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

34. Als technologie voor je denkt
Vertellen programmeurs dan wat je moet denken?
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

35. How can we do better?
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

36. Responsible Digital Cities
Bewoners bepalen wat er met hun data gebeurt: Privacy = Ownership
Bewoners bepalen hoe we technologie inzetten Democratie
Verzamelde data is gemeenschapsgoed: Commons
Openheid over dataverzameling en verwerking Transparantie
Iedereen kan meedoen: Inclusie
Menselijke maat staat centraal in alles wat we doen Empathie
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

37. Gebruik alternatieven voor Big Tech (Google, Facebook, Microsoft, Amazon)
Enrypt e-mail Protonmail
Encrypt phone Signal
Encrypt messaging Signal
Iets van het Internet afhalen bestaat niet.
Betaal zoveel mogelijk contant
Weiger slimme meter; Wees kritisch over ‘smart’
https://www.fixjeprivacy.nl/
Gebruik Tor, VPN, Privacy Badger, uBlock, AdNauseam, YAB, HTTPS Everywhere
Laat je niet meeslepen in de datasleepnetten
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

38. Book: Machine Medical Ethics
38
• How to develop robots with
human-like ethics?
• Need for Open Source
• How to use healthcare tech in a
way that improves well-being
• Changed doctor-patient relation
• Deep Brain Stimulation
• Sex-robots
• Etc.
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

39. Thanks!
• @Matthijs85
• Matthijs Pontier
• matthijs@piratenpartij.nl
• http://www.piratenpartij.nl/
• @Piratenpartij
• Lid worden? 19,84 per jaar
• Actief worden?
• vrijwilligers@piratenpartij.nl
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021

40. More reading and watching
Eenvandaag interview: "Zorgen om privacy in 'slimme' steden
NHNieuws interview: "Heb meer vertrouwen in de samenleving bij
corona-aanpak"
Waarom corona apps meer kwaad dan goed zullen doen
Interview over discriminerende algoritmes en eerlijke arbeidsmarkt
Weapons of math destruction
The Circle (book) (movie)
Tegenlicht: De Grote Dataroof, Big Data Business, Rijdende Robot
Toezichthouders inlichtingendiensten: “Zo kunnen wij ons werk niet doen”
Hoe ‘defensie’de eigen bevolking in de gaten houdt
Matthijs Pontier, Ph.D., Privacy symposium Usocia, Universiteit Utrecht 06-05-2021